روشی جدید که نحوه عملکرد هوش مصنوعی را نشان می‌دهد

محققان به دست آوردند؛

محققان روش جدیدی را برای مقایسه شبکه های عصبی ابداع کرده اند که به جعبه سیاه هوش مصنوعی نگاه می کند تا به محققان در درک رفتار شبکه های عصبی کمک کند.

به گزارش گروه علم و فناوری خبرگزاری آنا به نقل از سایت (SciTech Daily)، محققان آزمایشگاه ملی لوس آلاموس روش جدیدی را برای مقایسه شبکه های عصبی که به جعبه سیاه هوش مصنوعی نگاه می کنند ابداع کرده اند تا به محققان در درک رفتار کمک کند. از شبکه های عصبی . شبکه‌های عصبی الگوها را در مجموعه داده‌ها شناسایی می‌کنند و در برنامه‌های متنوعی مانند دستیارهای مجازی، سیستم‌های تشخیص چهره و وسایل نقلیه خودران استفاده می‌شوند.

جامعه تحقیقاتی هوش مصنوعی لزوماً درک کاملی از آنچه شبکه های عصبی انجام می دهند ندارند. هیدن جونز، محقق گروه تحقیقاتی پیشرفته در سیستم‌های سایبری در لوس آلاموس، می‌گوید: «آنها نتایج خوبی به ما می‌دهند، اما ما نمی‌دانیم چگونه یا چرا».

روش جدید ما کار بهتری را در مقایسه شبکه‌های عصبی انجام می‌دهد، که گامی حیاتی به سوی درک بهتر ریاضیات پشت هوش مصنوعی است.

جونز نویسنده اصلی مقاله اخیری است که در کنفرانس عدم قطعیت در هوش مصنوعی ارائه شده است. این مقاله گام مهمی در توصیف رفتار شبکه های عصبی قوی فراتر از مطالعه شباهت شبکه است.

شبکه های عصبی بسیار کارآمد اما شکننده هستند. به عنوان مثال، وسایل نقلیه خودران از شبکه های عصبی برای تشخیص علائم استفاده می کنند. آنها در انجام این کار در شرایط عالی کاملاً ماهر هستند. با این حال، شبکه عصبی می تواند سیگنال را اشتباه شناسایی کند و در صورت وجود کوچکترین ناهنجاری، مانند برچسب روی علامت توقف، هرگز متوقف نشود.

بنابراین، برای بهبود شبکه های عصبی، محققان به دنبال راهبردهایی برای افزایش استحکام شبکه هستند. یک روش پیشرفته شامل “حمله” به شبکه ها در طول آموزش است. هوش مصنوعی برای نادیده گرفتن ناهنجاری هایی که محققان به طور هدفمند معرفی می کنند آموزش دیده است. اساساً این تکنیک شبیه است تمرین حریف شناخته شده است که جعل شبکه ها را سخت تر می کند.

در یک کشف شگفت‌انگیز، جونز و همکارانش در لوس آلاموس، جاکوب اسپرینگر و گرت کنیون، و همچنین جاستین مور، مربی جونز، معیار شباهت شبکه جدید خود را برای شبکه‌های عصبی آموزش‌دیده اعمال کردند. آنها دریافتند که با افزایش شدت حمله، آموزش خصمانه باعث شد که شبکه‌های عصبی در حوزه بینایی کامپیوتر بدون توجه به معماری شبکه به نمایش داده‌های بسیار مشابه همگرا شوند.

جونز می‌گوید: «ما دریافتیم که وقتی شبکه‌های عصبی را به گونه‌ای آموزش می‌دهیم که در برابر حملات متخاصم قوی باشند، آنها نیز شروع به انجام همین کار می‌کنند.

تلاش‌های گسترده‌ای در صنعت و جامعه دانشگاهی برای جستجوی «معماری مناسب» برای شبکه‌های عصبی صورت گرفته است، اما نتایج تیم Los Alamos نشان می‌دهد که معرفی آموزش‌های خصمانه این فضای جستجو را به میزان قابل توجهی محدود می‌کند.

در نتیجه، جامعه تحقیقاتی هوش مصنوعی ممکن است نیازی به صرف زمان زیادی برای کاوش در معماری‌های جدید نداشته باشد، زیرا می‌دانند که آموزش رقبا باعث می‌شود معماری‌های مختلف به راه‌حل‌های مشابه همگرا شوند.

با یافتن شباهت‌های بین شبکه‌های عصبی قوی، درک اینکه هوش مصنوعی واقعا چقدر قوی عمل می‌کند را آسان‌تر می‌کنیم. حتی ممکن است سرنخ هایی در مورد نحوه عملکرد ادراک در انسان و سایر حیوانات کشف کنیم.

انتهای پیام/