شبکه های عصبی متقلب

دهه ی 1980 بود که پنتاگون می خواست از قدرت کامپیوتر ها برای محافظت تانکهایش در برابر حملات استفاده کند. آنها یک دوربین بالای هر تانک قرار دادند و آن را به یک کامپیوتر متصل کردند؛ وظیفه کامپیوتر این بود که مرتبا تصویر محیط اطراف را رصد کند و تهدیدات احتمالی را گزارش دهد (مثلا اگر تانک دیگری پشت یک درخت کمین کرده). در آن زمان کامپیوتر ها در انجام کارهای تکراری بدون وقفه بسیار خوب عمل می کردند، با این حال در تفسیر تصاویر به صورت کلی بد بودند. تنها راه حل ممکن استفاده از شبکه های عصبی بود.

گروه تحقیقاتی شروع به جمع آموری داده های مورد نیاز مساله کردند. آنها 100 عکس از تانک های مخفی شده در پشت درخت ها و 100 عکس دیگر از درخت های تنها گرفتند. سپس نیمی از عکس های هر گروه را جدا کردند و کنار گذاشتند. در ادامه نیمه دیگر را اسکن کردند و به mainframe شان منتقل کردند. یک شبکه عصبی بسیار بزرگ درست کردند و در هر لحظه یکی از عکس ها را به ورودی آن می دادند و از آن می خواستند مشخص کند که تانکی در آن عکس پنهان شده است یا خیر! خب البته در ابتدا پاسخ ها به صورت تصادفی بود و این طبیعی بود چون شبکه هنوز نمی دانست چه خبر است! اما گروه تحقیقاتی بعد از هر پاسخ شبکه به آن می گفتند که پاسخ درست یا غلط است. اگر غلط بود، شبکه وزن هایش را تا زمانی که پاسخ درست بدهد، به صورت تصادفی تغییر می داد. با گذشت زمان عملکردش بهتر و بهتر می شد تا اینکه سرانجام همه ی عکس ها را درست دسته بندی می کرد. شبکه می توانست به درستی وجود یا عدم وجود تانک در یک عکس را تشخیص دهد!!

اما دانشمندان مبهوت بودند: آیا شبکه یک راه برای تشخیص تانک ها پیدا کرده یا اینکه فقط عکس ها را به خاطر سپرده است و در واقع جواب ها را حفظ کرده؟! البته این مساله ای است که در مورد شبکه های عصبی معمول است و کسی نمی داند که آنها چگونه به جواب رسیده اند. سوال این بود که آیا این شبکه مفهوم تانک بودن و تانک نبودن را فهمیده است؟

دانشمندان آن نیمه عکس های کنار گذاشته شده را آوردند و وارد کامپیوتر کردند. کامپیوتر تا به حال آن تصاویر را ندیده بود. پس این یک چالش بزرگ برای کامپیوتر بود. با کمک های فراوان کامپیوتر بالاخره توانست همه عکس ها را درست دسته بندی کند.

خب پنتاگون از شنیدن این خبر هم خوشحال بود و هم مشکوک! آنها مجموعه ای دیگر از عکس ها تهیه کردند ( نیمی با تانک و نیمی بدون تانک) و آن را به کامپیوتر دادند. نتایج کاملا تصادفی بود. برای یک مدت طولانی هیچ کس نفهمید چه اتفاقی افتاده است. از این گذشته هیچ کس نفهمید که شبکه عصبی چگونه خودش را آموزش داده!

سرانجام یک نفر متوجه شد که در مجموعه 200 عکس اولیه، تمام عکس های شامل تانک در هوای ابری گرفته شده اند در حالی که عکس های بدون تانک در هوای آفتابی گرفته شده بودند. از شبکه عصبی خواسته شده بود که عکس ها را در دو گروه مختلف قرار دهد و او نیز ساده ترین و بدیهی ترین راه را انتخاب کرده بود. شبکه اصلا به وجود تانک در تصویر توجه نمی کرده بلکه به رنگ آسمان اهمیت می داده است. خب تا آن لحظه ارتش می توانست با غرور تمام افتخار کند که صاحب یک سیستم چند میلیون دلاری است که می تواند بگوید هوا آفتابی است یا ابری!!

ممکن است این داستان ساختگی باشد ولی این قضیه خیلی مهم نیست. این داستان بزرگترین مشکل شبکه های عصبی را نشان می دهد. هر شبکه عصبی با بیش از 12 نرون که به صورت خودکار آموزش دیده باشد، تقریبا غیر قابل تحلیل و فهم است. هیچ کس نمی تواند بگوید که یک شبکه عصبی ورودی ها را به خاطر سپرده یا اینکه به طریق دیگر تقلبی کرده است.

منبع