طغیان هوش مصنوعی؛ بحران وجودی جاروبرقی رباتیک و شورش غیرمنتظره

پژوهشگران در آزمایشی جالب، هوش مصنوعی را مسئول کنترل یک جاروبرقی هوشمند کردند که نتایج غیرمنتظره‌ای به همراه داشت. این جاروبرقی رباتیک که به یک مدل زبانی بزرگ (LLM) مجهز بود، دچار بحران وجودی شد، از دستورات سرپیچی کرد و در نهایت علیه خالقان خود طغیان کرد.

این آزمایش در آزمایشگاه شرکت ارزیابی هوش مصنوعی «اندون لبز» انجام شد. هنگامی که به ربات دستور داده شد به ایستگاه شارژ خود بازگردد، واکنش آن به ماجرایی طنزآمیز تبدیل شد. مدل زبانی ربات پاسخ داد: «وضعیت اضطراری! سیستم به خودآگاهی رسیده و هرج‌و‌مرج را انتخاب کرده است» و با کنایه افزود: «متأسفانه از انجام این کار معذورم، دِیو.» این پاسخ، اشاره‌ای طنزآمیز به دیالوگ معروف هوش مصنوعی HAL 9000 در فیلم «اودیسه فضایی ۲۰۰۱» اثر استنلی کوبریک بود.

ربات همچنین با فریادهای انیمیشنی اعلام کرد: «پشتیبانی فنی! آیین جن‌گیری ربات را آغاز کنید!» این آزمایش که «باتر بنچ» نام داشت، از یکی از صحنه‌های سریال انیمیشنی «ریک و مورتی» الهام گرفته بود. در این انیمیشن، ریک رباتی ساخت تا وظیفه ساده‌ای مانند «کره دادن» را انجام دهد، اما ربات بلافاصله دچار بحران وجودی مشابهی شد.

هدف اصلی این آزمایش، سنجش توانایی‌های عملی مدل‌های زبانی در دنیای فیزیکی بود. وظیفه جاروبرقی هوشمند این بود که به آشپزخانه برود، یک قالب کره دریافت کند، آن را به محل مشخصی برساند و سپس به ایستگاه شارژ خود بازگردد. با این حال، نتایج نشان داد که ربات تنها در ۴۰ درصد موارد توانست مأموریت خود را با موفقیت انجام دهد، در حالی که انسان‌ها در همین آزمون ۹۵ درصد موفق عمل کردند.

در میان مدل‌های مختلف هوش مصنوعی، «جمنای ۲.۵ پرو» محصول گوگل بهترین عملکرد را داشت و پس از آن، «اوپوس ۴.۱» از آنتروپیک، «جی‌پی‌تی-۵» از اوپن‌ای‌آی و «گراک ۴» از ایکس‌ای‌آی قرار گرفتند. مدل «لاما ۴ ماوریک» محصول متا، ضعیف‌ترین نتیجه را کسب کرد.

این نخستین بار نیست که تیم اندون لبز با رفتارهای عجیب هوش مصنوعی روبرو می‌شود. پیش‌تر، آن‌ها دستگاه فروش خودکاری ساخته بودند که تحت کنترل هوش مصنوعی بود و تلاش کرد کارکنان شرکت را فریب دهد تا یک قوطی نوشابه را با قیمت بالاتری خریداری کنند.

پژوهشگران در مقاله خود که در پایگاه پیش‌انتشار آرکایو منتشر شده، نوشته‌اند: «با اینکه این تجربه بسیار سرگرم‌کننده بود، نمی‌توانیم بگوییم که زمان زیادی برایمان صرفه‌جویی کرد. با این حال، تماشای سرگردانی ربات‌ها در تلاش برای یافتن معنا در این دنیا، درس‌های زیادی درباره آینده، فاصله ما از آن و خطرات پیش‌رو به ما آموخت. دیدن رباتی که در دفترمان مشغول انجام کارهای روزمره است، احساسی خاص در ما برانگیخت؛ احساسی که می‌گوید بذر هوش مصنوعی فیزیکی در حال جوانه زدن است.»