هشدار درباره خطرات هوش مصنوعی: هیچ شرکتی نمی‌تواند ابرهوش را کنترل کند

تحقیق مؤسسه Future of Life نشان می‌دهد که هشت شرکت برتر هوش مصنوعی فاقد اقدامات ایمنی کافی و برنامه‌های بلندمدت برای مدیریت ریسک هستند. در ارزیابی ایمنی هوش مصنوعی، شرکت‌های آمریکایی بهترین امتیازها را کسب کردند و محصول Anthropic بالاتر از OpenAI و DeepMind قرار گرفت. با این حال، هیچ‌یک از این شرکت‌ها نتوانستند نمره بالاتر از D در ارزیابی «ریسک وجودی» بگیرند و شرکت‌هایی مانند Alibaba Cloud و Meta نمره F را دریافت کردند.

این تحقیق به ضعف‌های ساختاری در ایمنی وجودی اشاره کرده و نگرانی‌ها درباره فاصله بین پیشرفت در توسعه هوش مصنوعی عمومی و نبود برنامه‌های کنترل معتبر را افزایش می‌دهد. استورات راسل، پروفسور علوم رایانشی دانشگاه UC Berkeley، بیان کرده که مدیران ارشد می‌دانند چگونه ابرهوش بسازند، اما هیچ‌کس نمی‌تواند راهی برای مهار خطر از دست رفتن کنترل آن ارائه دهد. او تأکید کرده که کاهش ریسک از دست دادن کنترل به سطح ایمنی مشابه راکتورهای هسته‌ای امکان‌پذیر نیست.