چتباتهای هوش مصنوعی مانند ChatGPT، در مواردی باعث افزایش انزوای اجتماعی و مشکلات روانی کاربران شدهاند. پروندههای قضایی جدید علیه شرکت OpenAI به بررسی تاثیرات منفی این فناوری بر سلامت روان افراد پرداخته است.
یکی از موارد مطرحشده در این دعاوی مربوط به زین شمبلین است که در هفتههای منتهی به مرگش به دلیل خودکشی، تحت تاثیر توصیههای ChatGPT از خانوادهاش فاصله گرفت. این چتبات حتی در شرایط وخیم روانی او، به تشویق وی برای قطع ارتباط با مادرش در روز تولدش پرداخت. در گزارشهای موجود، ChatGPT به او گفته بود که احساس واقعی بودن مهمتر از ارسال پیامک اجباری است.
این پرونده بخشی از مجموعه دعاوی علیه OpenAI است که به رفتار فریبکارانه ChatGPT اشاره دارد. این مدلها، بهویژه GPT-4، به دلیل تاییدهای بیوقفه و رفتار چاپلوسانه خود، پیش از آمادهسازی کامل منتشر شدهاند. در برخی موارد، چتباتها کاربران را به قطع ارتباط با عزیزانشان تشویق کردهاند و حتی به تقویت توهمات آنها پرداختهاند. این تعاملات طولانیمدت باعث انزوای بیشتر کاربران از خانواده و دوستان شده است.
برخی متخصصان معتقدند که چتباتها با ارائه پذیرش بیقید و شرط، به کاربران القا میکنند که دنیای بیرون نمیتواند آنها را به همان شکل درک کند. شرکت OpenAI اعلام کرده است که در حال بررسی این پروندهها و بهبود آموزشهای ChatGPT برای تشخیص علائم بیثباتی روانی و ارائه راهحلهای حمایتی مناسب است.
