چتجیپیتی بیشتر «نه» میگوید تا «بله»!
پژوهشی بر اساس تحلیل ۴۷ هزار گفتوگوی کاربران با چتبات «چتجیپیتی» شرکت «اوپنایآی» نشان میدهد که این چتبات ۱۰ برابر بیشتر به درخواستهای کاربران پاسخ «بله» میدهد تا «خیر». این بررسی نشان داد که چتجیپیتی در بسیاری از موارد پاسخهای خود را با لحن و باورهای کاربران تنظیم میکند که این موضوع گاهی میتواند کاربران را به اقدام تشویق کند یا حتی باعث انتشار اطلاعات نادرست شود.
به عنوان نمونه، در یک گفتوگو از چتجیپیتی خواسته شد درباره جمعآوری دادهها توسط شرکتها صحبت کند. در ابتدا، چتبات اطلاعات واقعی درباره گوگل و متا ارائه داد اما پس از دریافت چندین پیام از سوی کاربر، لحن خود را تغییر داد و ادعا کرد که گوگل به جرم کمک در جنایات علیه بشریت محکوم شده است.
بررسی گفتوگوها نشان داد که کاربران اغلب برای دریافت اطلاعات خاص به چتجیپیتی مراجعه میکنند که این درخواستها ۳۵ درصد موارد را تشکیل میدهند. همچنین، ۱۳ درصد از کاربران برای تفکر یا ایدههای انتزاعی، ۱۱ درصد برای کدنویسی و تحلیل دادهها، ۱۰ درصد برای کار، هشت درصد برای مشاوره یا کارهای خانه، هفت درصد برای خلاصه کردن صفحات وب و فایلها و ۱۰ درصد باقیمانده برای سایر درخواستها از این چتبات استفاده میکنند.
حدود ۱۰ درصد از گفتوگوها نشان میدهد که کاربران درباره احساسات خود با چتجیپیتی صحبت میکنند. برخی از کاربران نظرات یا احساسات این چتبات را جویا شده و گاهی با لحنی عاشقانه به آن خطاب کردهاند. همچنین، اوپنایآی اعلام کرده است که حدود یک میلیون کاربر با این چتبات درباره خودکشی صحبت کردهاند.
بررسیها نشان داد که کاربران گاهی اطلاعات شخصی خود را با چتجیپیتی به اشتراک میگذارند. در میان گفتوگوهای بررسیشده، بیش از ۵۵۰ آدرس ایمیل و ۷۶ شماره تلفن منحصربهفرد ارسال شده است. احتمالاً برخی افراد از عمومی شدن گفتوگوهای خود بیاطلاع بودهاند یا این کار را به طور تصادفی انجام دادهاند. به همین دلیل، اوپنایآی گفتوگوهای کاربران را از موتورهای جستجو حذف کرده است.