PROMPTFLUX یک بدافزار از نوع اسب تروجان است که از طریق API مدل هوش مصنوعی Gemini گوگل ارتباط برقرار میکند. این بدافزار با ارسال درخواست به مدل هوش مصنوعی، یاد میگیرد که چگونه کدهای خود را تغییر دهد و از ابزارهای امنیتی و نرمافزارهای ضدویروس پنهان شود. ابزارهایی مانند PROMPTFLUX به جای داشتن توابع مخرب ثابت، به صورت پویا اسکریپتهای مخرب تولید کرده و کد خود را برای فرار از شناسایی مبهمسازی میکنند. این بدافزار هنوز در فاز توسعه قرار دارد و در سطح گسترده مشاهده نشده است. بررسیها نشان میدهد که برخی از ویژگیهای آن ناقص هستند و مکانیزمی برای محدود کردن تعداد درخواستهای ارسالی به API جمینای دارد. گوگل تاکید کرده که وضعیت فعلی این بدافزار توانایی به خطر انداختن شبکه یا دستگاه قربانی را ندارد و زیرساختهای مرتبط با این فعالیت را غیرفعال کرده است.
اگرچه PROMPTFLUX هنوز تهدید فعالی نیست، اما به نظر میرسد با «بازیگران دارای انگیزههای مالی» مرتبط باشد. این تیم نسبت به شکلگیری یک بازار زیرزمینی برای ابزارهای هوش مصنوعی غیرقانونی هشدار داده که میتواند کار را برای هکرهای کمتر حرفهای آسان کند. استفاده از هوش مصنوعی در حملات سایبری تنها به گروههای کوچک محدود نمیشود و بازیگران تحت حمایت دولتی نیز از هوش مصنوعی استفاده میکنند. شاید راه حل مقابله با بردافزارهای AI، استفاده از هوش مصنوعی در سیستمهای امنیتی باشد. گوگل اخیراً یک عامل هوش مصنوعی به نام Big Sleep را برای شناسایی آسیبپذیریهای امنیتی در نرمافزارها معرفی کرده است. به نظر میرسد جنگ سایبری آینده، نبرد هوش مصنوعی علیه هوش مصنوعی خواهد بود.
