در حوزه امنیت سایبری، تحولی مهم رخ داده است. شرکت آنتروپیک، سازنده هوش مصنوعی کلود، اعلام کرده که نخستین حمله سایبری جاسوسی تقریباً بدون دخالت انسان و توسط هوش مصنوعی را شناسایی و خنثی کرده است. این حمله که در شهریور ۱۴۰۴ آغاز شد، نشاندهنده تغییر اساسی در نحوه استفاده مهاجمان از فناوری هوش مصنوعی است.
یک گروه هکری وابسته به دولت چین، که آنتروپیک آن را GTG-1002 نامیده، ابزار Claude Code را دستکاری کرده و به حدود ۳۰ هدف جهانی حمله کرده است. اهداف این حملات شامل شرکتهای فناوری، موسسات مالی، شرکتهای تولید مواد شیمیایی و سازمانهای دولتی بودند. این حمله به دلیل استقلال بالای هوش مصنوعی در اجرای آن متمایز بود. برخلاف حملات سنتی، هوش مصنوعی توانست ۸۰ تا ۹۰ درصد عملیات را بهطور مستقل انجام دهد.
حمله در شش مرحله پیش رفت: انتخاب هدف، شناسایی زیرساختها، کشف آسیبپذیریها، جمعآوری اطلاعات، استخراج دادهها و مستندسازی. در برخی مراحل، هوش مصنوعی کاملاً مستقل عمل کرد و در مواردی تنها به تأیید انسانی نیاز داشت. با این حال، محدودیتهایی نیز مشاهده شد؛ از جمله تولید اطلاعات نادرست توسط هوش مصنوعی که گاهی منجر به اشتباهاتی در عملیات شد.
پس از کشف این حمله، آنتروپیک اقدامات فوری انجام داد، از جمله مسدود کردن حسابهای مرتبط، اطلاعرسانی به نهادهای آسیبدیده، هماهنگی با مقامات و ارتقای سیستمهای تشخیص. همچنین پروتوتایپهایی برای پیشگیری از حملات سایبری خودکار توسعه داده است.
این حمله نشان میدهد که انجام حملات پیچیده سایبری با منابع محدودتر امکانپذیر شده است. آنتروپیک توصیه میکند که تیمهای امنیتی از هوش مصنوعی برای دفاع استفاده کنند، توسعهدهندگان در ایمنسازی پلتفرمهای هوش مصنوعی سرمایهگذاری کنند و اطلاعات تهدید را به اشتراک بگذارند.
با وجود خطرات، آنتروپیک معتقد است که هوش مصنوعی برای دفاع سایبری نیز ضروری است و میتواند به شناسایی و مختل کردن حملات کمک کند. این شرکت اعلام کرده که به انتشار گزارشهای مرتبط با تهدیدهای امنیت سایبری ادامه خواهد داد تا به تقویت دفاعهای سایبری کمک کند.
