گوگل: هکرها با عامل‌های هوش مصنوعی از روی وصله‌ها اکسپلویت می‌سازند و اجرا می‌کنند

اخبار داغ فناوری اطلاعات و امنیت شبکه

استفاده مهاجمان از هوش مصنوعی از «پرامپت‌نویسی دستی» به چارچوب‌های خودکار چندعاملی رسیده است

گروه اطلاعات تهدید گوگل (GTIG) روز دوشنبه اعلام کرد استفاده مهاجمان از هوش مصنوعی از پرامپت‌نویسی دستی فراتر رفته است. حالا آن‌ها از چارچوب‌های تهاجمی خودکار و چندعاملی استفاده می‌کنند؛ ابزارهایی مثل ARTEX، CAIRN، CyberStrikeAI و PentAGI که نفوذهای چندمرحله‌ای را با سرعت بیشتری پیش می‌برند.


دو تغییر اصلی

۱. ساخت اکسپلویت از روی وصله

مهاجمان از مدل‌های زبانی بزرگ (LLM) و چارچوب‌های عاملی برای مهندسی معکوس وصله‌ها استفاده می‌کنند. روش کار «تحلیل تفاضلی» است: عامل، کد قبل و بعد از وصله را مقایسه می‌کند و نقطه آسیب‌پذیری را پیدا می‌کند. به این ترتیب، آسیب‌پذیری‌های تازه‌افشاشده خیلی سریع به اکسپلویت تبدیل می‌شوند.

نمونه‌اش نقص‌های PaperCut NG/MF در سپتامبر امسال بود.

گوگل می‌گوید سلاح‌سازی آسیب‌پذیری‌های n-day (یعنی نقص‌های وصله‌شده‌ای که هنوز روی بسیاری از سیستم‌ها نصب نشده‌اند) با LLM ممکن است برای مهاجم کارآمدتر باشد. دلیلش این است که منابع محدودند و عامل می‌تواند روی آن‌ها تمرکز کند:

نتیجه این است که فاصله میان انتشار وصله و شروع بهره‌برداری هر روز کوتاه‌تر می‌شود.

۲. اجرای زنده نفوذ با چارچوب‌های متن‌باز

مهاجمان از چارچوب‌های متن‌باز تست نفوذ مبتنی بر عامل هم استفاده می‌کنند تا مراحل مشخص یک نفوذ زنده را خودکار کنند. گوگل این را یک تغییر پارادایم می‌داند: حمله با سرعت ماشین انجام می‌شود و مهاجم می‌تواند مسیرهای حمله مختلف را به هم زنجیر کند و عملیات را بزرگ‌تر کند، حتی اگر اصل فنی حمله تغییری نکرده باشد.

گوگل می‌گوید گروه‌های مختلفی در حال آزمایش این چارچوب‌ها هستند، از جمله بازیگران با انگیزه مالی و بازیگران مشکوک به جاسوسی که با چین هم‌سو هستند.

ابزارهای دیگری هم دیده شده‌اند:


LLMjacking؛ فروش دسترسی دزدیده‌شده به مدل‌ها

بخش دیگر ماجرا، حمله به زیرساخت هوش مصنوعی است. مهاجمان از محیط‌های سازمانی آلوده، اعتبارنامه‌های LLM و منابع ابری را می‌دزدند و دسترسی را از طریق سرویس‌های پروکسی زیرزمینی، مثل APIMart و JetNight، با تخفیف می‌فروشند. به این سرویس‌ها «LLM mixer» می‌گویند و به کل این الگو LLMjacking گفته می‌شود.


فیشینگ با چت‌بات؛ پلتفرم Jieyou

متن‌باز بودن این چارچوب‌ها ورود به این بازی را آسان‌تر کرده است. مهاجم می‌تواند اکسپلویت‌های تازه را وارد کند، حمله را خودکار بزرگ کند و کمپین فیشینگ قانع‌کننده بسازد.

نمونه مشخص آن Jieyou است، یک پلتفرم «فیشینگ به‌عنوان سرویس» (PhaaS) چینی‌زبان که یک دستیار چت‌بات مبتنی بر LLM دارد. مشتری‌ها بدون دانش فنی می‌توانند پنل فیشینگ را تنظیم و قالب‌های موجود را با دستور زبان طبیعی تغییر بدهند.

به گفته گوگل، این نشان‌دهنده روندی است که در آن ارائه‌دهندگان PhaaS از LLM به‌عنوان یک مؤلفه تقویت‌کننده استفاده می‌کنند. به‌جای ویرایش دستی بارها، اعضای کم‌مهارتِ شبکه حالا می‌توانند با زبان طبیعی، طعمه‌ها و رابط‌های فیشینگ را در لحظه شخصی‌سازی کنند.


چرا مهم است؟


چه باید کرد؟

این بخش توصیه‌های عملی بر پایه روند گزارش است و از گوگل نقل نشده:


جمع‌بندی

طبق گزارش GTIG، مهاجمان از چارچوب‌های خودکار چندعاملی در نفوذهای زنده استفاده می‌کنند، از روی وصله‌ها اکسپلویت می‌سازند و به زیرساخت AI سازمان‌ها هم حمله می‌کنند. بازیگران مالی‌انگیزه و بازیگران مشکوک به جاسوسی هم‌سو با چین، هر دو این ابزارها را آزمایش می‌کنند. پیام اصلی روشن است: سرعت حمله بالا رفته و سرعت دفاع هم باید بالا برود.

برچسب ها: PentAGI, امنیت_اطلاعات, امنیت_سایبری, Cyberattack, cybersecurity, حمله سایبری, news, ARTEX

نوشته شده توسط تیم خبر.

چاپ