گوگل: هکرها با عاملهای هوش مصنوعی از روی وصلهها اکسپلویت میسازند و اجرا میکنند
اخبار داغ فناوری اطلاعات و امنیت شبکهاستفاده مهاجمان از هوش مصنوعی از «پرامپتنویسی دستی» به چارچوبهای خودکار چندعاملی رسیده است
گروه اطلاعات تهدید گوگل (GTIG) روز دوشنبه اعلام کرد استفاده مهاجمان از هوش مصنوعی از پرامپتنویسی دستی فراتر رفته است. حالا آنها از چارچوبهای تهاجمی خودکار و چندعاملی استفاده میکنند؛ ابزارهایی مثل ARTEX، CAIRN، CyberStrikeAI و PentAGI که نفوذهای چندمرحلهای را با سرعت بیشتری پیش میبرند.
دو تغییر اصلی
۱. ساخت اکسپلویت از روی وصله
مهاجمان از مدلهای زبانی بزرگ (LLM) و چارچوبهای عاملی برای مهندسی معکوس وصلهها استفاده میکنند. روش کار «تحلیل تفاضلی» است: عامل، کد قبل و بعد از وصله را مقایسه میکند و نقطه آسیبپذیری را پیدا میکند. به این ترتیب، آسیبپذیریهای تازهافشاشده خیلی سریع به اکسپلویت تبدیل میشوند.
نمونهاش نقصهای PaperCut NG/MF در سپتامبر امسال بود.
گوگل میگوید سلاحسازی آسیبپذیریهای n-day (یعنی نقصهای وصلهشدهای که هنوز روی بسیاری از سیستمها نصب نشدهاند) با LLM ممکن است برای مهاجم کارآمدتر باشد. دلیلش این است که منابع محدودند و عامل میتواند روی آنها تمرکز کند:
- مقایسه نسخههای سورسکد (حتی از کانالهای پیشانتشار)
- یادداشتهای انتشار
- تحقیقات امنیتی
- کدهای PoC مربوط به همان نقص
نتیجه این است که فاصله میان انتشار وصله و شروع بهرهبرداری هر روز کوتاهتر میشود.
۲. اجرای زنده نفوذ با چارچوبهای متنباز
مهاجمان از چارچوبهای متنباز تست نفوذ مبتنی بر عامل هم استفاده میکنند تا مراحل مشخص یک نفوذ زنده را خودکار کنند. گوگل این را یک تغییر پارادایم میداند: حمله با سرعت ماشین انجام میشود و مهاجم میتواند مسیرهای حمله مختلف را به هم زنجیر کند و عملیات را بزرگتر کند، حتی اگر اصل فنی حمله تغییری نکرده باشد.
گوگل میگوید گروههای مختلفی در حال آزمایش این چارچوبها هستند، از جمله بازیگران با انگیزه مالی و بازیگران مشکوک به جاسوسی که با چین همسو هستند.
ابزارهای دیگری هم دیده شدهاند:
- ZeroHollow: سرویس استنتاج برای توسعه اکسپلویت و مسیریابی بین LLMها
- Agent Zero: چارچوب عاملی متنباز با اجرای خودکار کد و ساخت پویای ابزار
LLMjacking؛ فروش دسترسی دزدیدهشده به مدلها
بخش دیگر ماجرا، حمله به زیرساخت هوش مصنوعی است. مهاجمان از محیطهای سازمانی آلوده، اعتبارنامههای LLM و منابع ابری را میدزدند و دسترسی را از طریق سرویسهای پروکسی زیرزمینی، مثل APIMart و JetNight، با تخفیف میفروشند. به این سرویسها «LLM mixer» میگویند و به کل این الگو LLMjacking گفته میشود.
فیشینگ با چتبات؛ پلتفرم Jieyou
متنباز بودن این چارچوبها ورود به این بازی را آسانتر کرده است. مهاجم میتواند اکسپلویتهای تازه را وارد کند، حمله را خودکار بزرگ کند و کمپین فیشینگ قانعکننده بسازد.
نمونه مشخص آن Jieyou است، یک پلتفرم «فیشینگ بهعنوان سرویس» (PhaaS) چینیزبان که یک دستیار چتبات مبتنی بر LLM دارد. مشتریها بدون دانش فنی میتوانند پنل فیشینگ را تنظیم و قالبهای موجود را با دستور زبان طبیعی تغییر بدهند.
به گفته گوگل، این نشاندهنده روندی است که در آن ارائهدهندگان PhaaS از LLM بهعنوان یک مؤلفه تقویتکننده استفاده میکنند. بهجای ویرایش دستی بارها، اعضای کممهارتِ شبکه حالا میتوانند با زبان طبیعی، طعمهها و رابطهای فیشینگ را در لحظه شخصیسازی کنند.
چرا مهم است؟
- پنجره وصله کوتاهتر شده. اگر عاملها میتوانند از روی خود وصله اکسپلویت بسازند، دورهای که مدیرها برای وصله کردن دارند دیگر مثل قبل نیست.
- مهارت کمتر لازم است. چه برای اکسپلویت و چه برای فیشینگ، مهاجم کمتجربه هم میتواند با ابزار متنباز به نتیجه برسد.
- خود زیرساخت AI هدف است. کلیدهای API و منابع ابری مدلها حالا کالای قابلفروش در بازار زیرزمینیاند.
چه باید کرد؟
این بخش توصیههای عملی بر پایه روند گزارش است و از گوگل نقل نشده:
- وصله را سریعتر ببرید. برای سیستمهای در معرض اینترنت، سرعت اعمال وصله حیاتیتر شده است.
- اعتبارنامههای LLM و ابری را مثل بقیه اسرار حساس ببینید. کلیدهای API را بچرخانید، محدود کنید و مصرف غیرعادی را پایش کنید.
- هزینه و مصرف مدلها را مانیتور کنید. افزایش ناگهانی مصرف میتواند نشانه LLMjacking باشد.
- آموزش ضد فیشینگ را بهروز کنید. طعمههایی که با AI شخصیسازی میشوند ظاهر حرفهایتری دارند.
- سامانههای شناسایی را روی رفتار تنظیم کنید، نه فقط امضا؛ حمله خودکار سریعتر پیش میرود و ردپای متفاوتی دارد.
جمعبندی
طبق گزارش GTIG، مهاجمان از چارچوبهای خودکار چندعاملی در نفوذهای زنده استفاده میکنند، از روی وصلهها اکسپلویت میسازند و به زیرساخت AI سازمانها هم حمله میکنند. بازیگران مالیانگیزه و بازیگران مشکوک به جاسوسی همسو با چین، هر دو این ابزارها را آزمایش میکنند. پیام اصلی روشن است: سرعت حمله بالا رفته و سرعت دفاع هم باید بالا برود.
برچسب ها: PentAGI, امنیت_اطلاعات, امنیت_سایبری, Cyberattack, cybersecurity, حمله سایبری, news, ARTEX