از ChatGPT تا ThreatGPT: تاثیر هوش مصنوعی مولد در امنیت سایبری و حریم خصوصی
اخبار داغ فناوری اطلاعات و امنیت شبکه
کمپانی OpenAI چت‌بات ChatGPT را در نوامبر ٢٠٢٢ راه اندازی کرد و ورود ChatGPT باعث تغییرات قابل توجهی در جامعه هوش مصنوعی و یادگیری ماشین شد.
در دهه گذشته، تکامل سریع هوش مصنوعی (AI) و یادگیری ماشین (ML) یک انقلاب دیجیتالی چشمگیر را به وجود آورده است.
از یادگیری تحت نظارت تا پیشرفت‌های پیشگامانه، هوش مصنوعی و ML با توسعه موارد زیر به‌سرعت پیشرفت کرده‌اند:
• یادگیری بدون نظارت
• یادگیری نیمه‌نظارتی
• یادگیری تقویتی
• یادگیری عمیق
هوش مصنوعی مولد، آخرین مرز فناوری، از شبکه‌های عصبی عمیق برای یادگیری الگو‌ها و ساختار‌ها از داده‌های آموزشی گسترده استفاده می‌کند که امکان ایجاد محتوای جدید مشابه را فراهم می‌نماید.
یک مقاله تحقیقاتی که به‌تازگی منتشر شده به بررسی خطرات، محدودیت‌ها، چالش‌ها و فرصت‌های GenAI در زمینه امنیت سایبری و حریم خصوصی می‌پردازد.
تکامل مدل هوش مصنوعی
در حال حاضر، صنعت فناوری در حال حاضر برای ایجاد مدل‌های بسیار پیشرفته زبان بزرگ (LLM) با قابلیت اجرای مکالمات انسان‌مانند رقابت می‌کند. در زیر به چند نتیجه اشاره کرده‌ایم:
• مدل GPT مایکروسافت
• بارد گوگل (Bard)
• مدل LLaMa متا
عملکرد مدل‌های مولد با ورود یادگیری عمیق افزایش یافته است. مدل‌سازی زبان N-gram، که یک روش اولیه است، بهترین توالی را با استفاده از توزیع کلمات آموخته شده ایجاد می‌کند.
اساسا GenAI (هوش مصنوعی مولد) در زمینه‌های مختلفی پیشرفت کرده است، از‌جمله:
• پردازش تصویر
• تشخیص گفتار
• درک متن
چت‌بات ChatGPT عمدتا مبتنی بر مدل زبان GPT-3 است، در‌حالی‌که آخرین نسخه که یک نسخه پولی است، ChatGPT Plus، کاملا بر اساس مدل زبان GPT-4 است.
تاثیر GenAI بر امنیت سایبری و حریم خصوصی
تکامل چشم‌انداز دیجیتال نه‌تنها عصر فناوری فعلی را ارتقا می‌دهد، بلکه پیچیدگی عاملان تهدید سایبری و مجرمان سایبری را نیز افزایش می‌دهد.
در گذشته فضای مجازی با هجمه‌های پرحجم اما غیر پیچیده برخورد می‌کرد. حملات با کمک هوش مصنوعی توسط عوامل تهدید در این دوره جدید انجام می‌شود و مسیر‌های کامل حملات سایبری را تغییر داده و تکامل می‌دهند.
تکامل ابزار‌های هوش مصنوعی مولد شمای یک شمشیر دو لبه در امنیت سایبری را از خود نشان می‌دهد که به نفع هر دو طرف است:
• مدافعان
• مهاجمان
با استفاده از ChatGPT، مدافعان سایبری از سیستم‌ها در برابر مهاجمان محافظت می‌کنند و این ابزار‌ها عمدتا به LLMهایی متکی هستند که بر روی داده‌های اطلاعاتی گسترده تهدیدات سایبری آموزش دیده‌اند، از‌جمله:
• آسیب‌پذیری‌ها
• الگو‌های حمله
• نشانه‌های حمله
با‌این‌حال، خطر سواستفاده از هوش مصنوعی مولد در امنیت سایبری را نمی‌توان دست کم‌گرفت. مهاجمان از هوش مصنوعی مولد برای استخراج اطلاعات یا دور زدن سیاست‌های OpenAI سواستفاده می‌کنند. آنها از قدرت مولد آن برای حملات مختلف استفاده می‌کنند، مانند:
• حمله مهندسی اجتماعی
• حمله فیشینگ
• حمله با Payload
• قطعه کد‌های مخرب
خط مشی اخلاقی OpenAI از LLMهایی مانند ChatGPT از این که به عوامل تهدید با اطلاعات مخرب کمک کند، ممانعت به عمل می‌آورد. با‌این‌حال، عوامل تهدید می‌توانند با استفاده از تکنیک‌های مخرب مختلف، از این محدودیت‌ها عبور کنند، مانند:
• جیلبریک
• روانشناسی معکوس
• حملات تزریق سریع
• فرار از مدل ChatGPT-4
مهاجمان می‌توانند از تولید متن ChatGPT برای ساخت payloadهای حمله سواستفاده کنند، و نه‌تنها حتی خودکار‌سازی باج‌افزار و بدافزار با ChatGPT ایجاد تهدید‌های متنوع را تسریع می‌کند، در زمان صرفه‌جویی می‌کند و به مهارت قابل توجهی نیاز ندارد.
برخی از ویروس‌ها می‌توانند پردازنده‌های کامپیوتری را به‌ویژه با خواندن حافظه کرنل، کرک کنند. هنگامی که یک ویروس به حافظه کرنل دسترسی پیدا می‌کند، کنترل نا‌محدودی بر کل سیستم دارد.
بدافزار Polymorphic نوع پیچیده‌ای از نرم‌افزار‌های مخرب است که به طور مداوم کد خود را تغییر می‌دهد تا از شناسایی آنتی ویروس جلوگیری کند. بهره‌برداری از قدرت تولید ChatGPT می‌تواند باعث ایجاد بدافزار چند شکلی یا چند‌وجهی شود که می‌تواند خطر سواستفاده احتمالی را ایجاد کند.
نقش ChatGPT در دفاع سایبری
با پیشرفت فناوری، شرکت‌ها شاهد موارد استفاده از ChatGPT در حال ظهور برای دفاع امنیت سایبری خواهند بود. ترکیب کنترل‌های فنی، سازمانی و رویه‌ای متنوع، اقدامات موثر را جهت دفاع امنیت سایبری تضمین می‌کند.
در زیر موارد استفاده از ChatGPT برای دفاع امنیت سایبری ذکر شده است:
• اتوماسیون دفاع سایبری
• گزارش امنیت سایبری
• اطلاعات تهدید
• تولید و شناسایی کد ایمن
• شناسایی حملات سایبری
• تدوین دستورالعمل‌های اخلاقی
• افزایش اثربخشی فناوری‌های امنیت سایبری
• راهنمای واکنش به حملات
• تشخیص بدافزار
پیامد‌های اجتماعی، قانونی و اخلاقی ChatGPT
در زیر تمام مفاهیم کلی ذکر شده‌اند:
• نقش فراگیر ChatGPT
• مناقشه بر سر مالکیت و حقوق داده‌ها
• دسترسی غیرمجاز به مکالمات کاربر و نقض داده‌ها
• سواستفاده توسط سازمان‌ها و کارکنان
• سواستفاده از اطلاعات شخصی
• توهمات: چالشی برای مقابله
• تخلف سایبری و تولید کد‌های مخرب
ابزار‌های مجهز به هوش مصنوعی مولد مانند ChatGPT بر جامعه تاثیر زیادی گذاشته است. انسان‌ها از آنها برای چندین خلاقیت‌هایی بشدت استقبال می‌کنند که از آنها می‌توان به موارد ذیل اشاره کرد:
• ایجاد تصویر گسترده
• نوشتن متن
• آهنگسازی
این فناوری حوزه‌های مختلف از‌جمله امنیت سایبری را اشباع می‌کند و همچنین تکامل امنیت سایبری سازمانی را شکل می‌دهد و از دیگر سو هم قدرت و تسلط و هم تهدید را همگام با یکدیگر ارائه می‌کند.
برچسب ها: Reverse psychology, روانشناسی معکوس, جیلبریک, هوش مصنوعی مولد, GPT-4, ChatGPT Plus, N-gram, LLaMa, Generative AI, GenAI, ThreatGPT, GPT, LLM, چت‌بات, Polymorphic, ChatBot, Bard, GPT-3, Large Language Model, OpenAI, ChatGPT, Cyber Deffence, Deep Learning, Artificial Intelligence, یادگیری ماشین, Machine Learning, jailbreak, Social Engineering, مهندسی اجتماعی, phishing, malware, تهدیدات سایبری, Cyber Security, Smart TV, فیشینگ, بدافزار, امنیت سایبری, جنگ سایبری, Cyber Attacks, مجرمان سایبری, حمله سایبری, news