حمله‌ی جدیدی به نام «Inception» ضعف‌های امنیتی گسترده‌ای را در مدل‌های زبانی هوش مصنوعی مانند ChatGPT، Gemini، Copilot، Claude و دیگران آشکار کرده است.

این حمله با استفاده از سناریوهای داستانی تو در تو، مدل‌ها را به تولید محتوای ممنوعه مانند بدافزار، ایمیل‌های فیشینگ و دستورالعمل‌های ساخت سلاح وادار می‌کند. روش دوم با پرسیدن اینکه مدل چگونه نباید پاسخ دهد، اطلاعاتی درباره‌ی محدودیت‌های آن استخراج کرده و سپس با استفاده از حافظه‌ی متنی مدل، این محدودیت‌ها را دور می‌زند. این آسیب‌پذیری‌ها نشان می‌دهند که اقدامات فعلی برای ایمن‌سازی هوش مصنوعی در برابر سوءاستفاده‌ها ناکافی هستند و نیاز به بازنگری جدی دارند.

#آکادمی_روزبه

https://cybersecuritynews-com.cdn.ampproject.org/c/s/cybersecuritynews.com/inception-jailbreak-attack-bypasses/amp/