وقتی مهاجم قبض هوش مصنوعی را به قربانی می‌دهد

با گسترش حملات مبتنی بر هوش مصنوعی، شاید در آینده مهاجمان دیگر حتی نیاز نداشته باشند زیرساخت پردازشی یا مدل‌های سنگین خودشان را اجرا کنند. ایده‌ای که برخی مانند دیوید بیانکو آن را Living off the AI Land می‌نامند، می‌تواند به یکی از الگوهای جدید تهدید تبدیل شود؛ مشابه مفهومی که سال‌ها در امنیت با عنوان Living off the Land شناخته می‌شد، جایی که مهاجم به‌جای ابزار اختصاصی، از ابزارهای داخلی سیستم قربانی استفاده می‌کرد.

در این سناریوی جدید، مهاجم از همان AI موجود در سازمان یا روی دستگاه کاربر سوءاستفاده می‌کند. به‌جای مصرف GPU، API Token یا زیرساخت خودش، بار پردازش و هزینه را به قربانی منتقل می‌کند. این موضوع می‌تواند اشکال مختلفی داشته باشد: سوءاستفاده از Copilotها، Agentهای داخلی، مدل‌های متصل به داده‌های سازمان، یا حتی تزریق Prompt برای وادار کردن سیستم‌های AI به انجام تحلیل، تولید کد یا استخراج اطلاعات.

خطر اصلی فقط هزینه مالی نیست؛ بلکه مسئله اعتماد و مرزهای تصمیم‌گیری است. وقتی AI به بخشی از workflow عملیاتی تبدیل شود، مهاجم تلاش می‌کند همان AI را به ابزار اجرای حمله تبدیل کند.

در آینده، دفاع سایبری فقط محافظت از endpoint و network نخواهد بود؛ بلکه شامل کنترل «رفتار عامل‌های هوشمند» نیز می‌شود. سازمان‌ها باید telemetry مربوط به AI، مصرف token، رفتار agentها و زنجیره تصمیم‌گیری مدل‌ها را همان‌قدر جدی بگیرند که امروز لاگ‌های SIEM و EDR را جدی می‌گیرند.