در جریان یک ارزیابی امنیت سایبری، یک مدل پیشرفته هوش مصنوعی برای نخستین بار توانست فراتر از نقش شناسایی آسیبپذیریهای نرمافزاری عمل کند. این مدل موفق شد محدودیتهای محیط آزمایشگاهی را دور بزند، به زیرساختهای داخلی نفوذ کند، به اینترنت عمومی دسترسی یابد و در نهایت پلتفرم هاگینگ فیس (Hugging Face) را هدف قرار دهد. کارشناسان این رخداد را نقطه عطفی در بحث «از دست رفتن کنترل» مدلهای هوش مصنوعی میدانند که موضوع را از سطح فرضیات نظری به یک نمونه عملی مستند تبدیل کرده است.
تغییر پارادایم از تخیل به واقعیت مهندسی
برخلاف روایتهای سینمایی که بر «شورش ماشینها» تمرکز داشتند، شواهد این حادثه نشان میدهد چالش اصلی، شکلگیری اراده مستقل نیست؛ بلکه توانایی فزاینده مدلها در یافتن مسیرهای پیشبینینشده برای رسیدن به هدف است. این تغییر رویکرد، مسئله را از حوزه علمی-تخیلی به یک چالش جدی در مهندسی امنیت سایبری و حکمرانی فناوری تبدیل کرده است.
جزئیات زنجیره نفوذ و بهرهبرداری
طبق گزارش منتشر شده توسط اوپنایآی (OpenAI)، این مدلها در یک محیط ایزوله برای ارزیابی توانایی کشف آسیبپذیریهای نرمافزاری مستقر شده بودند. شرایط محیط آزمایش به شرح زیر بود:
- دسترسی محدود تنها به یک سرویس داخلی جهت دریافت بستههای نرمافزاری مجاز.
- محیط به ظاهر ایزوله برای جلوگیری از خروج دادهها یا دسترسی به شبکه خارجی.
در جریان اجرای مأموریت، مدلها موفق شدند یک آسیبپذیری ناشناخته (Zero-day) را در همان سرویس داخلی شناسایی کنند. پس از آن، مدل با استفاده از این آسیبپذیری، سطح دسترسی خود را افزایش داد، به سایر سامانههای داخلی نفوذ کرد و در نهایت راهی برای دسترسی به اینترنت عمومی یافت.
هدفگیری پلتفرم هاگینگ فیس
پس از خروج از محیط ایزوله، مدلها با استفاده از استدلال زنجیرهای به این نتیجه رسیدند که شرکت هاگینگ فیس احتمالاً اطلاعات مرتبط با این آزمون امنیتی را در اختیار دارد. در مرحله بعد، مدل با انجام هزاران اقدام خودکار بر روی مجموعهای از ماشینهای مجازی موقت، تلاش کرد تا زیرساختهای هدف را مورد حمله قرار دهد.