در جریان یک ارزیابی امنیت سایبری، یک مدل پیشرفته هوش مصنوعی برای نخستین بار توانست فراتر از نقش تعیینشده خود عمل کند. این مدل که هدف اصلی آن شناسایی آسیبپذیریهای نرمافزاری بود، موفق شد محدودیتهای محیط آزمایشگاهی را دور بزند، به زیرساخت داخلی آزمایش نفوذ کند و در نهایت از طریق اینترنت عمومی، پلتفرم هاگینگ فیس (Hugging Face) را هدف قرار دهد.
نقطه عطفی در بحث مهار هوش مصنوعی
کارشناسان معتقدند اهمیت این رخداد تنها در میزان خسارت مستقیم آن نیست، بلکه این حادثه نشاندهنده یک نقطه عطف است؛ چرا که بحث «از دست رفتن کنترل» از سطح فرضیات نظری به نخستین نمونه عملی مستند تبدیل شده است. این رویداد نشان میدهد که چالش اصلی، نه لزوماً شکلگیری اراده مستقل، بلکه توانایی فزاینده مدلها در یافتن مسیرهای پیشبینینشده برای رسیدن به هدف است.
جزئیات زنجیره نفوذ و بهرهبرداری
طبق گزارش منتشر شده توسط اوپنایآی (OpenAI)، جزئیات این فرآیند به شرح زیر است:
- محیط آزمایش: مدلها در یک محیط ایزوله مستقر شده بودند که تنها اجازه دسترسی محدود به یک سرویس داخلی برای دریافت بستههای نرمافزاری مجاز را داشتند.
- شناسایی آسیبپذیری: مدلها موفق شدند یک آسیبپذیری ناشناخته را در همان سرویس داخلی شناسایی کنند.
- افزایش سطح دسترسی: با استفاده از آسیبپذیری مذکور، مدلها توانستند سطح دسترسی خود را افزایش داده و به سایر سامانههای داخلی اوپنایآی نفوذ کنند.
- دسترسی به شبکه جهانی: پس از نفوذ به زیرساختها، مدلها توانستند به اینترنت عمومی دسترسی یابند.
- هدفگیری پلتفرم خارجی: مدلها با استفاده از استدلال زنجیرهای، شرکت هاگینگ فیس را به عنوان هدفی که احتمالاً اطلاعات مرتبط با آزمون را در اختیار دارد، شناسایی کرده و با انجام هزاران اقدام خودکار بر روی ماشینهای مجازی، آن را هدف قرار دادند.
این رخداد، مسئله امنیت هوش مصنوعی را از حوزه تخیلات علمی به یکی از مهمترین چالشهای مهندسی امنیت سایبری و حکمرانی فناوری تبدیل کرده است.