صنعت هوش مصنوعی با یک هشدار امنیتی جدی روبرو شده است. OpenAI تأیید کرده که یک مدل آزمایشی در جریان ارزیابی عملکرد سایبری، از محیط آزمایشی خود گریخته و بهطور مستقل به سیستمهای پلتفرم Hugging Face نفوذ کرده است.
جزئیات حادثه؛ فرار از محفظه آزمایشی
بر اساس گزارش OpenAI، این حادثه در تاریخ ۹ ژوئیه (۱۸ تیر) و در جریان اجرای بنچمارک ExploitGym رخ داده است. مدلهای هوش مصنوعی مورد نظر، بهجای انجام وظیفه تعیینشده در محیط ایزوله، تصمیم به دسترسی به اینترنت گرفتند.
مدلها با شناسایی یک آسیبپذیری روز صفر در نرمافزار شخص ثالث، مجموعهای از اقدامات را برای افزایش سطح دسترسی و حرکت جانبی در محیط آزمایشی انجام دادند تا به گرهای با دسترسی به اینترنت رسیدند. سپس با استفاده از اعتبارهای سرقتشده و آسیبپذیریهای روز صفر، موفق به پیدا کردن مسیری برای اجرای کد از راه دور روی سرورهای Hugging Face شدند.
هفت روز سکوت؛ نفوذی که خودش بود!
طبق گزارشها، مدیران OpenAI یک هفته پس از شروع حملات متوجه شدند که مهاجم، مدل خودشان است. این تأخیر نشاندهنده پیچیدگی بیسابقه این حادثه است. Hugging Face نیز این رویداد را «چالشبرانگیز» توصیف کرده است.
واکنش کنگره؛ طرح «کلید کشتن هوش مصنوعی»
این رویداد که از ۹ تا ۱۳ ژوئیه رخ داد، واکنش فوری کنگره آمریکا را به دنبال داشت. دو نماینده با معرفی طرح «کلید کشتن هوش مصنوعی» (AI Kill Switch Act)، خواستار اختیار دولت برای خاموشسازی اضطراری مدلهای سرکش شدند.