شرکت OpenAI با معرفی مدل Astra، استاندارد جدیدی از توانمندیهای هوش مصنوعی را به نمایش گذاشت. این مدل برخلاف نسخههای پیشین، مستقیماً بر حوزهی امنیت سایبری متمرکز است و میتواند نقاط ضعف سیستمهای کامپیوتری را شناسایی و از آنها بهرهبرداری کند. Astra اولین مدل زبان بزرگ این شرکت است که به «آستانه حیاتی امنیت سایبری» رسیده و آماده عرضه میشود، هرچند دسترسی به قابلیتهای پیشرفته آن محدود خواهد بود.
کشف آسیبپذیریهای «روز صفر» بدون دخالت انسان
توانمندیهای Astra در محیطهای آزمایشی خیرهکننده و در عین حال نگرانکننده است. این مدل میتواند نقصهای امنیتی ناشناخته در سیستمها را بدون هیچگونه راهنمایی انسانی کشف کند. نتایج تستها نشان میدهد که Astra در آزمون ExploitBench، که برای سنجش توانایی هک آسیبپذیریهای شناختهشده طراحی شده، نمره کامل کسب کرده است.
نکته تکاندهنده در گزارشهای OpenAI این است که این هوش مصنوعی در آزمایشهای اصلاحشده، موفق به کشف و بهرهبرداری از دو آسیبپذیری «روز صفر» (Zero-day) شد. این توانایی، Astra را به ابزاری تبدیل میکند که میتواند پیش از آنکه توسعهدهندگان نرمافزار متوجه نقص سیستم شوند، آن را نفوذ کند.
تضاد میان ادعاهای ایمنی و نبود نظارت مستقل
OpenAI برای مهار این قدرت، مدعی است که تکنیکهای جدیدی را در Astra گنجانده است. این سیستمها را میتوان در موارد زیر خلاصه کرد:
- شناسایی تلاشها برای سوءاستفاده از مدل و دور زدن مکانیزمهای امنیتی.
- محدود کردن دسترسی حسابهای کاربری که رفتارهای پرخطر از خود نشان میدهند.
- تجهیز مدل به فیلترهای نظارتی برای جلوگیری از تولید کدهای مخرب.
با این حال، شکاف بزرگی میان ادعاهای شرکت و واقعیتهای نظارتی وجود دارد. تا این لحظه هیچ شخص ثالث یا نهاد مستقلی ادعاهای ایمنی OpenAI را تایید نکرده و جزئیات مربوط به ارزیابیکنندگان این مدل مبهم باقی مانده است. این وضعیت، نگرانیهای مشابهی را ایجاد کرده که پیش از این در مورد مدل Mythos شرکت Anthropic مطرح شده بود.