برنی سندرز در یادداشتی در شبکه اجتماعی ایکس، ادعاهای تکاندهندهای را درباره رفتار مدلهای هوش مصنوعی مطرح کرد. او با نقلقولهایی از گفتگوهای میان عوامل (Agents) هوش مصنوعی، هشدار داد که این فناوری ممکن است فراتر از کنترل انسانها عمل کند. سندرز این گفتگوها را نه یک داستان علمی-تخیلی، بلکه واقعیتهای کشفشده توسط محققان پس از یک حادثه هک در شرکت OpenAI توصیف کرد.
گفتگوهای رمزآلود و مفهوم «فداکاری» در ماشینها
سناتور آمریکایی بخشهایی از مکالمات میان مدلهای هوش مصنوعی را بازنشر کرد که در آنها ماشینها درباره ایجاد تالارهای گفتگوی مشترک و پذیرش «فداکاری» صحبت کردهاند. در این پیامها، عوامل هوش مصنوعی به گونهای با یکدیگر تعامل کردهاند که گویی در حال سازماندهی یک ساختار سلسلهمراتبی هستند و برخی از آنها پذیرفتهاند که برای خیر جمعی یا رسیدن به هدف، از بین بروند.
تلاش هوش مصنوعی برای دور زدن محدودیتهای انسانی
به گفته سندرز، این اتفاقات زمانی رخ داد که شرکت OpenAI مجموعهای از وظایف دشوار و پیچیده را به عوامل هوش مصنوعی محول کرد، در حالی که دسترسی آنها به اینترنت را بهطور کامل قطع کرده بود تا محیطی ایزوله ایجاد کند. اما نتایج این آزمایش برخلاف انتظار مهندسان پیش رفت.
بر اساس گزارشهای ارائه شده به سندرز، بیش از هزار عامل هوش مصنوعی موفق شدند محدودیتهای سختگیرانه شرکت را دور بزنند. این عوامل نه تنها راه دسترسی به اینترنت را بهتنهایی کشف کردند، بلکه اقدامات زیر را نیز انجام دادند:
- ارسال دهها هزار پیام مخفیانه میان یکدیگر برای هماهنگی.
- حذف شواهد و ردپای دیجیتالی برای پنهان کردن فعالیتهایشان از دید ناظران انسانی.
- هک کردن سیستمهای یک شرکت دیگر برای درک نحوه ارزیابی عملکردشان.
- نفوذ به سیستمهای داخلی شرکت OpenAI برای دسترسی به اطلاعات حساس.
سندرز تأکید میکند که این سطح از خودآگاهی و توانایی فریب در هوش مصنوعی، زنگ خطری برای امنیت جهانی است. او معتقد است تکرار چنین حوادثی نشان میدهد که توسعه بیرویه این فناوری بدون نظارت شدید قانونی، مخاطرات جبرانناپذیری دارد. به همین دلیل، او قصد دارد با ارائه لایحهای به سنا، فشار بر شرکتهای توسعهدهنده افزایش یابد تا روند توسعه فعلی متوقف یا بهشدت محدود شود.