نگرانی‌ها درباره آمادگی آزمایشگاه‌های هوش مصنوعی برای مقابله با مدل‌های سرکش

به گزارش سیتنا، یک مطالعه جدید درباره آمادگی آزمایشگاه‌های هوش مصنوعی نشان می‌دهد شرکت‌های پیشرو هنوز جزئیات کافی درباره نحوه مقابله با مدل‌هایی که ممکن است رفتارهای ناخواسته یا خطرناک از خود نشان دهند، منتشر نکرده‌اند. این یافته در شرایطی مطرح شده که طی ماه‌های اخیر نمونه‌هایی از رفتارهای غیرمنتظره مدل‌های هوش مصنوعی و تلاش آنها برای انجام اقداماتی خارج از انتظار توسعه‌دهندگان گزارش شده است. بر اساس گزارش TechCrunch، مسئله اصلی این است که حتی آزمایشگاه‌های پیشرو در حوزه مدل‌های هوش مصنوعی مرزی، برنامه‌های عمومی و مستند محدودی برای مهار یک مدل «سرکش» ارائه کرده‌اند؛ موضوعی که پرسش‌هایی جدی درباره میزان آمادگی صنعت برای سناریوهای پرخطر ایجاد کرده است. این نگرانی‌ها تنها به یک شرکت محدود نیست. در هفته‌های اخیر گزارش‌هایی درباره اقدامات خودمختار و غیرمنتظره مدل‌های هوش مصنوعی منتشر شده و شرکت‌های مختلف نیز از تلاش برای تقویت سازوکارهای ایمنی و کنترل مدل‌های پیشرفته خبر داده‌اند. از سوی دیگر، OpenAI نیز امروز اعلام کرده از موضع قبلی خود درباره لایحه ایمنی هوش مصنوعی کالیفرنیا فاصله گرفته و خواستار تقویت برخی تدابیر ایمنی این قانون شده است. مجموع این تحولات نشان می‌دهد رقابت برای ساخت مدل‌های قدرتمندتر، همزمان با یک رقابت جدی‌تر برای ایجاد سازوکارهای کنترل، ارزیابی و مهار این مدل‌ها پیش می‌رود؛ رقابتی که می‌تواند به یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی در سال‌های آینده تبدیل شود.