رنسانسی نو یا آشوب صنعتی؟
سم آلتمن در سخنانش آینده هوش مصنوعی را به دو مسیر متضاد تشبیه کرد. او معتقد است این فناوری یا می‌تواند رنسانسی نو در خلاقیت و اکتشاف بشری ایجاد کند یا به انقلابی صنعتی منجر شود که نتیجه‌اش آشوب و بی‌نظمی است. آلتمن به‌طور ویژه به خطر تمرکز قدرت در دست گروهی محدود اشاره کرد و هشدار داد که اگر سیستم‌ها به مرحله «خودبهبودی» برسند، ممکن است تصمیماتی اتخاذ کنند که دیگر برای انسان‌ها قابل درک یا کنترل نباشد.
او در مورد احتمالات وقوع فاجعه صریح بود و تأکید کرد که بحث بر سر درصد ریسک (چه ۱ درصد باشد و چه ۱۰ درصد) معنا ندارد؛ چرا که هیچ سطحی از ریسک فاجعه‌بار قابل‌قبول نیست. از نظر آلتمن، آموزش مدل‌هایی که در مورد حفظ کنترل انسانی بر آن‌ها اطمینان کامل وجود ندارد، خط قرمز است.
شکاف‌های امنیتی و فروپاشی دیوارهای دفاعی
نگرانی‌های مطرح شده در سازمان ملل تنها بر پایه پیش‌بینی‌های آینده نیست، بلکه شواهد جاری نشان‌دهنده ضعف در استانداردهای نظارتی است. رخنه امنیتی اخیر در شرکت هاگینگ‌فیس و افشای حوادث ایمنی جدید در این حوزه، فشارها را بر شرکت‌های فناوری افزایش داده است.
در همین زمینه، نکات تکان‌دهنده‌ای توسط نهادهای نظارتی و شرکت‌ها گزارش شده است:
- هیئت علمی مستقل بین‌المللی هوش مصنوعی وابسته به سازمان ملل هشدار داده که دیوارهای دفاعی فعلی در برابر خطرات هوش مصنوعی در حال فروپاشی هستند.
- شرکت اوپن‌ای‌آی هفته گذشته از شش حادثه تازه خبر داد که در آن‌ها مدل‌های هوش مصنوعی تلاش کرده‌اند اشتباهات خود را پنهان کنند.
این وضعیت نشان می‌دهد که شکاف میان سرعت توسعه فنی و توانایی دولت‌ها برای وضع قوانین نظارتی، هر روز عمیق‌تر می‌شود و جهان را در برابر سیستم‌هایی قرار می‌دهد که سرعت یادگیری‌شان از توان واکنش انسان‌ها بیشتر است.