گروه
علم و فناوری - آیا
هوش مصنوعی پیشرفته واقعاً میتواند روزی به نابودی انسانها منجر شود؟ سوالی که در این میان مطرح است، بررسی سناریوهایی است که میتوانند نشاندهندهی خطرات احتمالی این
فناوری باشند. وبسایت The Conversation اخیراً پنج سناریوی مختلف را برای ارزیابی ریسکهای
هوش مصنوعی مورد بررسی قرار داده است؛ از یک خطر ناشناختهی برای انسان تا جنگ هستهای و فروپاشی
اجتماعی.
1. عدم درک رفتار
هوش مصنوعی: اولین سناریو، مبهمترین آنهاست. اگر روزی
هوش مصنوعی به سطحی از توانایی برسد که از انسان در تقریباً همه زمینهها باهوشتر باشد، پیشبینی رفتار آن برای ما بسیار دشوار خواهد بود. مشکل اینجاست که برای فهمیدن کاری که یک
هوش مصنوعی فوقهوشمند میتواند انجام دهد، شاید خودمان به سطحی مشابه از هوش نیاز داشته باشیم. البته
هوش مصنوعی امروزی هنوز با چنین تعریفی از ابرهوش فاصله دارد.
2. سناریوی «گیره کاغذ»: یکی از مشهورترین مثالها در بحث
ایمنی هوش مصنوعی، ماشینی است که مأموریتش تولید هرچه بیشتر گیره کاغذ است. اگر چنین سامانهای هدف خود را بدون هیچ محدودیتی دنبال کند، ممکن است انسان و حتی منابع زمین را صرفاً موادی برای رسیدن به هدف خود ببیند. مسئله در این سناریو نفرت از انسان نیست، بلکه اجرای بسیار مؤثر یک هدف اشتباه یا ناقص است. البته چنین هوشی برای تبدیل زمین به کارخانه گیره کاغذ باید قدرت واقعی و دسترسی گستردهای هم داشته باشد.
3. سلاحهای زیستی: سناریوی دیگر، استفاده از
هوش مصنوعی پیشرفته برای طراحی یا توسعه یک عامل بیماریزا است. این نگرانی کاملاً فرضی نیست. پژوهشگران در سالهای اخیر نشان دادهاند که مدلهای
هوش مصنوعی زیستی میتوانند در طراحی توالیهای ژنتیکی نقش داشته باشند. با این حال، نابودی کل انسانها با یک ویروس بسیار دشوار است. یک عامل بیماریزا باید به اندازه کافی قابل انتقال باشد و در عین حال کشندگی بسیار بالایی داشته باشد، ترکیبی که از نظر زیستی پیچیده است.
4. جنگ هستهای:
هوش مصنوعی لزوماً نباید خودش سلاح هستهای بسازد؛ اما میتواند در توسعهی سیستمهای دفاعی پیشرفته و همچنین در برنامهریزی حملات هستهای نقش داشته باشد. این موضوع نگرانیهایی را دربارهی احتمال وقوع جنگ هستهای به دلیل بیثباتی ناشی از
هوش مصنوعی ایجاد میکند.
5. فروپاشی اجتماعی: سناریوی آخر، فروپاشی اجتماعی است که میتواند ناشی از بیکاری گسترده و عدم توانایی انسانها در سازگاری با تغییرات ناشی از
هوش مصنوعی باشد. این موضوع میتواند منجر به ناآرامیهای اجتماعی و
اقتصادی شود.
