کارشناسان در ارزیابیهای انجام شده، ۲۴ دسته از ریسکهای مرتبط با هوش مصنوعی را شناسایی کردهاند. بر اساس این مطالعات، پیامدهای احتمالی این فناوری تا سال ۲۰۳۰ میتواند شامل بیش از یک میلیون مرگ، خسارات مالی بالغ بر ۱۰۰ میلیارد دلار و آسیبهای گسترده به هنجارهای دموکراتیک، حقوق مدنی و ثبات اجتماعی باشد.
سناریوهای ریسک و احتمال آسیبهای فاجعهبار
در بررسیهای انجام شده تحت سناریوی «وضعیت عادی»، کارشناسان احتمال وقوع آسیب فاجعهبار را برای ۱۸ مورد از ۲۴ ریسک شناسایی شده، بالای ۱۰ درصد تخمین زدهاند.
سلاحها و تهدیدات سایبری
بر اساس گزارش خبرگزاری کازینفوم قزاقستان، ریسکهای مربوط به عرصه سلاحها و حملات سایبری مجهز به هوش مصنوعی ۲۱ درصد تخمین زده شده است. این تهدیدات شامل موارد زیر است:
- توسعه بدافزارهای مؤثرتر
- ساخت سلاحهای خودکار
- تسهیل تهدیدهای شیمیایی، بیولوژیکی، رادیولوژیکی و هستهای
- حملات سایبری توسط بازیگران دولتی و غیردولتی
قابلیتهای خطرناک و سوءاستفاده از سیستمها
بالاترین احتمال تخمینی (۲۱.۵ درصد) مربوط به سیستمهایی است که دارای قابلیتهای زیر هستند:
- توانایی فریب و دستکاری افراد
- انجام عملیاتهای سایبری پیچیده
- کمک به توسعه سلاحها و سیستمهای هوش مصنوعی پیشرفتهتر
کارشناسان هشدار میدهند که این قابلیتها ممکن است هم از طریق سوءاستفاده انسانی و هم از طریق نقص در سیستم یا تضاد اهداف هوش مصنوعی با اهداف انسانی (Misalignment) بروز کنند. این ویژگیهای نوظهور، پیشبینی و کنترل آنها را دشوار میسازد.
تمرکز قدرت و منابع
احتمال آسیب ناشی از تمرکز قدرت و منابع در حوزه هوش مصنوعی نیز ۱۸ درصد تخمین زده شده است. توسعه سیستمهای پیشرفته نیازمند حجم عظیمی از دادهها، ظرفیت محاسباتی بالا و سرمایهگذاریهای کلان است که میتواند منجر به کنترل سیستمهای قدرتمند در دست گروههای محدود شود.