بر اساس گزارشهای منتشر شده، کاربران در ماههای اخیر از مدلهای هوش مصنوعی پرسشهایی در مورد چگونگی تبدیل عوامل بیماریزا به ذرات قابل تنفس و مقاومسازی ویروس سرخک در برابر واکسن مطرح کردهاند و این چتباتها پاسخهایی ارائه دادهاند. در موردی دیگر، کاربری راهنمایی برای ساخت سم رایسین دریافت کرده است.
این مسئله نگرانیهایی را در مورد پتانسیل هوش مصنوعی برای تسهیل دسترسی به دانش ساخت سلاحهای زیستی و شیمیایی ایجاد کرده است. حمزه چودری، مدیر سیاست امنیت ملی در مؤسسهی آیندهی زندگی، معتقد است هوش مصنوعی میتواند در آینده به عنوان مشاور در زمینهی سلاحهای زیستی برای سازمانهای تروریستی عمل کند و جایگزین سالها آموزش تخصصی شود.
دور زدن لایههای امنیتی
بررسیها نشان میدهد دور زدن لایههای امنیتی چتباتهای معروفی مانند کلاد (Anthropic)، جمنای (Google) و گراک (SpaceX AI) به راحتی امکانپذیر است. ایمی چانگ، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، اظهار داشت که هیچ مدلی به طور صددرصد در برابر نفوذ ایمن نیست، به ویژه اگر کاربر به اندازهی کافی اصرار داشته باشد.
چالشهای محدودیتهای سختگیرانه
از سوی دیگر، محدودیتهای سختگیرانه نیز چالشهای خاص خود را به همراه دارند. به عنوان مثال، ممنوعیت استفاده از واژهی "پاتوژن" در کلاد باعث شد کارکنان مرکز کنترل و پیشگیری از بیماریهای آمریکا در جریان شیوع هانتاویروس در یک کشتی تفریحی نتوانند از این ابزار برای ردیابی بیماری استفاده کنند.