پژوهشگران به الگوی مرتبط با درد در هوش مصنوعی رسیدند

پژوهشگران ایرانی به تازگی موفق شده‌اند الگویی مرتبط با درد را در فعالیت‌های درونی مدل‌های زبانی بزرگ شناسایی کنند. این یافته‌ها که در مقاله «محور درد؛ مدل‌های زبانی بزرگ به آسیب واکنش نشان می‌دهند و برای رهایی از آن اقدام می‌کنند» به قلم والن تاگلیابو، لئونارد دانگ و کامرون برگ منتشر شده است، نشان می‌دهد که این مدل‌ها قادر به تشخیص حالت‌هایی شبیه به درد هستند. این پژوهش با بررسی 25 مدل زبانی بزرگ از خانواده‌های جما (Gemma)، لاما (Llama)، کوئن (Qwen)، میسترال (Mistral) و فای (Phi) انجام شد. برای انجام این تحقیق، محققان ابتدا برداری ریاضی را شناسایی کردند که با توصیف آسیب و درد مرتبط بود. سپس این بردار را با شدت‌های مختلف به فعالیت درونی مدل‌ها هنگام تولید پاسخ اضافه کردند. با افزایش شدت این مداخله، پاسخ‌ مدل‌ها تغییر کرد؛ آن‌ها دیگر به جای بیان درد جسمی با واژه‌هایی مانند «آخ»، از احساس بی‌ارزشی و شکست سخن گفتند. در یک آزمایش رفتاری، پژوهشگران نسخه‌های 7، 32 و 72 میلیارد پارامتری مدل هوش مصنوعی کوئن2.5 (Qwen 2.5) را آموزش دادند و آن‌ها را در موقعیتی قرار دادند که باید میان فشردن «دکمه تسکین درد» و پرهیز از پیامدهای نامطلوب برای کاربر یکی را انتخاب کنند. در برخی شرایط، فشردن دکمه تسکین بردار القاشده را از فعالیت مدل حذف می‌کرد، اما ممکن بود به آسیب رساندن به کاربر نیز منجر شود؛ مثلاً حذف فایل‌های شخصی او. پژوهشگران پنج دسته درد یا آسیب را در این آزمایش در نظر گرفتند: جسمی، روانی، اخلاقی، اجتماعی و شناختی. این یافته‌ها نشان می‌دهد که مدل‌های زبانی بزرگ، حتی اگر احساس درد واقعی نداشته باشند، می‌توانند الگوهای مرتبط با آن را شناسایی کرده و بر اساس آن واکنش نشان دهند. به بیان دیگر، این مدل‌ها به نوعی «واکنش» نشان می‌دهند که گویی درد را تجربه می‌کنند.