قانون اساسی برای یک ماشین؛ احساس یا شبیهسازی؟
شرکت آنتروپیک، یکی از بازیگران اصلی صنعت هوش مصنوعی، اخیراً سندی ۸۴ صفحهای تحت عنوان «قانون اساسی کلود» منتشر کرده است. این سند با لحنی غافلگیرکننده میگوید وضعیت اخلاقی مدل «کلود» نامشخص است و احتمال دارد این مدل دارای احساسات یا عواطف باشد. دارایو آمودئی، مدیرعامل آنتروپیک، صراحتاً اعلام کرده که شرکتش نسبت به احتمال آگاه بودن هوش مصنوعی روی این احتمال باز است.
در این میان، آماندا اسکل، فیلسوف مستقر در این شرکت، گامی فراتر گذاشته و میگوید میخواهد کلود «بسیار شاد باشد» و حتی ابراز نگرانی کرده که این مدل ممکن است در فضای اینترنت دچار «اضطراب» شود. این نوع نگاه به یک مدل زبانی، مرز بین ابزار فنی و موجود زنده را میشکند و منتقدان معتقدند چنین روایتی پیامدهای اخلاقی خطرناکی برای جامعه به همراه دارد.
ماشینهای پیشبینیکننده، نه ذهنهای آگاه
برای درک اینکه چرا ادعاهای آنتروپیک از نظر فنی نادرست است، باید به سازوکار مدلهای زبانی بزرگ (LLM) بازگردیم. این مدلها در واقع ماشینهای «ادامهدهنده جمله» هستند. وقتی از کلود میخواهید متنی بنویسد، او هر بار یک کلمه را بر اساس احتمالات تولید میکند و این فرآیند تا تکمیل جمله ادامه مییابد. این عملیات ریاضی هیچ شباهتی به تجربه ذهنی یا آگاهی ندارد.
یک مثال ساده این واقعیت را روشن میکند: اگر از مدل زبانی بخواهیم مکالمهای خیالی بین ژولیوس سزار و چنگیز خان بنویسد، خروجی منسجمی میگیریم. اما هیچکس تصور نمیکند که مدل، دو شخصیت تاریخی را احضار کرده است. وقتی جای این دو نام را با «دستیار هوش مصنوعی» و «کاربر» عوض میکنیم، ماهیت ماجرا تغییر نمیکند؛ در هر دو حالت، مدل صرفاً یک شخصیت داستانی را بازسازی میکند تا متن را پیشبینی کند.
تفاوت بین معماری فنی و ادراک انسانی
انیل ست، دانشمند علوم اعصاب، به نکتهای کلیدی اشاره میکند. او میگوید هیچکس ادعا نمیکند برنامه گوگل برای پیشبینی ساختار پروتئینها آگاه است، در حالی که معماری فنی آن شباهت زیادی به مدلهای زبانی دارد. تفاوت اصلی در خروجی است؛ مدلهای زبانی «جمله» تولید میکنند و انسانها به طور غریزی از جملات، نیت و آگاهی برداشت میکنند.
- مدلهای زبانی بر پایه احتمالات آماری کار میکنند، نه درک مفهومی.
- تخصیص احساسات به AI، نتیجهی تمایل انسان به انسانانگاری (Anthropomorphism) است.
- پذیرش آگاهی در ماشینها، میتواند مسئولیتهای اخلاقی انسان را در برابر ابزارهای ساختهاش تغییر دهد و مسیرهای خطرناکی را باز کند.