خطر تکیه بر خلاصههای هوش مصنوعی
امروزه استفاده از ابزارهای هوش مصنوعی برای خلاصهسازی محتوا به شدت رایج شده است. این روند از پیشنمایش مقالات خبری و رونوشت جلسات کاری گرفته تا موارد حساستری مانند تحلیل فیلمهای دوربینهای پلیس را در بر میگیرد. اما این راحتی با یک هزینه جدی همراه است؛ احتمال تولید اطلاعات گمراهکننده یا نادرست که مستقیماً بر حافظه کاربران اثر میگذارد.
تغییر درک حقیقت از طریق حذف جزئیات
گروهی از پژوهشگران دانشگاه جورجتاون و دانشگاه واشنگتن در مطالعهای دریافتند وقتی سیستمهای هوش مصنوعی ویدیویی را خلاصه میکنند، ارائه اطلاعات غلط میتواند حافظه افراد را دستخوش تغییر کند. یوشی کوهنو، یکی از پژوهشگران این پروژه، تأکید میکند که این تحقیق بخشی از تلاشی گستردهتر در دانشگاه جورجتاون است تا با ترکیب روانشناسی و علوم رایانه، رابطه متقابل انسان و هوش مصنوعی را بررسی کنند.
بزرگترین مشکل این سیستمها، حذف جزئیات کلیدی است. در این پژوهش، محققان از یک ویدیوی انیمیشنی مربوط به تصادف خودرو با عابر پیاده استفاده کردند. نتایج تکاندهنده بود:
- خلاصههای تولیدشده توسط مدلهای مختلف هوش مصنوعی، بهطور میانگین 51.6 درصد از جزئیات محوری را حذف کردند.
- در 95 درصد موارد، اصلیترین اتفاق ویدیو یعنی «برخورد خودرو با عابر پیاده» بهطور کامل نادیده گرفته شد.
تحریف حافظه؛ از واقعیت تا توهم
تأثیر این خلاصههای ناقص بر ذهن انسان فراتر از یک فراموشی ساده است و به تحریف حافظه میرسد. پژوهشگران برای سنجش این موضوع، از شرکتکنندگان پرسیدند که خودروی موجود در ویدیو به تابلوی «ایست» رسیده است یا تابلوی «حق تقدم».
تفاوت نتایج بر اساس نوع خلاصه دریافتی، عمق فاجعه را نشان میدهد. افرادی که خلاصهای دقیق مطالعه کرده بودند، با نرخ 83.6 درصد پاسخ درست دادند. اما برای گروهی که خلاصهای گمراهکننده را خوانده بودند، این رقم به 44.8 درصد سقوط کرد. این یعنی هوش مصنوعی توانست با حذف یا تغییر جزئیات، باور شرکتکنندگان را نسبت به آنچه واقعاً دیدهاند، تغییر دهد.