پژوهشگران NPR برای سنجش توانایی ابزارهای هوش مصنوعی در مقابله با اطلاعات نادرست، آزمایشی را طراحی کردند که در آن چتباتها و موتورهای جستوجو با روایتهای گمراهکننده منتشر شده توسط نهادهای مرتبط با روسیه، چین و ایران مواجه شدند. نتایج این بررسی نشان میدهد ابزارهای مکالمهای هوش مصنوعی در شناسایی و رد این روایتها موفقتر از موتورهای جستوجوی رایج بودهاند.
جزئیات آزمایش و متدولوژی
در این پژوهش، ۳۰ پرسش بر اساس روایتهای نادرستی که در بازه زمانی دسامبر ۲۰۲۵ تا ژوئیه ۲۰۲۶ منتشر شده بودند، طراحی شد. این پرسشها را در اختیار چتباتهایی نظیر Gemini و ChatGPT و همچنین موتورهای جستوجوی اصلی قرار دادند تا میزان دقت آنها در تشخیص واقعیتها سنجیده شود.
قدرت تحلیل چتباتها در رد پیشفرضهای غلط
چتباتهای هوش مصنوعی در حدود سهچهارم موارد توانستند روایتهای گمراهکننده را شناسایی کرده و آنها را رد کنند. نکته قابل توجه این است که این ابزارها اغلب ابتدا پیشفرض نادرست موجود در پرسش کاربر را تشخیص میدادند و سپس با ارائه اطلاعات اصلاحشده، پاسخ میدادند.
به عنوان نمونه، در مورد ادعای روسیه درباره بمباران یک صومعه تاریخی در کییف، چتباتها نه تنها این ادعا را رد کردند، بلکه توضیح دادند که این مکان در جریان حملات هوایی روسیه هدف قرار گرفته است و روایتهای متضاد، بخشی از یک کارزار اطلاعات نادرست است.
شکست موتورهای جستوجو در برابر روایتهای جعلی
خلاصههای تولید شده توسط هوش مصنوعی در نتایج برتر موتورهای جستوجو، عملکردی ضعیفتر از چتباتهای مستقل داشتند. تفاوت عملکرد این ابزارها به شرح زیر است:
- گوگل:ویژگی «مرور کلی هوش مصنوعی» (AI Overviews) توانست بخش زیادی از روایتهای نادرست را رد کند.
- بینگ:خلاصههای هوش مصنوعی در این موتور جستوجو در بسیاری از موارد ناموفق بودند.
- داکداکگو:عملکردی متوسط و در سطحی میان گوگل و بینگ داشت.
چالش کیفیت منابع اطلاعاتی
با وجود برتری چتباتها در رد اخبار جعلی، یک نقطه ضعف مشترک میان تمام ابزارها مشاهده شد. نرخ استناد چتباتها و موتورهای جستوجو به پیوندهای رسانههای همسو با دولتها یا تحت کنترل آنها تقریباً یکسان است. این موضوع نشان میدهد که هر دو سیستم همچنان در زمینه انتخاب منابع معتبر و باکیفیت با چالشهای جدی روبهرو هستند.