ابزارهای تشخیص هوش مصنوعی در سالهای اخیر جهشی قابلتوجه داشتهاند. اکنون شرکتهایی نظیر «پانگرام» (Pangram) و «جیپیتی زیرو» (GPTZero) مدعیاند میتوانند با دقت بسیار بالا، متونی را که توسط ماشین تولید شده از نوشتههای انسانی تفکیک کنند. این ابزارها دیگر تنها در حد آزمایشگاهها نیستند و به سرعت راه خود را به محیطهای دانشگاهی، انتشارات و کنفرانسهای علمی باز کردهاند تا جلوی نفوذ متون ماشینی به مقالات و تکالیف دانشجویان را بگیرند.
نفوذ هوش مصنوعی به دنیای پژوهشهای علمی
استفاده از مدلهای زبانی بزرگ در محیطهای تخصصی، داوران و پژوهشگران را به استفاده از ابزارهای نظارتی سوق داده است. برای نمونه، دنیل اوانکو از انجمن آمریکایی تحقیقات سرطان، برای بررسی گزارشهای داوری همتا از ابزار پانگرام استفاده میکند. او متوجه شد برخی پژوهشگران بدون اعلام رسمی، از هوش مصنوعی کمک میگیرند؛ در یکی از موارد، داوری که توسط این ابزار شناسایی شده بود، اعتراف کرد که به دلیل کمبود وقت، متن خود را به مدلهای زبانی سپرده است.
آمارها چه میگویند؟
دادههای منتشر شده از عملکرد این ابزارها و میزان نفوذ هوش مصنوعی در متون علمی تکاندهنده است:
- دقت ادعایی:شرکت سازنده پانگرام مدعی است ابزاری ساخته که با دقت ۹۹.۹۸ درصد محتوای ماشینی را شناسایی میکند. جیپیتی زیرو نیز دقت خود را ۹۹ درصد اعلام کرده است.
- مقالات زیستپزشکی:یک مطالعه نشان میدهد سال گذشته، از هر هشت مقاله در حوزه زیستپزشکی، یک مورد شامل متنی بوده که توسط هوش مصنوعی تولید شده است.
- کنفرانس NeurIPS:این کنفرانس معتبر پس از غربالگری متون ارسالی با ابزار پانگرام، ۱۸ درصد از مقالات دریافتی را رد کرد.
تغییر رویکرد؛ از آمارهای ساده تا تحلیلهای پیچیده
نسلهای قدیمی ابزارهای تشخیص، عمدتاً بر ویژگیهای آماری متن مانند «پریپلکسیتی» (Perplexity) تکیه میکردند. این روشها ساده بودند اما خطای زیادی داشتند و اغلب متون انسانی را به اشتباه، محصول هوش مصنوعی تشخیص میدادند. اما اکنون با ورود هوش مصنوعی به مرحله ویرایش و بازنویسی، حتی پیشرفتهترین ابزارها نیز در مواجهه با متونی که توسط انسان نوشته شده و سپس توسط ماشین صیقل خورده است، دچار تردید میشوند.