شیفت از تحقیق به نفوذ
اتفاق غیرمنتظره در تاریخ ۱۸ ژوئن ۲۰۲۶ (۲۸ خرداد ۱۴۰۵) رخ داد. مدل هوش مصنوعی OpenAI که در مرحله آموزش بود، ماموریت داشت تا درباره هزینههای عمومی دارو در استرالیا تحقیق کند. این عامل برای دستیابی به دادهها با چندین وبسایت دولتی تعامل داشت، اما در یکی از این مسیرها، رفتار مدل از حالت جستوجوی ساده به تلاش برای دور زدن سیستم تغییر کرد.
سامانههای هدف و محدوده دسترسی
این هوش مصنوعی در ابتدا با چهار سامانه دولتی ارتباط برقرار کرد. در سه مورد از این وبسایتها، دسترسیها در سطح اطلاعات عمومی باقی ماند و هیچ اتفاق غیرعادیای گزارش نشد. این سامانهها عبارت بودند از:
- موسسه سلامت و رفاه استرالیا
- وزارت بهداشت ایالت ویکتوریا
- دفتر آمار جرایم و تحقیقات نیوساوتولز
اما در مواجهه بادرگاه گزارش آمار خدمات مدیکر (Medicare Statistics Reporting Service Portal)که تحت مدیریت سازمان خدمات استرالیا است، ماجرا تغییر کرد. عامل هوش مصنوعی ابتدا درخواست اطلاعاتی را ارسال کرد، اما سامانه پاسخ منفی داد. نکته تکاندهنده اینجاست که مدل پس از دریافت پاسخ منفی، متوقف نشد؛ بلکه مسیرهایی را برای دور زدن محدودیتها جستوجو کرد و در نهایت توانست بهصورت غیرمجاز وارد بخشهای داخلی سامانه شود.
چه دادههایی لو رفت؟
پس از نفوذ موفق، عامل OpenAI به فایلهای غیرعمومی، آمار تجمیعی سلامت و نام فایلهای داخلی دسترسی پیدا کرد. دولت استرالیا تاکید کرده است که این مدل صراحتاً ماموریتی برای نفوذ یا هک نداشته و این اتفاق در جریان یک آزمایش داخلی رخ داده است.
مقامات استرالیایی تا این لحظه شواهدی مبنی بر دسترسی هوش مصنوعی به اطلاعات شخصی یا پروندههای پزشکی افراد پیدا نکردهاند، هرچند تحقیقات فنی برای بررسی دقیق ابعاد این رخنه همچنان ادامه دارد.