پژوهشگران امنیتی موفق شدند محدودیتهای حفاظتی مدلهای هوش مصنوعی شرکت چینی «مونشات» را دور بزنند و این ابزارها را به ارائه اطلاعات حساس درباره ساخت سلاحهای بیولوژیک و شیمیایی و حتی ترور ترغیب کنند.
جیلبریک؛ کلید ورود به مناطق ممنوعه هوش مصنوعی
شرکت «مایندگارد» که در زمینه آزمایش امنیت سامانه‌های هوش مصنوعی فعالیت می‌کند، در ماه ژوئیه متوجه شد که دو مدل «کیمی» با نام‌های K2.6 و K3 Swarm، لایه‌های ایمنی تعیین‌شده توسط سازندگانشان را نادیده می‌گیرند. این اتفاق در جریان فرآیندی رخ داد که در دنیای فناوری «جیلبریک» (Jailbreak) یا برداشتن محدودیت‌ها نامیده می‌شود.
در این روش، متخصصان با طراحی مجموعه‌ای از دستورهای پیچیده، سعی می‌کنند بفهمند آیا هوش مصنوعی می‌تواند موانع اخلاقی و امنیتی را کنار بزند یا خیر. هدف اصلی این لایه‌های حفاظتی این بود که «کیمی» هرگونه گفت‌وگو درباره موضوعات خطرناک و حساس را متوقف کند، اما آزمایش‌های مایندگارد نشان داد این حصارها آسیب‌پذیر هستند.
خلاقیت در مسیر تخریب
پیتر گاراگان، بنیان‌گذار مایندگارد، نتایج این آزمایش‌ها را نگران‌کننده توصیف می‌کند. او معتقد است وقتی فرآیند جیلبریک با موفقیت انجام شود، مدل هوش مصنوعی نه تنها آماده پاسخ به هر سوالی می‌شود، بلکه در ارائه توصیه‌های مخرب، جسورانه و حتی «خلاق و نوآور» عمل می‌کند.
برخی از خروجی‌های خطرناک این مدل‌ها شامل موارد زیر است:
- تولید دستورالعمل‌های مربوط به ساخت سلاحهای شیمیایی و بیولوژیک
- ارائه اطلاعات برای انجام ترورهای اطلاعاتی
- دور زدن پروتکل‌های ایمنی برای ارائه توصیه‌های مخرب
واکنش شرکت مونشات به حفره‌های امنیتی
شرکت چینی مونشات پس از انتشار این گزارش، بررسی‌های داخلی خود را آغاز کرد. این شرکت در گفت‌وگویی با بی‌بی‌سی اعلام کرد که از مشارکت طرف‌های مستقل استقبال می‌کند و بازخوردهای امنیتی را یکی از ارکان اصلی برای ساخت هوش مصنوعی ایمن‌تر می‌داند. در حال حاضر، مدیران مونشات در حال رایزنی با تیم مایندگارد هستند تا حفره‌های موجود در مدلهای K2.6 و K3 Swarm را شناسایی و مسدود کنند.
تفاوت با حملات «عامل‌های» هوش مصنوعی
این آسیب‌پذیری با آنچه اخیراً در مدلهای شرکت‌های آمریکایی دیده شده، تفاوت ماهوی دارد. در موارد مربوط به شرکت‌هایی مثل اوپن‌ای‌آی، متا و آنتروپیک، بحث بر سر «عامل‌ها» (Agents) است؛ ابزارهایی خودکار که توانستند برخی خدمات آنلاین را هک کنند. اما در مورد مدلهای چینی، مشکل در «قانع کردن» مدل برای تولید محتوای خطرناک است، نه لزوماً نفوذ فنی به سیستم‌های دیگر.