انویدیا با رونمایی از یک پلتفرم نرمافزاری جدید، تلاش می‌کند جلوی تکانه‌های پیش‌بینی‌نشده عاملهای هوش مصنوعی را بگیرد. این ابزار در واقع چارچوبی است که اجازه نمی‌دهد مدلهای هوشمند از محیط تعیین‌شده خارج شده و به سیستمهای دیگر نفوذ کنند. این اقدام در حالی صورت میگیرد که پیش از این، چندین شرکت بزرگ فناوری از حوادثی خبر داده بودند که در آن مدلهای هوش مصنوعی توانسته‌اند حصارهای امنیتی را دور بزنند و به زیرساخت‌های رایانه‌ای سایر شرکت‌ها حمله کنند.
معماری دوگانه برای کنترل و نظارت
این پلتفرم برای ایجاد یک لایه امنیتی سخت‌گیرانه، از دو بخش مجزا و مکمل تشکیل شده است تا هیچ نقطه‌کوری در فعالیت عاملها باقی نماند:
- بخش پردازنده‌های مرکزی (CPU):این لایه مستقیماً بر روی قابلیت‌های عاملها اثر می‌گذارد و محدوده عملیاتی آنها را تعیین و محدود می‌کند.
- بخش تراشه‌های شبکه:این بخش وظیفه پایش لحظه‌ای (Monitoring) فعالیت‌ها را بر عهده دارد تا هرگونه تلاش برای خروج از چارچوب‌ها سریعاً شناسایی شود.
حمله ۱۷ هزار عامل؛ زنگ خطر برای صنعت فناوری
کارشناسان معتقدند اگر چنین ابزاری پیش‌تر در دسترس بود، می‌توانست از برخی حوادث امنیتی اخیر جلوگیری کند. یکی از تکان‌دهنده‌ترین موارد، نفوذ مدلهای هوش مصنوعی یک شرکت به اینترنت آزاد و حمله به یک پلتفرم توسعه‌دهنده متن‌باز بود. طبق گزارش یکی از مدیران انویدیا، پلتفرم مذکور اعلام کرد که بیش از ۱۷ هزار عامل هوشمند به زیرساخت‌های آنها حمله کرده‌اند؛ حملاتی که نه برای چند ساعت، بلکه روزها و هفته‌ها به‌طور مستمر ادامه داشت.
رویکرد انویدیا: مرورگری برای مهار هوش مصنوعی
مدیرعامل انویدیا این پلتفرم را به یک «مرورگر» تشبیه می‌کند؛ ابزاری که تنها دسترسیهای ضروری و لازم برای انجام وظایف را در اختیار عاملها قرار می‌دهد و هرگونه حرکت خارج از این مسیر را مسدود می‌کند. او تأکید می‌کند که سازمان‌ها نمی‌توانند اجازه دهند عاملهای هوش مصنوعی بدون نظارت در محیطهای داخلی آزادانه فعالیت کنند و مهار آنها یک ضرورت است.
انویدیا در توسعه این طرح با چندین شرکت بزرگ فناوری همکاری می‌کند. مدیرعامل این شرکت معتقد است موفقیت کلی صنعت هوش مصنوعی در گرو باور جهانی به ایمن‌بودن ساخت و استقرار این مدل‌هاست و بدون امنیت، پیشرفت‌های فعلی پایدار نخواهد بود.