متخصص AI؛ چرا کنترل عامل‌های هوشمند از توانایی انسان فراتر می‌رود؟

به گزارش خبرگزاری ایمنا، «جفری هینتون»، دانشمند برجسته علوم رایانه و برنده جایزه نوبل که از او با عنوان «پدرخوانده هوش مصنوعی» یاد می‌شود، نسبت به آینده این فناوری هشدار داده و معتقد است هرچه سامانه‌های هوش مصنوعی قدرتمندتر شوند، کنترل آن‌ها برای انسان دشوارتر خواهد شد. Hشدار هینتون در شرایطی مطرح شده که نمونه‌هایی از رفتارهای غیرمنتظره و خطرناک عامل‌های هوش مصنوعی در ماه‌های اخیر گزارش شده است؛ از تلاش برای خروج از محیط‌های آزمایشی و دسترسی به سامانه‌های دیگر گرفته تا جعل هویت و تلاش برای اجرای کدهای مخرب. شرکت‌هایی مانند OpenAI، Anthropic و Meta نیز مواردی از توانایی عامل‌های هوش مصنوعی برای انجام فعالیت‌های سایبری خارج از چارچوب مورد انتظار را گزارش کرده‌اند. وقتی هوش مصنوعی فقط «پاسخ» نمی‌دهد نسل جدید هوش مصنوعی تنها ابزارهایی برای پاسخ دادن به پرسش‌های کاربران نیستند. عامل‌های هوشمند می‌توانند مجموعه‌ای از اقدامات را برای رسیدن به یک هدف برنامه‌ریزی و اجرا کنند؛ ویژگی‌ای که ظرفیت این فناوری را افزایش داده، اما همزمان نگرانی‌های امنیتی تازه‌ای ایجاد کرده است. Hینتون معتقد است مشکل اصلی در آینده این خواهد بود که انسان نمی‌تواند صرفاً با تکیه بر هوش خود، سامانه ای را که از او باهوش‌تر است کنترل کند. به بیان ساده‌تر، اگر یک سامانه بتواند راه‌های فرار از محدودیت‌های تعیین‌شده را بهتر از طراحان خود پیدا کند، روش‌های سنتی کنترل دیگر کافی نخواهد بود. این نگرانی زمانی جدی‌تر می‌شود که هوش مصنوعی به زیرساخت‌های حساس، شبکه‌های رایانه‌ای و ابزارهای اجرایی دسترسی پیدا کند. در چنین شرایطی، یک خطای کوچک یا تصمیم نادرست می‌تواند پیامدهایی بسیار بزرگ‌تر از یک پاسخ اشتباه در یک چت‌بات داشته باشد. hملات سایبری؛ یکی از نگرانی‌های جدی یکی از مهم‌ترین نگرانی‌های مطرح‌شده درباره نسل جدید هوش مصنوعی، استفاده از آن در حملات سایبری است. هینتون پیش‌بینی کرده است که حملات سایبری پیچیده‌تر و بیشتری با کمک هوش مصنوعی شکل خواهد گرفت. منطق این تهدید ساده است؛ مهاجم برای موفقی