این خبر نشان میدهد که حملهای با هدف باجگیری و بهرهبرداری از هوش مصنوعی میتواند منجر به اختلالهای ناگهانی در پلتفرمهای مبتنی بر محتوای تولیدشده کاربران شود. پاول دوروف، مدیرعامل و بنیانگذار تلگرام، ادعا کرده است که حذف موقت این پیامرسان از اپ استور اپل به دلیل چنین تهدیدی و بهطور خاص استفاده از قابلیت ویرایش پیامهای قدیمی در یک گفتوگوی گروهی بوده است.
جزئیات اتهام و واکنشها
دوروف در گزارشی اظهارنظر کرده است که محتوایی غیرقانونی که با استفاده از هوش مصنوعی تولید شده بود، بهجای پیام اصلی در گفتوگوی گروهی جایگزین شده و از دید اعضای گروه پنهان مانده است. او همچنین مدعی است که مهاجم با استفاده از حسابهای کاربری خودکار همان پیام را به اپل گزارش کرده و همزمان با تهدید به تداوم گزارشها، از توسعهدهندگان درخواست باج کرده است تا از ادامه حمله جلوگیری شود.
این رویداد به گفته وی نشان میدهد که با وجود اقدامات امنیتی، باجگیران راهی برای فریب سیستمهای شرکتهای فناوری پیدا کردهاند و حذف تلگرام از اپ استور میتواند به خطرات سیستمی برای سایر برنامههای موبایلی نیز منجر شود. دوروف تأکید کرده است که مسئولیت پلتفرمها در قبال محتوای تولیدشده توسط کاربران از مباحث طولانیمدت و پیچیده است و بررسیهای بیشتری در آینده در این زمینه لازم است.
سابقه و چشمانداز
بحث مسئولیت پلتفرمها در قبال محتوای تولیدشده توسط کاربران همواره یکی از چالشهای اصلی شبکههای اجتماعی بوده است و تلگرام و مدیران آن، بهویژه در سالهای اخیر، در کانون این مباحث قرار داشتهاند. با گسترش استفاده از ابزارهای هوش مصنوعی برای تولید و ویرایش تصاویر، ویدئو و متن، کارشناسان معتقدند امکان بروز چنین حملاتی و تاثیر آنها بر پلتفرمهای ارتباطی افزایش یافته است.