هشدار مستقیم برای نقض سیاستهای امنیتی
OpenAI تصمیم گرفته است فاصله میان ابزارهای هوش مصنوعی و نظارت خانوادگی را کم کند. بر اساس سیستم جدید، والدینی که حساب کاربری خود را به حساب فرزند نوجوانشان متصل کردهاند، در صورت تعلیق حساب فرزند به دلیل فعالیتهای خشونتآمیز، اعلانی دریافت میکنند. این اقدام با هدف مداخله سریع خانوادهها در شرایطی طراحی شده که نوجوان یا دیگران در معرض خطر قرار بگیرند.
وقتی OpenAI حسابی را به دلیل نقض سیاستهای مربوط به خشونت مسدود میکند، والد مربوطه پیامی مبنی بر «بهروزرسانی مهم حساب کاربری» دریافت میکند. والدین با ورود به این بخش میتوانند جزئیات دقیقتری را مشاهده کنند و بفهمند آیا غیرفعال شدن حساب دقیقاً به دلیل رفتارهای خشونتآمیز بوده است یا خیر.
تفکیک خشم از خشونت؛ چه مواردی گزارش نمیشوند؟
شرکت سازنده ChatGPT تأکید دارد که این سیستم هشدار را بهگونهای دقیق طراحی کرده است که باعث ایجاد مزاحمت یا نگرانیهای بیمورد نشود. در واقع، این سازوکار روی تمامی گفتگوها نظارت نمیکند. موارد زیر در زمره رفتارهای خشونتآمیز قرار نمیگیرند و منجر به ارسال هشدار به والدین نمیشوند:
- نوشتن داستانهای تخیلی و بازیهای نقشآفرینی
- بررسی اخبار و بحثهای سیاسی
- ابراز خشم عمومی یا بیان احساسات تند
- پرسشهای نظری و فلسفی درباره خشونت
توسعه ابزارهای کنترل والدین در ChatGPT
این قابلیت جدید، بخشی از یک بسته گستردهتر از ابزارهای نظارتی است که OpenAI پیش از این برای خانوادهها ارائه داده بود. والدینی که حساب فرزندانشان را مدیریت میکنند، اکنون میتوانند تنظیمات سختگیرانهتری را اعمال کنند تا محیط تعامل نوجوان با هوش مصنوعی را کنترل کنند.
برخی از امکانات فعلی این پنل مدیریتی عبارتند از:
- تعیین بازههای زمانی خاص برای دسترسی یا عدم دسترسی به سرویس (ساعات خاموشی)
- محدود کردن دسترسی به محتواهای حساس
- غیرفعال کردن قابلیتهای صوتی (Voice) و حافظه (Memory) سیستم
- جلوگیری از تولید تصویر توسط هوش مصنوعی
- مسدود کردن استفاده از گفتگوهای نوجوان برای آموزش مدلهای آینده OpenAI