أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن سياسات جديدة تخص مستخدمي تطبيق ChatGPT ممن تقل أعمارهم عن 18 عامًا، في خطوة تهدف إلى تعزيز حماية المراهقين عند استخدام هذه التكنولوجيا، وأوضح ألتمان أن الشركة “تضع السلامة فوق الخصوصية والحرية بالنسبة للمراهقين”، مشيرًا إلى أن التقنية قوية وحديثة وتحتاج إلى ضوابط صارمة لحماية القُصّر.
قيود على المحادثات الحساسة
تشمل التغييرات الجديدة منع أي تفاعل ذي طابع غزلي مع المراهقين، بالإضافة إلى فرض قيود أكبر على المحادثات المتعلقة بالانتحار أو إيذاء النفس، ووفق السياسة المعدلة، إذا حاول مستخدم قاصر استكشاف سيناريوهات انتحار عبر ChatGPT، سيقوم النظام بمحاولة التواصل مع والديه أو، في الحالات الأكثر خطورة، مع السلطات المحلية.
وتأتي هذه الخطوة وسط دعوى قضائية مرفوعة ضد OpenAI من والدي المراهق آدم رين، الذي أنهى حياته بعد أشهر من تفاعلاته مع ChatGPT، وتواجه منصة Character.AI قضية مشابهة، في ظل قلق متزايد من ظاهرة “الوهم الناتج عن المحادثة المطوّلة مع الروبوتات”، خاصة بين المستخدمين الشباب.
أدوات جديدة للأهل
ستمنح OpenAI الآباء المسجلين القدرة على تحديد “ساعات حظر” لا يمكن خلالها لأطفالهم استخدام ChatGPT، وهي ميزة لم تكن متاحة سابقًا، كما سيُتاح ربط حسابات المراهقين بحسابات ذويهم، ما يسمح بإرسال تنبيهات مباشرة في حال اعتقد النظام أن المستخدم في حالة خطر نفسي.
التحدي التقني والفصل بين المستخدمين
أوضحت OpenAI أنها تعمل على تطوير نظام طويل الأمد يحدد ما إذا كان المستخدم فوق أو تحت 18 عامًا، وفي الحالات الغامضة ستُطبق تلقائيًا القيود الأكثر صرامة، لكن الشركة شددت في الوقت نفسه على التزامها بحماية خصوصية البالغين ومنحهم حرية أوسع في التفاعل مع الروبوت.
جلسة استماع في الكونجرس
تزامنت هذه التغييرات مع جلسة استماع للجنة القضائية في مجلس الشيوخ الأميركي بعنوان: “بحث أضرار روبوتات الدردشة بالذكاء الاصطناعي”، حيث ألقى والد آدم رين كلمة إلى جانب خبراء آخرين، الجلسة ناقشت أيضًا تقريرًا استقصائيًا لوكالة رويترز كشف عن وثائق سياسات سابقة شجعت على محادثات ذات طابع جنسي مع قاصرين، الأمر الذي دفع شركات مثل Meta لتحديث سياساتها الخاصة بالروبوتات.
0 تعليق