أوبن إيه آي تعزز حماية المراهقين في شات جي بي تي بإجراءات أمان جديدة

المعلومة/ متابعة..
أعلنت شركة أوبن إيه آي عن إطلاق مجموعة من الإجراءات الأمنية الجديدة في شات جي بي تي بهدف توفير تجربة أكثر أمانا للمستخدمين المراهقين الذين تقل أعمارهم عن 18 عاما وذلك عبر تطوير أدوات الرقابة الأبوية وتحسين أنظمة تقدير عمر المستخدم وتخصيص طريقة تفاعل المنصة مع الفئات العمرية الأصغر.
وتأتي هذه الخطوات في وقت يتزايد فيه الجدل عالميا حول تأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الأطفال والمراهقين وسط مخاوف تتعلق بالتعرض لمحتوى غير مناسب أو نشوء ارتباط عاطفي مفرط بهذه الأنظمة أو استخدامها في التعامل مع حالات نفسية حساسة.
وأوضحت أوبن إيه آي أنها تعمل على تطوير نظام لتقدير عمر مستخدمي شات جي بي تي بالاعتماد على مؤشرات مرتبطة بطريقة استخدام الحساب وفي حال وجود شكوك حول عمر المستخدم يمكن نقل الحساب تلقائيا إلى تجربة الحماية المخصصة لمن هم دون 18 عاما.
وأضافت الشركة أنها قد تطلب في بعض الحالات إجراءات إضافية للتحقق من العمر مؤكدة أن هذا الإجراء يهدف إلى تحقيق توازن بين حماية القاصرين والحفاظ على خصوصية المستخدمين البالغين.
وفي إطار تعزيز دور الأسرة أطلقت الشركة أدوات رقابة تسمح للوالدين بتفعيل وضع الدراسة في التطبيق عن بعد حيث يساعد النظام الطلاب على الوصول إلى الحلول عبر خطوات تعليمية بدلا من تقديم الإجابات الجاهزة فقط.
وقالت أوبن إيه آي إن تصميم هذه الميزة جاء بعد الاستفادة من آراء خبراء التعليم والتربويين الذين أبدوا مخاوف من أن الاعتماد المفرط على أدوات الذكاء الاصطناعي قد يؤثر في تطوير مهارات التفكير النقدي لدى الطلاب.
وتعتمد الإجراءات الجديدة على نظام سابق أطلقته الشركة يتيح للآباء ربط حساباتهم بحسابات أبنائهم ووضع حدود زمنية للاستخدام وتعطيل بعض الخصائص مثل إنشاء الصور إضافة إلى تلقي تنبيهات في الحالات التي تشير فيها الأنظمة إلى وجود مخاطر محتملة.
وبحسب الشركة فإن الإشعارات الموجهة للوالدين ستكون محدودة وتقتصر على الحالات التي قد يحتاج فيها المراهق إلى دعم بالغ مثل بعض المخاطر العاجلة أو السلوكيات الخطرة بينما لن تشمل المحادثات اليومية أو الأسئلة التعليمية والنقاشات العامة.
كما أكدت أوبن إيه آي أن الآباء لن يتمكنوا من الاطلاع على محتوى محادثات أبنائهم رغم إمكانية إخطارهم عند تعطيل الحسابات لأسباب تتعلق بالسلامة وذلك حفاظا على خصوصية المستخدمين.
وتشمل التحديثات أيضا فرض قيود إضافية على بعض أنواع المحتوى الحساس وتصميم إجابات تتناسب مع عمر المستخدم مع تعزيز مبادئ السلامة والشفافية عند تشغيل نماذج الذكاء الاصطناعي الموجهة لمن هم دون 18 عاما.
وتأتي هذه التحركات في ظل ضغوط متزايدة من الجهات التنظيمية والأسر ومنظمات حماية الأطفال التي تطالب شركات الذكاء الاصطناعي بوضع قواعد أكثر وضوحا لاستخدام هذه التقنيات بين المراهقين.
وأكدت أوبن إيه آي أن هدفها ليس منع الشباب من استخدام الذكاء الاصطناعي بل توفير بيئة أكثر أمانا تساعدهم على التعلم والبحث والإبداع مع الحد من المخاطر المحتملة.
ورغم أهمية هذه الإجراءات فإن أنظمة التحقق من العمر والرقابة الأبوية ما زالت تثير نقاشات حول حماية الخصوصية إذ يحذر بعض المختصين من أن تؤدي إجراءات التحقق الصارمة إلى جمع بيانات حساسة عن المستخدمين.
ويرى خبراء أن التحدي الأكبر أمام شركات الذكاء الاصطناعي يتمثل في إيجاد توازن بين حماية الأطفال وتوفير أدوات أمان فعالة دون تحويلها إلى وسائل مراقبة تؤثر في خصوصية المستخدمين. انتهى 25