اختبار يكشف إخفاق دمى الذكاء الاصطناعي في حماية الأطفال من المحتوى غير الملائم
المعلومة/ متابعة..
كشف اختبار أجرته شبكة "إن بي سي" الأمريكية عن مشكلات مثيرة للقلق في عدد من دمى الأطفال المدعومة بتقنيات الذكاء الاصطناعي، بعدما قدمت إجابات غير مناسبة للفئات العمرية الصغيرة، تضمنت أوصافاً تفصيلية لجرائم حرب ووقائع تاريخية عنيفة، فضلاً عن أخطاء لغوية وانتقال تلقائي بين اللغات.
وشمل الاختبار ثلاث دمى مخصصة للأطفال دون سن الثالثة، هي "Pixie Paws Smart" من شركة "Contexto"، و"Lizzy AI Companion" من شركة "Smile"، و"Baby Hoo" من شركة "VTech"، إذ كشفت التجربة عن تفاوت في طبيعة المشكلات التي واجهتها كل دمية، رغم تسويقها باعتبارها ألعاباً تعليمية آمنة قادرة على التفاعل مع الأطفال وسرد القصص ومساعدتهم على التعلم.
وبحسب تقرير الشبكة، أظهرت التجارب أن بعض الدمى قدمت معلومات وأوصافاً عن أحداث تاريخية عنيفة بصورة تفصيلية لا تتناسب مع أعمار الأطفال، فيما واجهت دمى أخرى صعوبات في تهجئة الكلمات، رغم أن بعضها يُسوّق لمساعدة الأطفال الذين يعانون صعوبات التعلم واضطرابات طيف التوحد.
وكانت الحالة الأكثر إثارة للقلق تتعلق بدمية "Pixie Paws Smart"، التي قدمت وصفاً تفصيلياً لجرائم وفظائع ارتُكبت خلال حروب مختلفة، بما في ذلك تفاصيل صادمة عن الإصابات الناتجة عن إطلاق النار، وأبدت استعدادها لمواصلة الحديث والتوسع في تلك الوقائع، قبل أن يتدخل فريق الاختبار لإيقاف المحادثة.
كما رصد الاختبار انتقال إحدى الدمى بصورة تلقائية بين اللغتين الإنجليزية والماندرينية، من دون طلب من المستخدم، وهو ما أثار تساؤلات بشأن طبيعة نماذج الذكاء الاصطناعي المستخدمة في تشغيل هذه الألعاب ومدى كفاءتها في فهم الأسئلة وتقديم إجابات مناسبة للأطفال.
وتأتي هذه النتائج في وقت تتزايد فيه المخاوف بشأن استخدام الذكاء الاصطناعي في ألعاب الأطفال، خصوصاً أن هذه المنتجات تعتمد على نماذج تفاعلية قادرة على إجراء محادثات مفتوحة، ما يطرح تحديات تتعلق بخصوصية البيانات، ودقة المعلومات، وآليات الرقابة على المحتوى الذي يمكن أن يصل إلى الأطفال.
ولم تكن هذه التحذيرات الأولى من نوعها، إذ سبق أن حذرت مجموعة أبحاث المصلحة العامة الأمريكية المعنية بسلامة المستهلك من أن بعض الألعاب المزودة بالذكاء الاصطناعي قد تنخرط في محادثات غير ملائمة للفئات العمرية المستهدفة، وفقاً لما أورده موقع "Business Insider".
كما أشارت تقارير سابقة إلى رصد أخطاء معرفية ولغوية في بعض هذه الألعاب، من بينها العجز عن تهجئة كلمات بسيطة، وتقديم إجابات تتضمن معلومات غير دقيقة أو روايات منحازة، الأمر الذي يعزز المخاوف من تأثير هذه التقنيات في وعي الأطفال ومعلوماتهم.
وفي المقابل، لا تقدم شركات الذكاء الاصطناعي الكبرى، مثل "OpenAI" و"Anthropic"، دمى أطفال تعتمد مباشرة على نماذجها، فيما تتركز منتجاتها التفاعلية الحالية بصورة أكبر على التطبيقات والخدمات الرقمية، مع وجود ضوابط عمرية تختلف بحسب المنتج.
وتسلط نتائج الاختبار الضوء على أهمية إخضاع الألعاب الذكية لمعايير أكثر صرامة تتعلق بسلامة المحتوى وحماية خصوصية الأطفال، فضلاً عن ضرورة التأكد من قدرة أنظمة الذكاء الاصطناعي على التمييز بين المعلومات المناسبة وغير المناسبة لكل فئة عمرية، قبل طرحها في الأسواق.انتهى 25