شات جي بي تي يقيّد معلومات الأسلحة ويشدد مراقبة المحادثات الخطرة

المعلومة/ متابعة...
تتجه شركة "أوبن إيه آي" إلى تشديد إجراءات السلامة في روبوت المحادثة "شات جي بي تي"، عبر تقييد وصول المستخدمين المراهقين إلى المعلومات التطبيقية المتعلقة بالأسلحة، وتوسيع آليات رصد المحادثات التي تتضمن مؤشرات على التفكير في ممارسة العنف أو إيذاء الآخرين.
وتشمل التحديثات الجديدة الحد من تقديم المعلومات العملية المتعلقة بالحصول على الأسلحة وتشغيلها واستخدامها في الاعتداء على الآخرين، فضلاً عن تشديد القيود على التفاصيل المرتبطة بحوادث إطلاق النار الجماعي، بما في ذلك أنواع الأسلحة والمعدات المستخدمة وطرق الحصول عليها.
كما قررت الشركة توسيع نطاق رصد سياق المحادثات، بدلاً من التعامل مع كل سؤال بصورة منفصلة، بهدف تحديد الأنماط المتكررة التي قد تشير إلى وجود مخاطر تتعلق بسلامة المستخدم أو المحيطين به.
وبموجب الإجراءات الجديدة، قد ينهي شات جي بي تي المحادثات تلقائياً عند رصد مؤشرات على التفكير في ارتكاب أعمال عنف أو إلحاق أذى جسيم بالآخرين، فيما قد يؤدي تكرار هذه الحالات إلى تعليق الحساب مؤقتاً.
وأكدت الشركة أن القيود لن تشمل المعلومات التاريخية والاجتماعية المتعلقة بحوادث العنف، أو النقاشات الصحفية والأكاديمية والتوعوية بشأن آثارها وسبل الوقاية منها، مشيرة إلى استمرار التعاون مع خبراء السلامة والوقاية من العنف لتطوير آليات التدخل المبكر.انتهى/25