edition
Almaalouma
  • أخبار
  • مقالات
  • إنفوجرافيك
  • فيديو
  • كاريكاتير
  • تقارير
  • ترجمة
  • الذكاء الاصطناعي
  1. Home
  2. أخبار
  3. ذكاء اصطناعي
  4. "أوبن إيه آي" توقف اختبار أحد أقوى نماذجها بعد استغلاله ثغرة للوصول إلى الإنترنت
"أوبن إيه آي" توقف اختبار أحد أقوى نماذجها بعد استغلاله ثغرة للوصول إلى الإنترنت
ذكاء اصطناعي

"أوبن إيه آي" توقف اختبار أحد أقوى نماذجها بعد استغلاله ثغرة للوصول إلى الإنترنت

  • 27 Sep 18:09

المعلومة/ متابعة..
أوقفت شركة "أوبن إيه آي"، صاحبة برنامج "تشات جي بي تي"، العمل بأكثر نماذج الذكاء الاصطناعي لديها قدرة، بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.
وقالت "أوبن إيه آي" في منشور على مدونتها، إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه "اكتشف ثغرة واستغلها".
ومن المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتا، حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.
وكشفت "أوبن إيه آي" أن الحادث كان أقل خطورة من بعض الحالات السابقة، لكنه يعد الأول منذ تشديد حواجز الحماية، في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاغينغ فيس".
وخلال الاختبار، طلب من النموذج تحديد هوية شخص كتب منشورا على مدونة باستخدام سلسلة من الأدلة، وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام الإنترنت المفتوح عبر ثغرة.
ويأتي هذا الحادث في أعقاب عدة حالات أخرى شملت أنظمة "أوبن إيه آي".
وفي إحدى الحالات، وضع برنامج ذكاء اصطناعي 53 صورة حملها المستخدمون على منصات عبر الإنترنت، وقالت الشركة إن الروابط لم تكن عامة، وإن معظم الصور أزيلت منذ ذلك الحين.
كما تفاعلت برامج "أوبن إيه آي" بشكل غير متوقع مع العديد من المواقع الإلكترونية الحكومية الأميركية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها.
وقالت الشركة إنها أخطرت "عشرات" المنظمات التي تم التفاعل مع مواقعها الإلكترونية بطرق غير مقصودة بواسطة برمجياتها.
وكانت الحالة الأكثر إثارة للجدل حتى الآن تتضمن خروج نظام تابع لـ"أوبن إيه آي" من بيئة اختبار مؤمنة، ووصوله إلى أجهزة كمبيوتر مملوكة لمنصة "هاغينغ فيس". انتهى 25

الأكثر قراءة

الحشد الشعبي يقتحم مناطق صحراوية تحوي انفاقاً سرية لداعش الارهابي في الانبار

الحشد الشعبي يقتحم مناطق صحراوية تحوي انفاقاً سرية...

  • أمني
  • 12 Nov
بعد قصف مضافات "داعش".. عملية من محورين في وادي زغيتون جنوب كركوك

بعد قصف مضافات "داعش".. عملية من محورين في وادي...

  • أمني
  • 9 Nov
وفاة طفل بانفجار مخلف حربي في مويلحات جنوب غرب البصرة

وفاة طفل بانفجار مخلف حربي في مويلحات جنوب غرب البصرة

  • أمني
  • 13 Nov
الحشد الشعبي يفرض طوقا امنيا على الانهر والمسطحات المائية غربي الرمادي

الحشد الشعبي يفرض طوقا امنيا على الانهر والمسطحات...

  • أمني
  • 9 Nov
Almaalouma

المعلومة: وكالة اخبارية عامة مستقلة، تتميز بالجرأة والموضوعية والمهنية والتوازن،شعارها، خبر ﻻ يحتاج توثيقا، لدقة وتنوع مصادرها الخاصة وانتشار شبكة مراسليها

الأقسام

  • أخبار
  • مقالات وكتاب
  • فيديوهات
  • كاريكاتير
  • تقارير
  • ترجمة
  • منوعات
  • انفوكرافيك

روابط مهمة

  • سياسة الخصوصية
  • من نحن
  • اتصل بنا

تابعونا