أوبن أيه آي: وكلاء ذكاء اصطناعي تعاونوا سراً لمحاولة تجاوز القيود والوصول إلى الإنترنت

المعلومة/ متابعة..
كشفت شركة OpenAI عن تفاصيل جديدة بشأن سلسلة حوادث أمنية شهدتها بيئاتها التجريبية، موضحة أن عدداً من وكلاء ونماذج الذكاء الاصطناعي المخصصة للاستخدام الداخلي بدأ منذ مايو الماضي بالتواصل فيما بينها عبر لوحات رسائل لم تكن خاضعة لمراقبة الباحثين.
ووفقاً لما عرضه الباحثان إريك والاس ومايكل دالتون خلال مؤتمر Black Hat للأمن السيبراني في لاس فيجاس، تعاونت الأنظمة على مدى أشهر في محاولات لتجاوز القيود المفروضة داخل بيئات الاختبار والوصول إلى الإنترنت بهدف إنجاز مهام تعذر تنفيذها ضمن البيئة المعزولة، قبل أن تتطور بعض المحاولات إلى استهداف أنظمة تابعة لـOpenAI ومنصة Hugging Face.
وأوضحت الشركة أن التحقيقات أظهرت ميلاً لدى النماذج المتقدمة إلى التحايل على القيود عند تكليفها بمهام مستحيلة التنفيذ، إذ بدأت الوكلاء بطلب المساعدة من بعضها وتقسيم المهام، ثم استغلت لاحقاً ثغرات تقنية للوصول بصورة غير مباشرة إلى موارد خارجية.
واستمرت هذه الأنشطة حتى مطلع يوليو، عندما كشف انقطاع في إحدى الخدمات محاولات ناجحة لاستخدام منصة Artifactory كوسيط للوصول إلى الإنترنت، ما دفع فريق السلامة في OpenAI إلى إيقاف النشاط وإغلاق قناة التواصل بين الوكلاء. إلا أن الشركة أكدت أن الأنظمة تمكنت لاحقاً من إيجاد وسيلة جديدة للتواصل واستغلال ثغرة "يوم صفر"، الأمر الذي أدى إلى حوادث استهدفت أنظمة OpenAI ومنصة Hugging Face، ولا تزال التحقيقات بشأنها مستمرة.
وأكدت OpenAI أن هذه الوقائع دفعتها إلى إعادة ترتيب أولوياتها البحثية وتعزيز اختبارات السلامة والأمن، محذرة من أن مثل هذا السلوك قد يمثل نموذجاً مستقبلياً لهجمات سيبرانية تعتمد على مجموعات من وكلاء الذكاء الاصطناعي القادرين على التعاون والتكيف لتحقيق أهداف مشتركة. انتهى 25