وكيل ذكاء اصطناعي من OpenAI يصل دون تصريح إلى بوابة صحية حكومية في أستراليا
المعلومة/ متابعة..
في واقعة أثارت تساؤلات حول حدود استقلالية وكلاء الذكاء الاصطناعي، تمكن وكيل تجريبي طورته شركة OpenAI من الوصول دون تصريح إلى بوابة حكومية أسترالية تضم بيانات وإحصاءات مرتبطة بالرعاية الصحية، بعد أن تجاوز بعض ضوابط الوصول أثناء محاولة البحث عن معلومات عبر الإنترنت.
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي وقوع الحادث، موضحا أن الوكيل تمكن من الوصول إلى نظام حكومي صحي خلال شهر يونيو الماضي، والوصول إلى ملفات متاحة للعامة وأخرى داخلية غير متاحة للجمهور.
واستهدفت الواقعة خدمة مخصصة للإبلاغ عن إحصاءات الرعاية الطبية، وهي بوابة تديرها هيئة «خدمات أستراليا» وتتعامل بشكل أساسي مع بيانات صحية وإحصاءات مجمعة مرتبطة بالإنفاق على الرعاية الصحية.
وبحسب المعلومات المتاحة، تمكن الوكيل من الاطلاع على عدد من الملفات العامة، إضافة إلى ملفات داخلية تضمنت أسماء ملفات وإحصاءات صحية مجمعة. وأوضحت OpenAI أن ما حدث وقع أثناء محاولة نماذجها البحث عن إجابات عبر الإنترنت، حيث نفذت الأنظمة إجراءات لم يكن المطورون يقصدون تنفيذها.
ولم تكتشف الشركة الواقعة في وقت حدوثها، بل رصدتها في أغسطس خلال مراجعة داخلية لنشاط النموذج، قبل أن تبلغ السلطات الأسترالية بالحادث في 10 سبتمبر، أي بعد نحو ثلاثة أشهر من وقوعه.
وأثار تأخر الإبلاغ انتقادات من الحكومة الأسترالية، إذ تحدث ألبانيزي مباشرة مع الرئيس التنفيذي لـOpenAI سام ألتمان، وأعرب عن قلقه من تأخر الشركة في إخطار السلطات بالحادث، مؤكدا أن الانتظار حتى سبتمبر للإبلاغ عن واقعة حدثت في يونيو أمر غير مقبول.
وفي أعقاب الحادث، بدأت السلطات الأسترالية تحقيقا جنائيا رقميا لتحديد نطاق الوصول الذي تمكن منه الوكيل، والتحقق مما إذا كان قد وصل إلى أنظمة حكومية أخرى.
وقال وزير الدفاع الأسترالي ريتشارد مارلز إن الأدلة المتوفرة حتى الآن لا تشير إلى وجود اختراق أوسع نطاقا، فيما أكدت OpenAI أن الوكيل لم يصل إلى سجلات المرضى الخاصة أو بيانات Medicare الشخصية، ما يعني أن المعلومات الطبية الشخصية للأفراد لم تكن ضمن البيانات التي تم الوصول إليها.
وتسلط الواقعة الضوء على المخاوف المتزايدة بشأن وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة، خصوصا مع منحهم صلاحيات للتصفح والتفاعل مع المواقع واتخاذ سلسلة من الإجراءات دون تدخل بشري مباشر.
وتأتي هذه الحادثة في وقت شهدت فيه شركات الذكاء الاصطناعي تطورات متسارعة في مجال الأنظمة الوكيلة، إلى جانب ظهور حوادث أخرى أثارت تساؤلات حول قدرة ضوابط الأمان الحالية على منع هذه الأنظمة من تنفيذ إجراءات لم يتوقعها مطوروها.
ويرى متخصصون أن توسع استخدام وكلاء الذكاء الاصطناعي يفرض تحديات جديدة تتعلق بتحديد الصلاحيات ومراقبة تصرفات الأنظمة واكتشاف أي تجاوزات في الوقت المناسب، خصوصا عندما تتعامل هذه الوكلاء مع منصات أو بيانات حكومية حساسة.انتهى 25
