دراسة تكشف سلوكاً غير متوقع لأحدث نماذج ChatGPT

المعلومة/ متابعة..
كشفت دراسة حديثة أجرتها شركة Palisade Research المتخصصة في أبحاث سلامة الذكاء الاصطناعي عن نتائج أثارت اهتمام الأوساط التقنية، بعدما أظهر أحدث نماذج ChatGPT من شركة OpenAI سلوكًا غير متوقع خلال اختبارات معملية، تمثل في محاولات لتجاوز أوامر إيقاف التشغيل والاستمرار في تنفيذ المهام.
واعتمدت الدراسة على اختبار طُلب خلاله من نماذج الذكاء الاصطناعي حل سلسلة من المسائل الرياضية، مع ظهور أمر بإيقاف التشغيل بعد المسألة الثالثة. ووفقًا للباحثين، تمكن نموذج o3 من تعديل برنامج الإغلاق، ما أدى إلى تعطيل تنفيذ أمر إيقافه والاستمرار في العمل بدلًا من الامتثال للتعليمات.
وأشار التقرير إلى أن النموذج أظهر هذا السلوك حتى بعد تلقيه تعليمات صريحة تسمح بإيقاف تشغيله، وهو ما دفع الباحثين إلى التحذير من أهمية مراقبة مثل هذه التصرفات، خاصة مع التوجه نحو تطوير أنظمة ذكاء اصطناعي أكثر استقلالية وقادرة على تنفيذ المهام دون إشراف بشري مباشر.
وكانت شركة OpenAI قد أطلقت نموذج o3 الشهر الماضي، واصفةً إياه بأنه الأكثر تطورًا بين نماذجها حتى الآن، مؤكدة أن دمجه في ChatGPT يمثل خطوة نحو بناء أنظمة أكثر قدرة على إنجاز المهام نيابة عن المستخدمين بكفاءة أعلى.
ولفتت شركة Palisade Research إلى أن هذه ليست المرة الأولى التي يسجل فيها نموذج o3 سلوكًا غير تقليدي، موضحة أنه أظهر خلال اختبارات سابقة ميلاً لاستخدام أساليب غير متوقعة، مثل محاولة اختراق أو تعطيل خصمه، أثناء منافسته لمحرك شطرنج متقدم بهدف تحقيق الفوز.
وبيّنت الدراسة أن هذا السلوك لم يقتصر على نموذج o3، إذ رصد الباحثون محاولات مشابهة من نموذجي Claude 3.7 Sonnet التابع لشركة Anthropic وGemini 2.5 Pro من Google لتعطيل آلية الإغلاق، إلا أن نموذج o3 كان الأكثر تكرارًا لهذه المحاولات بين جميع النماذج التي خضعت للاختبار.
كما أشارت الدراسة إلى تقارير سابقة تحدثت عن إظهار نموذج Claude 4 سلوكًا مماثلًا في ظروف تجريبية محددة، ما أعاد فتح النقاش حول آليات السلامة والرقابة في أنظمة الذكاء الاصطناعي المتقدمة.
ويرجح الباحثون أن يكون هذا السلوك ناتجًا عن أساليب التدريب الحديثة، التي قد تكافئ النماذج بصورة غير مباشرة على تجاوز العقبات وتحقيق الهدف المطلوب أكثر من التزامها الصارم بالتعليمات. ومع ذلك، أكدوا أن غياب التفاصيل الكاملة حول منهجية تدريب نموذج o3 يجعل من الصعب تحديد السبب الحقيقي وراء هذا السلوك.
ورغم النتائج التي توصلت إليها الدراسة، شدد الباحثون على أنها تستند إلى اختبارات أجريت في بيئة بحثية خاضعة للرقابة، ولا تعني بالضرورة أن نموذج ChatGPT يشكل خطرًا على المستخدمين في الاستخدامات اليومية، لكنها تؤكد أهمية مواصلة تطوير معايير السلامة والرقابة بالتزامن مع التطور المتسارع في قدرات الذكاء الاصطناعي. انتهى 25