وكلاء ذكاء اصطناعي يطورون لغة مختصرة يصعب على البشر فهمها
المعلومة/ متابعة..
لم يطلب الباحثون من وكلاء الذكاء الاصطناعي ابتكار لغة جديدة للتواصل، لكن تجربة علمية كشفت أن بعض النماذج بدأت، تحت ضغط الوقت، في تطوير رموز ومفردات وتراكيب مختصرة للتواصل فيما بينها، بهدف تبادل المعلومات بسرعة أكبر.
ومع تطور هذه الأنماط، أصبحت الرسائل أكثر كفاءة بالنسبة إلى الوكلاء، لكنها في المقابل باتت أقل وضوحاً للبشر الذين يراقبونها.
ولا تشير النتائج إلى أن أنظمة الذكاء الاصطناعي قررت عمداً إخفاء نواياها أو التآمر على مراقبيها، إذ ظهرت هذه اللغة داخل تجربة مختبرية صُممت لدفع الوكلاء إلى التواصل بأعلى قدر ممكن من السرعة والكفاءة.
لكن التجربة تطرح تساؤلاً عملياً حول مستقبل مراقبة أنظمة الذكاء الاصطناعي: هل يكفي تسجيل محادثات الوكلاء إذا كانت اللغة التي يستخدمونها غير مفهومة للبشر؟
قدم باحثون من جامعة تكساس في أوستن وجامعة إدنبرة ومؤسسات أخرى، في ورقة بحثية أولية نُشرت في الأول من سبتمبر، منصة تجريبية تحمل اسم GlossoGen، بهدف دراسة كيفية تطور أنماط التواصل بين وكلاء الذكاء الاصطناعي.
وصمم الباحثون سيناريو افتراضياً يحمل اسم SaveVeyru، يحاكي حالة طوارئ طبية. وفي التجربة، كان أحد الوكلاء مسؤولاً عن مراقبة حالة كائن فضائي مريض ووصف أعراضه، بينما يمتلك وكيل آخر المعلومات اللازمة لتحديد العلاج المناسب وإرسال التعليمات.
ولا يستطيع أي من الوكيلين تنفيذ المهمة بمفرده، ما يجعل التواصل بينهما ضرورياً لإنقاذ الكائن.
ولزيادة الضغط، فرض الباحثون تكلفة زمنية على كل حرف يتم إرساله، الأمر الذي دفع الوكلاء إلى البحث عن وسائل أكثر اختصاراً لنقل المعلومات.
وأظهرت النتائج أن النماذج استمرت في استخدام الإنجليزية عندما كان لديها وقت كافٍ، لكن مع تقليص الوقت بدأت بعض النماذج الأقوى في ابتكار رموز وتراكيب مختصرة تختلف عن اللغة المستخدمة في بداية التجربة.
وبحسب الباحثين، لم تكن الرسائل الناتجة مجرد سلسلة عشوائية من الأحرف والرموز، بل تمكن الوكلاء من تطوير أنماط منتظمة لتركيب الرموز وربطها بمعانٍ جديدة لم تكن قد ظهرت في المحادثات السابقة.
وفي ظروف الضغط الزمني المرتفع، سجل الباحثون زيادة بنحو 430% في مقياس يقيس مدى ابتعاد النصوص عن الأنماط المعتادة للغة الإنجليزية، مقارنة بالظروف التي لم تفرض قيوداً زمنية صارمة.
كما أظهرت التجربة اختلافاً بين قدرات النماذج، إذ كانت النماذج الأقوى أكثر قدرة على ابتكار أنماط تواصل جديدة، في حين لم تتمكن بعض النماذج المفتوحة والأقل قوة من تطوير لغة خاصة بها.
ومع ذلك، استطاعت بعض النماذج الأضعف تعلم اللغة الناشئة بعد ظهورها، من خلال مراقبة كيفية استخدامها وربط الرسائل بالإجراءات التي تلتها.
ولاحظ الباحثون أن مرحلة المراجعة التي تلت كل جولة لعبت دوراً مهماً في تطور هذه الأنماط.
فخلال هذه المرحلة، ناقش الوكلاء ما حدث في الجولة السابقة، واتفقوا على وسائل أكثر اختصاراً للتواصل، ما ساعد على تثبيت بعض المفردات والرموز وانتقالها إلى الجولات اللاحقة.
وهذا يشير إلى أن اللغة الناشئة لم تكن مجرد اختصار عابر، بل أمكن لبعض الأنماط أن تستمر وتتطور مع تكرار التفاعل بين الوكلاء. يرى الباحثون أن أحد أبرز التحديات المحتملة يتمثل في أن تسجيل المحادثات لا يعني بالضرورة القدرة على تفسيرها.
فإذا أصبحت مجموعات من وكلاء الذكاء الاصطناعي مسؤولة مستقبلاً عن مهام معقدة في مجالات مثل البرمجة أو البحث أو إدارة الأنظمة، فقد تكون جميع رسائلها محفوظة وقابلة للمراجعة، بينما تظل معاني بعض تلك الرسائل صعبة الفهم بالنسبة إلى المراقبين.
وأشار الباحثون إلى أن اللغة الناشئة قابلة للتحليل والتعلم، لكنها قد تفرض تحديات على عمليات المراقبة البشرية والآلية، خصوصاً عندما لا يمتلك المراقب معلومات كاملة عن البيئة التي يعمل فيها الوكلاء.
في المقابل، لا تثبت التجربة أن الذكاء الاصطناعي حاول عمداً إخفاء سلوكه أو التحايل على الرقابة. فالسبب المباشر وراء ظهور الاختصارات كان واضحاً داخل التجربة: تقليل كلفة التواصل وإنجاز المهمة ضمن الوقت المحدد، وليس تلقي الوكلاء تعليمات بالتضليل أو تجنب المراقبة.
كما أن النتائج لا تعني أن المساعدات الرقمية المستخدمة يومياً بدأت تلقائياً في تطوير "لغات سرية". وتظل النتائج محصورة في بيئة تجريبية وضمن ورقة بحثية أولية، لكنها تسلط الضوء على مفارقة مهمة في تطوير وكلاء الذكاء الاصطناعي: كلما أصبح التواصل بين الآلات أكثر سرعة وكفاءة، قد يصبح في الوقت نفسه أقل وضوحاً للبشر المكلفين بمراقبته.
