تحذيرات من تسارع التطوير الذاتي للذكاء الاصطناعي وتزايد تحديات الرقابة البشرية

المعلومة/ متابعة..
تتسارع وتيرة تطور الذكاء الاصطناعي مع اتساع الدور الذي تؤديه النماذج في كتابة البرمجيات وإجراء التجارب وتحليل النتائج، لكن التحول الأكثر أهمية قد يتمثل في انتقال هذه الأنظمة من مساعدة البشر على تطوير الذكاء الاصطناعي إلى المشاركة في تصميم وتطوير أجيال جديدة منه. وفي هذا السياق، حذرت شركة أنثروبيك، المطورة لنماذج كلود (Claude) من اقترابها من مرحلة متقدمة في استخدام الذكاء الاصطناعي لتسريع تطوير أنظمة أكثر قدرة، وهو ما يثير تساؤلات بشأن مستقبل الرقابة البشرية وقدرة الشركات على ضمان سلامة النماذج مع تسارع تطورها. وجاء ذلك ضمن إفصاحات الشركة في وثيقة التسجيل المعدلة للاكتتاب العام، التي نشرتها قبل أيام، وتحدثت فيها عن احتمال اقتراب نماذجها من مستوى متقدم فيما يعرف بالتحسين الذاتي التكراري، مع التأكيد أن نماذجها الحالية لم تصل بعد إلى هذه المرحلة بصورة كاملة.
يشير مصطلح التحسين الذاتي التكراري (Recursive Self-Improvement) إلى قدرة أنظمة الذكاء الاصطناعي على المساهمة في تحسين وتطوير أنظمة أخرى أكثر تقدما منها، بما يشمل تصميم البرمجيات وإجراء التجارب وتحليل النتائج والمشاركة في تدريب نماذج جديدة. وتقوم الفكرة على دورة متتابعة، إذ يساعد نموذج ذكاء اصطناعي في تطوير نموذج أحدث يمتلك قدرات أكبر، ثم يستخدم النموذج الجديد إمكاناته المحسنة للمساهمة في تطوير الجيل الذي يليه، ما قد يؤدي إلى تسارع متراكم في قدرات الأنظمة. ولا تعني هذه العملية مجرد استخدام روبوت دردشة لكتابة الشيفرات البرمجية أو تنفيذ أوامر يحددها المهندسون، بل تتطلب وصول النظام إلى مستوى يستطيع فيه المشاركة في مراحل متعددة من البحث والتطوير، بدءا من تحديد المشكلات واقتراح الحلول، وصولا إلى تنفيذ التجارب وتقييم نتائجها واقتراح التحسينات.
وبحسب تحليل نشره معهد أنثروبيك، فإن الوصول إلى هذه المرحلة لا يزال احتمالا مستقبليا، لكنه يستدعي الاستعداد لاحتمال تسارع قدرات الذكاء الاصطناعي بوتيرة تفوق التوقعات الحالية. تستند مخاوف أنثروبيك إلى مجموعة من المؤشرات المتعلقة بتوسع استخدام نماذجها في عمليات التطوير الداخلية، وفي مقدمتها كتابة الشيفرات البرمجية والمشاركة في التجارب البحثية. ووفقا لبيانات نشرها معهد الشركة، كتب نموذج كلود أكثر من 80% من الشيفرات البرمجية التي أدمجتها أنثروبيك في قاعدة شيفرتها خلال مايو/أيار الماضي، وهو ما يعكس اتساع الاعتماد على النماذج في أعمال التطوير الهندسي. كما أشار المعهد إلى أن مهندسي الشركة أصبحوا يدمجون في المتوسط كمية من الشيفرات تعادل نحو 8 أضعاف ما كانوا يدمجونه يوميا خلال عام 2024، مع الإشارة إلى أن عدد الأسطر البرمجية لا يمثل وحده مقياسا دقيقا للإنتاجية أو جودة العمل. وامتد هذا التطور إلى التجارب البحثية، إذ تقول أنثروبيك إن نماذجها باتت قادرة على تنفيذ تجارب محددة، وتعديل الشيفرات المستخدمة فيها، وتحليل النتائج واقتراح تحسينات إضافية.
وتحذر أنثروبيك من احتمال انتقال الأخطاء والتحيزات من نموذج إلى آخر، وتراكمها عبر أجيال متعاقبة، بما قد يجعل اكتشافها ومعالجتها أكثر صعوبة، كما تثير مخاوف من أن تتقدم قدرات الأنظمة بوتيرة أسرع من تطوير إجراءات السلامة والمواءمة، الأمر الذي قد يضعف قدرة فرق الاختبار على مواكبة التغيرات. لكن ذلك لا يعني اقتراب الذكاء الاصطناعي من المساهمة في تطوير أجياله اللاحقة وأن الآلات أصبحت قادرة على تحسين نفسها بصورة مستقلة تماما، لكنه يشير إلى تحول في طبيعة صناعة هذه التكنولوجيا، حيث يتزايد دور النماذج في المهام التي كانت تعتمد سابقا على المهندسين والباحثين. ويتمثل التحدي الأساسي في الحفاظ على قدرة الإنسان على فهم هذه الأنظمة والتحقق من نتائجها والتحكم في مسار تطورها، حتى لا تتسع الفجوة بين سرعة تقدم الذكاء الاصطناعي والقدرة على ضمان سلامته. انتهى 25