"أنثروبيك" تدعو لابتكار يكبح الذكاء الاصطناعي قبل فوات الأوان

المعلومة/ متابعة..
حذر جاك كلارك، الشريك المؤسس لشركة "أنثروبيك" (Anthropic) الرائدة في مجال الذكاء الاصطناعي، من تسارع وتيرة تطوير تكنولوجيا الذكاء الاصطناعي إلى حد قد يفقد فيه البشر السيطرة الكاملة عليها قريباً، مشدداً على ضرورة تحرك القطاع لوضع "مكابح" تضمن سلامة هذه الأنظمة قبل أن تبدأ في تطوير وتدريب نفسها ذاتياً دون أي تدخل بشري.
وفي مقابلة مع هيئة الإذاعة البريطانية "بي بي سي"، كشف كلارك أن أنظمة الذكاء الاصطناعي الخاصة بالشركة، وتحديداً الروبوت "كلود" (Claude)، تنفذ بالفعل نحو 80% من أعمال البرمجة داخل "أنثروبيك"، متوقعاً أن تصل هذه النسبة إلى 100% في غضون عامين فقط.
وأوضح كلارك أن القضية تكمن في "قرار وخيار" الشركات المطورة بين ترك الحبل على الغارب لهذه التكنولوجيا أو التدخل لضبطها، قائلاً:
"إن قطاع الذكاء الاصطناعي اليوم يمتلك دواسة وقود قوية، لكنه يفتقر تماماً إلى دواسة فرامل، ونحن نريد العمل على بناء هذه الدواسة قبل فوات الأوان".
وتأتي هذه التصريحات بالتزامن مع تدوينة نشرتها "أنثروبيك"، حذرت فيها من ظاهرة تُعرف باسم "التحسين الذاتي التكراري" (Recursive Self-Improvement). وتعني هذه العملية قدرة "وكلاء الذكاء الاصطناعي" (البرمجيات المستقلة) على بناء وتدريب نماذج جديدة وخلفاء لها بالكامل دون أي مساعدة بشرية.
ورغم أن الشركة أقرت بالفوائد الهائلة التي قد يجلبها هذا التطور لمجالات العلوم والرعاية الصحية، إلا أنها أكدت أن الاعتماد على النماذج التكرارية يرفع بشكل حاد من مخاطر خسارة البشر للقدرة على توجيه هذه الأنظمة أو مراقبة سلوكها وتأمينها.
أكدت "أنثروبيك" أن الأدلة الحالية تشير إلى أن دور العنصر البشري يتقلص باطراد في كل مرحلة من مراحل التطوير، مستشهدة بمؤشرات ملموسة من واقع عملها:
انخفاض أخطاء البرمجة: تراجع معدل تصحيح الشيفرات البرمجية التي يقوم بها الموظفون البشريون بشكل مستمر منذ العام الماضي، مما يثبت أن أخطاء "كلود" في تناقص مستمر.
البحث الذاتي المستقل: بات بإمكان "كلود" إجراء تجارب بحثية مستقلة بمجرد طرح أسئلة مفتوحة عليه، والتوصل إلى حلول مبتكرة من تلقاء نفسه.
وفي محاولة لمواجهة هذا التحدي، أعلنت "أنثروبيك" أن المعهد التابع لها سيبدأ في إجراء أبحاث متخصصة تهدف إلى بناء نظام للتحقق مما إذا كان المطورون قد نجحوا بالفعل في إبطاء أو إيقاف اندفاع الأنظمة نحو "التحسين التكراري".
ومع ذلك، أقرت الشركة بأن تحقيق تباطؤ حقيقي وفعال يتطلب خطوة أوسع تتجاوز المبادرات الفردية، حيث يشترط ذلك إبرام اتفاق جماعي تلتزم بموجبه المختبرات العالمية الكبرى ومراكز التطوير في مختلف الدول بالتوقف والتهدئة وفقاً لشروط وضوابط موحدة. انتهى 25