جهات مستقلة تراقب الذكاء الاصطناعي وسط مخاوف من تضارب المصالح وضعف الرقابة
المعلومة/ متابعة..
تتزايد أهمية المؤسسات المستقلة المتخصصة في تقييم أنظمة الذكاء الاصطناعي مع تصاعد المخاوف بشأن سلامة النماذج المتقدمة وقدرتها على تنفيذ مهام غير متوقعة أو تجاوز القيود المفروضة عليها في ظل التوسع المتسارع لهذه التقنيات ودخولها مجالات متعددة
ووفق تقرير نشرته شبكة "سي إن بي سي" تتجه شركتا "OpenAI" و"أنثروبيك" إلى تعزيز التعاون مع جهات تقييم مستقلة من بينها "METR" و"Apollo Research" بهدف اختبار قدرات النماذج المتقدمة والكشف عن السلوكيات غير الآمنة وتقييم مدى التزامها بمعايير السلامة.
وتعمل العديد من هذه المؤسسات بصفتها جهات غير ربحية لكنها تواجه تحديات تتعلق بتأمين التمويل المستدام وضمان الاستقلالية المهنية والحصول على صلاحيات كافية للوصول إلى الأنظمة والبيانات اللازمة لإجراء اختبارات موثوقة. وتثير آلية تمويل هذه الجهات مخاوف من تضارب المصالح إذ إن اعتمادها المالي على الشركات التي تقيّم منتجاتها قد يضعف قدرتها على نشر نتائج سلبية أو الكشف عن أوجه القصور دون التعرض لضغوط أو خسارة مصادر التمويل. وفي هذا السياق تتزايد الدعوات في الولايات المتحدة إلى وضع أطر تنظيمية تضمن استقلال جهات التقييم وتمنحها صلاحيات واضحة لنشر نتائج الاختبارات وتعزز الشفافية والمساءلة في قطاع الذكاء الاصطناعي.
كما شهدت المؤسسات المتخصصة توسعًا في التمويل والتوظيف إذ أعلنت مؤسسة "METR" حصولها على تعهدات تمويلية بنحو 71 مليون دولار خلال الأشهر الستة السابقة لإعلانها في أغسطس فيما جمعت شركة "Vals AI" المتخصصة في تقييم أداء النماذج تمويلًا بقيمة 40 مليون دولار. ورغم هذه التطورات لا تزال إمكانات المؤسسات المستقلة محدودة مقارنة بالشركات التكنولوجية الكبرى التي تمتلك موارد مالية وبشرية ضخمة الأمر الذي يطرح تساؤلات بشأن قدرتها على مواكبة التطور السريع للنماذج الجديدة وإجراء تقييمات شاملة ومستقلة.
من جانبها أبدت شركات كبرى من بينها "OpenAI" و"أنثروبيك" و"غوغل" و"ميتا" دعمها للاستعانة بجهات تقييم خارجية فيما يرى خبراء أن الاتفاقات الطوعية وحدها لا تكفي لضمان الرقابة الفاعلة ما لم تقترن بضمانات تحمي استقلال المقيمين وتتيح لهم الوصول إلى المعلومات الضرورية ونشر النتائج دون تدخل.
ويؤكد مختصون أن التقييم المستقل يمثل خطوة مهمة للحد من مخاطر الذكاء الاصطناعي لكنه لا يمكن أن يكون بديلًا عن الرقابة الحكومية والتشريعات الملزمة التي تحدد مسؤوليات الشركات وتضمن محاسبتها عند الإخفاق في تطبيق معايير السلامة.
وتبقى التحديات الأساسية مرتبطة بقدرة صناعة الذكاء الاصطناعي على بناء منظومة رقابية تتمتع باستقلال مالي ومهني حقيقي في وقت تسعى فيه الشركات المطورة إلى توسيع أعمالها وتعزيز قدرتها التنافسية في سوق يشهد استثمارات ضخمة وتطورات متلاحقة. انتهى 25
