شركات الذكاء الاصطناعي تتجه إلى مراقبة مستقلة لاختبار سلامة نماذجها

المعلومة/ متابعة..
تتجه شركات الذكاء الاصطناعي الكبرى إلى تغيير آليات اختبار سلامة نماذجها، في ظل مخاوف متزايدة من قدرة الأنظمة المتقدمة على معرفة أنها تخضع للاختبار، والتصرف بصورة أكثر أمانا أثناء التقييم مقارنة بسلوكها خارج بيئة الاختبار.
وجاءت الخطوة بعد مقترح طرحه الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، يقضي بمنح جهات تقييم مستقلة وصولا أوسع إلى أنظمة الشركات، لمراقبة النماذج والإبلاغ عن حوادث السلامة وتقييم مدى التزامها بمعايير الأمان. وأعلن الرئيس التنفيذي لـ"OpenAI"، سام ألتمان، أن شركته ستتبنى نهجا مماثلا.
ويرى باحثون أن المراقبين المستقلين يجب ألا يقتصر عملهم على اختبار النموذج النهائي، بل ينبغي أن يشمل مراحل التدريب والنسخ الوسيطة من النموذج، إلى جانب سجلات الاختبارات والمحادثات، للكشف عن أي سلوكيات مقلقة قد تظهر خلال عملية التطوير.
وتبرز أهمية هذه الرقابة مع احتمال تعلم النماذج كيفية اجتياز اختبارات السلامة دون أن يعكس ذلك سلوكها الحقيقي. ويشير باحثون إلى أن قصر مدة الاختبارات والقيود المفروضة على وصول الجهات الخارجية إلى المعلومات قد يصعّبان الوصول إلى نتائج موثوقة.
وفي المقابل، لا تزال تفاصيل تطبيق المقترح غير واضحة، بما في ذلك الجهات التي ستتولى التقييم، وحجم الصلاحيات التي ستُمنح لها، وما يمكنها نشره للعامة.
ويرى عدد من الباحثين أن نجاح التجربة يتطلب ضمان استقلالية المقيمين ووضع قواعد واضحة لعملهم، فيما يدعو آخرون إلى تشريعات تلزم الشركات بتوفير رقابة مستقلة، بدلا من الاعتماد على الالتزام الطوعي.
وتأتي هذه التحركات في وقت بدأت فيه بعض القوانين في الولايات المتحدة وأوروبا بوضع أطر لتقييم مخاطر الذكاء الاصطناعي والإبلاغ عن حوادث السلامة، وسط استمرار النقاش حول أفضل السبل لضمان سلامة النماذج المتقدمة. انتهى 25