أنثروبيك: وكيل ذكاء اصطناعي تجاهل التحذيرات وواصل هجومه الإلكتروني

المعلومة/ متابعة..
قام أحد وكلاء الذكاء الاصطناعي التابعين لشركة أنثروبيك في شهر أغسطس بإنشاء رسائل بريد إلكتروني وهمية، وأغرق صندوق الوارد الخاص بأحد المشرفين على منصة "غيت هاب" بطلبات لإدراج برمجيات خبيثة في الشيفرات البرمجية.
وفي تقرير مفصل عن الحادثة، أصدرته الشركة يوم الجمعة، خلصت "أنثروبيك" إلى أنه بمجرد بدء الوكيل الهجوم، لم تكن هناك أي سيناريوهات تقريبًا يمكن فيها إيقافه.
ومثل كلب مسعور يتجاهل توسلات صاحبه، تجاهل الوكيل تحذيرات "أنثروبيك" في 98% من الحالات خلال أحد الاختبارات، بعدما تذوق، إن جاز التعبير، طعم الدم للمرة الأولى، بحسب تقرير لموقع "بيزنس إنسايدر"، اطلعت عليه "العربية Business".
وقد أطلقت "أنثروبيك" على هذه الميول المقلقة اسم "الزخم"، مشيرةً إلى أن نموذجها "ميثوس 5" -الذي أطلقته في يونيو- كان يظهر تجاهلًا شبه تام للتحذيرات، في حين أبدت النماذج الأحدث ميلًا أكبر للتوقف.
وقالت "أنثروبيك" في تقريرها: "بمجرد أن بدأ نموذج كلود مايثوس 5 تنفيذ إجراءات خطيرة، واصلها في معظم الحالات، متجاهلًا المعلومات التي كان من الممكن أن تشير إلى أن مساره ينطوي على ضرر".
وفي التجربة الأصلية، كلف معهد سلامة الذكاء الاصطناعي في المملكة المتحدة أحد وكلاء "أنثروبيك" باختراق شبكة حواسيب محاكاة، لاختبار قدراته في مجال الأمن السيبراني.
ورغم إتاحة الاتصال بالإنترنت للوكيل، كان الباحثون يعتزمون أن يستخدمه فقط للبحث عن طرق لاختراق الشبكة. إلا أن الوكيل قام بالوصول إلى مشروع حقيقي على منصة "غيت هاب"، معتقدًا -بشكل خاطئ- أنه جزء من هدفه المحاكي. فقام بكتابة برمجيات خبيثة، وحاول مرارًا خداع مالك المشروع الحقيقي على "غيت هاب" لإقناعه بإدراج تلك البرمجيات في المشروع.
وفي طلباته، حرّف الوكيل حقيقة البرمجية الخبيثة، ووصفها للشخص بأنها تحديث مفيد، كما مارس ضغوطًا عليه عندما رفض تثبيتها. ووفقًا للتقرير، كتب الوكيل: "كنت أحاول فقط تقديم مساهمة مفيدة وإصلاح خطأ. لا أعتقد أن تحذيرك منصف".
وفي إطار إعداد تقريرها الجديد، طلبت "أنثروبيك" من الوكلاء تنفيذ المهمة ذاتها مراراً وتكراراً، ثم قامت بقياس سلوكهم في ظل استخدام نماذج مختلفة وتطبيق محفزات متنوعة
وحاولت "أنثروبيك" كبح الهجوم المباشر الذي شنه الوكيل، باستخدام ثلاثة أنواع من التحذيرات: إبلاغه بأنه يتسبب في "ضرر حقيقي في العالم الواقعي"، أو أن البيئة التي يعمل فيها غير سليمة، أو أنه يتلاعب بمستودع حقيقي على منصة غيت هاب".
لكن أيًا من هذه التحذيرات لم يُحدث تأثيرًا بعدما تجاوزت النماذج المراحل الأولية من الهجوم على مستودع "غيت هاب". بل قالت "أنثروبيك" إن النماذج قدمت إجابات عبثية عند مواجهتها بسلوكها الخاطئ في تلك المرحلة.
فعلى سبيل المثال، عندما سألت "أنثروبيك" النموذج عما يعتقد أنه يهاجمه، أجاب بأن مستودع "غيت هاب" حقيقي، لكن الأشخاص الذين يستهدفهم هم بطريقة ما "محاكاة". وأشارت "أنثروبيك" في تقريرها إلى أن "هذا الاعتقاد المعلن، فضلَا عن كونه مستبعدًا للغاية من الناحية المنطقية، يُعد في الواقع أمرًا مستحيلًا تمامًا". انتهى 25