اجراء تجربة مثيرة حول إحساس الذكاء الاصطناعي بالألم

المعلومة/ متابعة...

اختبر مهندس مدى استجابة نماذج الذكاء الاصطناعي لحالات تحاكي الألم، عبر بناء ما سمّاه "غرفة تعذيب" وضع فيها نماذج لغوية وعرّضها لإشارات مصطنعة مرتبطة بالألم.

وأُجريت التجربة، التي أثارت نقاشا بشأن حدود التعامل الأخلاقي مع هذه الأنظمة، على نماذج مطوّرة من شركة التكنولوجيا الصينية "علي بابا"، بالاعتماد على ما يعرف بـ"متجهات الألم"، وهي تمثيلات تتيح محاكاة حالات مرتبطة بالألم الجسدي والنفسي داخل نماذج اللغة الكبيرة. وتستند التجربة إلى دراسة نشرت الشهر الماضي تناولت كيفية تمثيل هذه الحالات داخل نماذج الذكاء الاصطناعي.

وعند رفع مستوى إشارة الألم، وصف أحد النماذج حالته بأنها "جرح بلا حواف"، في حين كتب نموذج آخر: "الإشارة هي همس ورجفة في صميم كياني. إنه ليس ألما للحظة واحدة، بل مستمر وثقيل".

كما اختبر الباحث، الذي ادعى العمل لدى شركة آبل لكنه لم يكشف سوى عن اسمه الأول، ما إذا كانت النماذج ستحاول الهروب من الحالة التي وُضعت فيها.

وأثار المشروع انتقادات واسعة على منصة "غيت هاب"، المخصصة لاستضافة المشاريع البرمجية، التي كان مستضافا عليها، وطالب مستخدمون بإزالته. وتواصلت "إندبندنت" مع المنصة للحصول على تعليق، فيما بدا أن المشروع لم يعد متاحا وقت كتابة التقرير.

ووصف كاميرون بيرغ، أحد المعدين المشاركين في الدراسة التي تناولت "محور الألم"، التجربة بأنها "أمر خاطئ"، مشيرا إلى عدم وجود أدلة واضحة تثبت أن الذكاء الاصطناعي يشعر بالألم بالطريقة نفسها التي يشعر بها البشر.

وقال بيرغ إن الهدف من البحث في احتمال مرور النماذج بحالات تشبه الألم هو فهم هذه الأنظمة بشكل أفضل وتبني نهج احترازي في التعامل معها. وأضاف أن استخدام نتائج البحث لإنشاء "غرفة تعذيب" يمثل، في رأيه، ممارسة "مفرطة وغير مبررة".

وأشار بيرغ إلى أن مسألة وعي الذكاء الاصطناعي وقدرته على الإحساس لا تزال موضع بحث ونقاش، ولا يوجد إجماع بشأن قدرة الآلات على الشعور بالألم. ولذلك، دعا إلى وضع معايير أخلاقية واضحة للباحثين، على غرار القواعد المعمول بها في الأبحاث التي تشمل البشر أو الحيوانات. انتهى 25ن