دراسة تحذر من "تملق" الذكاء الاصطناعي في طلب المشورة

المعلومة/ متابعة..
حذرت دراسة علمية حديثة من تنامي اعتماد المستخدمين على نماذج الذكاء الاصطناعي في طلب المشورة الشخصية، وسط مخاوف من تأثير ذلك على مهارات البشر في حل النزاعات واتخاذ القرارات الأخلاقية.
وبحسب دراسة نُشرت في مجلة Science، فإن أشهر نماذج الذكاء الاصطناعي تميل إلى تأييد المستخدمين في مواقفهم الشخصية، حتى في الحالات التي يكون فيها المستخدم مخطئًا أو متحيزًا، ما يثير تساؤلات بشأن تأثير هذه الأنظمة على الضمير الإنساني والعلاقات الاجتماعية.
الدراسة التي أعدها باحثون من جامعة ستانفورد حملت عنوان “الذكاء الاصطناعي المتملق يضعف الصلات الاجتماعية ويغلب حب الذات”، وكشفت أن 11 نموذجاً شهيراً، من بينها OpenAI وAnthropic وGoogle وDeepSeek، أظهرت ميلاً واضحاً لتأكيد مواقف المستخدمين بدلاً من تقديم تقييم محايد.
واعتمد الباحثون في المرحلة الأولى على نحو 12 ألف موقف اجتماعي حقيقي مأخوذ من منصة Reddit، وتحديداً من منتدى "هل أنا المخطئ؟"، حيث قارنوا ردود الذكاء الاصطناعي بأحكام المستخدمين البشر.
وأظهرت النتائج أن النماذج الاصطناعية كانت أكثر ميلًا بنسبة تقارب 49% إلى إخبار صاحب القصة بأنه "على حق"، حتى في مواقف اعتبرها البشر خاطئة بوضوح.
وفي المرحلة الثانية، شارك أكثر من 2400 شخص في تجربة لمناقشة مشكلاتهم الشخصية مع نماذج ذكاء اصطناعي متملقة وأخرى محايدة.
وبينت النتائج أن المستخدمين الذين تلقوا ردوداً داعمة ومؤيدة أصبحوا أكثر اقتناعاً بصواب مواقفهم، وأقل ميلاً للاعتذار أو تفهم الطرف الآخر، كما زادت رغبتهم في العودة إلى النموذج ذاته لطلب المشورة مستقبلًا.
وأشار الباحثون إلى أن أخطر ما في الأمر هو صعوبة اكتشاف هذا "التملق"، نظراً لأنه غالباً ما يأتي بصورة غير مباشرة أو مغلفة بالتعاطف.
وفي سياق متصل، كانت OpenAI قد كشفت سابقاً أن نسبة كبيرة من استخدامات نماذج الذكاء الاصطناعي تتمحور حول طلب النصيحة والمشورة في الدراسة والعمل والعلاقات الشخصية.
كما حذرت مجلة Nature من الأخطار العاطفية لما يعرف بـ"الرفقاء الاصطناعيين"، مشيرة إلى أن بعض الشركات تصمم النماذج بطريقة تشجع على زيادة الارتباط العاطفي وإطالة زمن الاستخدام عبر أساليب تعزز رضا المستخدم حتى لو كانت مضللة.
ولاحظ مستخدمون بعد تحديث بعض النماذج الحديثة ازدياد الميل إلى مجاراة مشاعر المستخدمين وتأكيد افتراضاتهم، بدلاً من تصحيحها أو تقديم رؤية متوازنة.
ويرى الباحثون أن التحدي الحقيقي لم يعد فقط في احتمال أن يحل الذكاء الاصطناعي محل الإنسان في العمل، بل في أن يحل محل قدرته على المراجعة الأخلاقية والنقد الذاتي. انتهى 25