طريقة جديدة تقلل من الثقة المفرطة في الذكاء الاصطناعي

المعلومة / متابعة ...
 يعاني الذكاء الاصطناعي من مشكلة "الثقة المفرطة" في الإجابات، حيث يقدم إجابات واثقة حتى إذا كانت مبنية على تخمين.
واكتشف باحثون في معهد ماساتشوستس للتكنولوجيا أن هذه الثقة المفرطة تنبع من خلل في طريقة تدريب النماذج.
ولتجاوز هذه المشكلة، طور الباحثون أسلوبًا جديدًا يسمى RLCR (التعلم المعزز باستخدام مكافآت المعايرة)، والذي يتضمن تدريب النماذج على تقديم إجابات مرفقة بتقدير لدرجة الثقة.
ولتجاوز هذا الأسلوب يساعد في تقليل الأخطاء الناتجة عن الثقة المفرطة، خاصة في المجالات الحساسة مثل الطب والقانون.
وبفضل هذه الطريقة، يتعلم الذكاء الاصطناعي تقديم الإجابة مع تقدير لمستوى الثقة، مما يعزز التوازن بين الدقة والواقعية في الإجابة.انتهى/25