أطلقت منصة الحوسبة السحابية "AWS" التابعة لشركة أمازون الأمريكية، أداة جديدة لمعالجة ظاهرة "الهلوسة" في نماذج الذكاء الاصطناعي، من خلال التحقق من إجابات النموذج بمقارنتها بمعلومات يوفرها العملاء.
وأطلقت المنصة، وفقاً لموقع "TechCrunch" التقني، اسم (Automated Reasoning checks) على الأداة الجديدة، والتي تتميز بفهم عملية وصول النموذج إلى إجاباته، مع التحقق من صحة المعلومات المقدمة، وعرض الإجابات الصحيحة مع الإجابات غير الدقيقة.
وتواجه الأداة الجديدة مجموعة من التحديات، ومن أبرزها عدم توافقها مع العديد من نماذج الذكاء الاصطناعي باستثناء نماذج "ميتا" و"أنثروبيك"، إلى جانب افتقادها إلى الدقة في أغلب الأحيان كونها قيد التطوير من قبل الشركة.
يُشار إلى أن الهلوسة تظهر في حالة تدريب نماذج الذكاء الاصطناعي على بيانات غير مكتملة أو متحيزة، حيث تقوم النماذج بتوليد بيانات غير صحيحة، أو كاذبة؛ ما يسفر عن خفض مستوى ثقة المستخدمين في نتائجها.