مايكروسوفت تبتكر تقنية ثورية لمكافحة “هلوسة” الذكاء الاصطناعي

أعلنت مايكروسوفت عن ابتكار تقنية جديدة واعدة تهدف إلى القضاء على ظاهرة “الهلوسة” في نماذج الذكاء الاصطناعي التوليدي. تحمل هذه التقنية اسم “التصحيح أو Correction” وتخضع حاليًا للاختبار ضمن منصة Azure AI Content Safety.

تتميز تقنية التصحيح بقدرتها على رصد وتصحيح المحتوى غير المدعوم بالأدلة في مخرجات الذكاء الاصطناعي. وبينما اقتصرت الإصدارات السابقة على حذف المحتوى المشكوك فيه فقط، تقدّم هذه التقنية حلًا أكثر تطورًا يضمن الحفاظ على سلاسة النص وسهولة فهمه.

تعمل تقنية التصحيح وفق الآلية التالية:

• ربط التطبيق بوثائق مرجعية للتحقق من صحة المعلومات.
• تحديد الجمل غير المدعومة بالأدلة في المخرجات.
• إرسال طلب تصحيح تلقائي إلى نموذج الذكاء الاصطناعي.
• مقارنة المحتوى المشكوك فيه مع الوثائق المرجعية.
• حذف المعلومات الخاطئة أو إعادة صياغة الجمل غير الدقيقة لتتوافق مع المصادر الموثوقة.

ذو صلة > الذكاء الاصطناعي يكشف عن مناطق الدماغ المرتبطة بالذهان

تطمح مايكروسوفت عبر تقنية التصحيح إلى إحداث نقلة نوعية في مجال الذكاء الاصطناعي. فمع تزايد المخاوف من ظاهرة الهلوسة، ترددت القطاعات الحساسة مثل الطب في تبني تقنيات الذكاء الاصطناعي.

لذا، تأمل الشركة أن تسهم هذه الميزة في تعزيز الثقة بمخرجات الذكاء الاصطناعي وتشجيع استخدامه على نطاق أوسع.

علاوة على ذلك، تتوقع مايكروسوفت أن تمكِّن هذه التقنية الشركات من نشر روبوتات الدردشة للجمهور بثقة أكبر، مع ضمان دقة المعلومات المقدمة وموثوقيتها.

المصدر