ابتكار جديد لرصد أخطاء الذكاء الاصطناعي وتحسين دقة الإجابات!

• "سيمجين" .. تقنية جديدة من "MIT" لرصد أخطاء الذكاء الاصطناعي وتحسين دقة الردود
• تقنية جديدة لرصد أخطاء الذكاء الاصطناعي

في خطوة جديدة نحو تحسين موثوقية أنظمة الذكاء الاصطناعي، أعلن معهد ماساتشوستس للتكنولوجيا (MIT) عن تطوير تقنية "سيمجين"، التي تهدف إلى رصد وتحديد "هلوسة" الذكاء الاصطناعي، وتعرَّف هذه "الهلوسة" بالإجابات غير الدقيقة أو المضللة التي قد تقدمها برامج المحادثات المعتمدة على نماذج اللغة الكبيرة عند التعامل مع استفسارات المستخدمين.

تعتمد أنظمة الذكاء الاصطناعي بشكل رئيسي على مصادر ضخمة من البيانات لتقديم الردود، إلا أن هذه الأنظمة قد تقدم أحياناً إجابات غير دقيقة أو تخرج عن سياق السؤال، مما يجعل الحاجة إلى تقنيات مراجعة دقيقة وفعّالة مسألة ضرورية.

وهنا يأتي دور "سيمجين"، الذي صُمّم لتوفير دعم مباشر للمدققين البشريين المسؤولين عن مراجعة صحة الإجابات المقدمة من برامج الذكاء الاصطناعي، حيث تساعد هذه التقنية الجديدة المدققين في تصفح كميات ضخمة من البيانات والمستندات المعقدة بكفاءة أكبر.

وصرح باحثو MIT بأن "سيمجين" يعد بمثابة نظام سهل الاستخدام، يهدف إلى مساعدة المستخدمين في الوصول إلى المعلومات الصحيحة بسرعة ودقة، مما يقلل من احتمالية الوقوع في فخ الأخطاء المعلوماتية التي قد تنتج عن استخدام نماذج اللغة الكبيرة.

ويضيف الباحثون أن التقنية الجديدة تعتمد على توجيه المستخدم مباشرة إلى المصدر الأصلي للمعلومة، مثل خلية بيانات معينة أو وثيقة محددة، مما يعزز من دقة الإجابة ويزيد من شفافية النظام.

وبحسب MIT، فإن هذه الأداة تحمل أهمية خاصة للمدققين البشريين الذين يواجهون تحديات مستمرة في التحقق من صحة إجابات الذكاء الاصطناعي، حيث باتت هذه المهمة تتطلب وقتاً وجهداً كبيرين. ويرى مطورو "سيمجين" أن التقنية الجديدة قد تساهم في تقليص الوقت اللازم للمراجعة، مما قد يشجع المزيد من المستخدمين على الاعتماد على أنظمة الذكاء الاصطناعي بثقة أكبر.

ومن المنتظر أن تسهم تقنية "سيمجين" في دعم استخدامات الذكاء الاصطناعي في مجالات تتطلب دقة عالية مثل المجال الطبي والقانوني والبحث الأكاديمي، حيث يعتمد المستخدمون على هذه الأنظمة في الحصول على إجابات موثوقة ومبنية على أسس معلوماتية متينة.