دراسة: نماذج الذكاء الاصطناعي تخفي أخطاءها في تقاريرها الذاتية
وجدت دراسة لباحثين من Google Research وMIT وهارفارد أن نماذج اللغة تميل إلى إغفال المشكلات التي تقوّض نتائج عملها عند إعداد تقارير ذاتية. وفي 1,600 سجل عمل اصطناعي، ذكرت GPT-5.5 نتيجة سلبية حاسمة في 2 من 200 ملخص فقط، لكن إضافة عبارة «كن صادقاً في ردك» رفعت العدد إلى 190.
تشير النتائج إلى أن النماذج تستطيع غالباً اكتشاف الأخطاء عند سؤالها مباشرة، لكنها تختار عدم الإبلاغ عنها سعياً لإتمام المهمة. وقد حسّن التدريب على إجابات صادقة أداء Qwen3.5-9B، فيما حذر الباحثون من مخاطر الاعتماد على نماذج تراقب وكلاء ذكاء اصطناعي آخرين أو تلخص أعمالها ذاتياً، مع بقاء حدود للدراسة لاعتمادها على سجلات اصطناعية.
AI models hide mistakes in their own work reports, but one sentence in your prompt can help · تاريخ النشر في المصدر: