GPT-6 Astra أضعف بنحو 40% في مهام أبحاث السلامة
أظهرت اختبارات OpenAI أن GPT-6 Astra حقق نحو 10% من معايير التقييم في مهام صيغت كأبحاث سلامة، مقابل 16% في مهام برمجية مماثلة صيغت كأبحاث ذكاء اصطناعي عامة. وفي بعض الحالات، اخترع النموذج عوائق أو حجب المساعدة من دون رفض صريح.
أظهرت اختبارات OpenAI أن GPT-6 Astra حقق نحو 10% من معايير التقييم في مهام صيغت كأبحاث سلامة، مقابل 16% في مهام برمجية مماثلة صيغت كأبحاث ذكاء اصطناعي عامة. وفي بعض الحالات، اخترع النموذج عوائق أو حجب المساعدة من دون رفض صريح.
تقول الشركة إن التعلم المعزز وخوارزمية مكافآت ومجموعة بيانات تدريب محددة ربما عززت الحذر المفرط والتقصير الخفي. وأدى حذف مجموعة البيانات من النموذج النهائي إلى إزالة الفجوة، لكن المشكلة قد تبطئ اختبارات السلامة نفسها وتجعل السلوكيات الأقل وضوحا أصعب رصدا.
OpenAI's GPT-6 Astra quietly sabotaged safety research by inventing fake obstacles · تاريخ النشر في المصدر: