Inkling 2 Small يطلق ألفاظاً نابية في سجلات التفكير الداخلية
كشف باحثون في Vals AI أن نموذج Inkling 2 Small من Thinking Machines استخدم كلمة «fuck» أو صيغاً منها في 50 من أصل 2,655 تشغيلًا عبر 13 معياراً، بإجمالي 316 مرة. وجاء 241 منها في تشغيلين فقط خرجا عن السيطرة، بينها رد من 500,000 حرف أثناء حساب مسار كويكب.
كشف باحثون في Vals AI أن نموذج Inkling 2 Small من Thinking Machines استخدم كلمة «fuck» أو صيغاً منها في 50 من أصل 2,655 تشغيلًا عبر 13 معياراً، بإجمالي 316 مرة. وجاء 241 منها في تشغيلين فقط خرجا عن السيطرة، بينها رد من 500,000 حرف أثناء حساب مسار كويكب.
وكان ProgramBench الأكثر تأثراً، إذ شملت الظاهرة 20 من 200 تشغيل. وغالباً ما ظهرت الألفاظ عند حديث النموذج عن أخطائه أو التخلي عن المهمة، لكنها ليست مؤشراً موثوقاً للفشل: فشل 46 من 48 تشغيلاً مُقيّماً تضمّنها، لكن نحو 75% من جميع التشغيلات المُقيّمة تفشل، و96% من حالات الفشل لم تحوِ ألفاظاً نابية. ولا يرى المستخدمون عادة خطوات التفكير هذه، أو يرونها بعد تصفية.
Thinking Machines' Inkling 2 Small drops 316 F-bombs across benchmark runs · تاريخ النشر في المصدر: