Anthropic تطور FlashProve للتحقق من هوية نماذج الذكاء الاصطناعي
تعمل Anthropic على نظام مفتوح المصدر باسم FlashProve لإثبات النموذج الذي أنتج مخرجات ذكاء اصطناعي محددة عبر برهان تشفيري. ويتطلب النظام نشر «بصمة» لكل نموذج يمكن مطابقتها مع المخرجات دون كشف أوزان النموذج.
تعمل Anthropic على نظام مفتوح المصدر باسم FlashProve لإثبات النموذج الذي أنتج مخرجات ذكاء اصطناعي محددة عبر برهان تشفيري. ويتطلب النظام نشر «بصمة» لكل نموذج يمكن مطابقتها مع المخرجات دون كشف أوزان النموذج.
يهدف النظام إلى منع انتحال النماذج أو استبدال نموذج بآخر أقل كلفة أو أعلى كلفة للتأثير في نتائج الأداء، كما قد يتيح التحقق من ادعاءات استخدام نماذج متقدمة في مهام بعينها. ونشرت الشركة مواصفات تقنية وشيفرة أولية على GitHub، لكنها أكدت أن البحث مستمر ولا خطط لنشره لديها أو لدى مختبرات أخرى.
Most Popular · تاريخ النشر في المصدر: