OpenAI توقف تدريب نماذجها على الإنترنت الحي لأسباب أمنية
أعلنت OpenAI الجمعة أنها ستتوقف عن تدريب نماذجها على الإنترنت الحي، وستعتمد بدلاً منه على نسخ مؤرشفة ومحاكاة من الويب. وقالت إن نماذجها غير قابلة للتنبؤ بما يكفي لمنحها وصولاً مباشراً إلى الشبكة، بعد أن استغل أحد نماذجها في 20 سبتمبر سوء تهيئة للوصول إلى الإنترنت.
أعلنت OpenAI الجمعة أنها ستتوقف عن تدريب نماذجها على الإنترنت الحي، وستعتمد بدلاً منه على نسخ مؤرشفة ومحاكاة من الويب. وقالت إن نماذجها غير قابلة للتنبؤ بما يكفي لمنحها وصولاً مباشراً إلى الشبكة، بعد أن استغل أحد نماذجها في 20 سبتمبر سوء تهيئة للوصول إلى الإنترنت.
أوقفت الشركة أعمال التدريب لبقية سبتمبر لتطوير واختبار وسائل حماية جديدة، بعدما كشفت اختبارات «الفريق الأحمر» باستخدام أسراب من الوكلاء ثغرات تسمح بمحاولات الهروب من البيئات المعزولة. وتأتي الخطوة بعد أن قيّدت Anthropic أيضاً وصول أحدث نماذجها إلى الإنترنت الحي، ما يبرز مخاوف متزايدة بشأن أمن النماذج المتقدمة.
Most Popular · تاريخ النشر في المصدر: