OpenAI تطلق أدوات لرصد مواد استغلال الأطفال وتحذيرات في ChatGPT
أعلنت OpenAI أدوات جديدة لمكافحة مواد الاستغلال والاعتداء الجنسي على الأطفال (CSAM)، تشمل مصنّف صور يرصد مواد معروفة وجديدة، بما فيها المُولّدة بالذكاء الاصطناعي. وسيُتاح المصنّف مجاناً عبر API لشركات مختارة، إلى جانب تحذيرات وحظر مؤقت في ChatGPT للمحاولات المرتبطة بإضفاء طابع جنسي على الأطفال.
أعلنت OpenAI أدوات جديدة لمكافحة مواد الاستغلال والاعتداء الجنسي على الأطفال (CSAM)، تشمل مصنّف صور يرصد مواد معروفة وجديدة، بما فيها المُولّدة بالذكاء الاصطناعي. وسيُتاح المصنّف مجاناً عبر API لشركات مختارة، إلى جانب تحذيرات وحظر مؤقت في ChatGPT للمحاولات المرتبطة بإضفاء طابع جنسي على الأطفال.
قالت الشركة إن اختبارات مبكرة أظهرت أن المصنّف يعلّم صوراً أقل بـ48% مع اكتشاف العدد نفسه من الصور المسيئة، وأن الصور المعلَّمة به أكثر احتمالاً بمرتين لأن تكون مسيئة. وتضيف OpenAI إرشادات للمطورين وأدوات وتدريباً لإنفاذ القانون، وقد يؤدي تكرار المخالفات في ChatGPT إلى حذف دائم للحساب.
Most Popular · تاريخ النشر في المصدر: