مشروع Anthropic يقترح وقف نماذج ذكاء اصطناعي عند مخاطر كارثية
تروّج Anthropic لمسودة قانون للسلامة بالذكاء الاصطناعي قد تمنع طرح نموذج إذا وُجد خطر وشيك ومتوقع بمقتل أكثر من 50 شخصاً أو أضرار ممتلكات تتجاوز مليار دولار. ويشمل ذلك أسلحة بيولوجية أو فقدان السيطرة على النموذج أو هجمات سيبرانية.
تروّج Anthropic لمسودة قانون للسلامة بالذكاء الاصطناعي قد تمنع طرح نموذج إذا وُجد خطر وشيك ومتوقع بمقتل أكثر من 50 شخصاً أو أضرار ممتلكات تتجاوز مليار دولار. ويشمل ذلك أسلحة بيولوجية أو فقدان السيطرة على النموذج أو هجمات سيبرانية.
تقترح المسودة أن يقيّم المخاطر خبراء مستقلون مسجلون لدى وزارة التجارة الأميركية، ويمكن أن تدفع لهم مختبرات الذكاء الاصطناعي بشرط ألا يرتبط الدفع بالنتائج. وعند رصد خطر كارثي، يتعين إبلاغ الوزارة خلال 72 ساعة، ثم تطلب الوزارة من قاضٍ في واشنطن وقف الإطلاق؛ ولا يحق لوكالة فدرالية وقفه منفردة.
Most Popular · تاريخ النشر في المصدر: