Anthropic تحذر من اقتراب تسارع ذاتي في تطوير نماذج الذكاء الاصطناعي
قالت Anthropic في إفصاح S-1A المعدل إنها قد تقترب «وشيكاً» من بلوغ تعريفها الداخلي لـ«التقدم المتسارع بصورة كبيرة المنسوب إلى الذكاء الاصطناعي»، المرتبط بمفهوم التحسين الذاتي التكراري RSI. وأكدت أن أياً من نماذجها الحالية لم يتجاوز هذا الحد.
قالت Anthropic في إفصاح S-1A المعدل إنها قد تقترب «وشيكاً» من بلوغ تعريفها الداخلي لـ«التقدم المتسارع بصورة كبيرة المنسوب إلى الذكاء الاصطناعي»، المرتبط بمفهوم التحسين الذاتي التكراري RSI. وأكدت أن أياً من نماذجها الحالية لم يتجاوز هذا الحد.
ذكرت الشركة أنها تستخدم الذكاء الاصطناعي في البحث والتطوير، وأن ذلك قد يسرّع قدرات النماذج بوتيرة تفوق قدرتها على تطوير واختبار تدابير السلامة والمواءمة والأمن. وأضافت أنها لا تتوقع استخدام Claude لتصميم وبناء أجيال لاحقة من النماذج المتقدمة بصورة مستقلة بالكامل ومن دون إشراف وفهم بشريين ذوي معنى، وتدرس تحديث سياسة التوسع المسؤول لإبقاء البشر مسيطرين على التطوير.
Most Popular · تاريخ النشر في المصدر: