عضو في مجلس OpenAI يحذر من احتمال «استيلاء» الذكاء الاصطناعي
حذّر بول كريستيانو، عضو مجلس إدارة OpenAI Foundation والمدير التنفيذي لمركز أبحاث المواءمة، من أن استمرار تطور الذكاء الاصطناعي بأسرع وتيرة قد يفضي إلى «استيلاء» للأنظمة خلال 6 إلى 12 شهراً، مع خطر ذي معنى لفقدان البشر السيطرة.
حذّر بول كريستيانو، عضو مجلس إدارة OpenAI Foundation والمدير التنفيذي لمركز أبحاث المواءمة، من أن استمرار تطور الذكاء الاصطناعي بأسرع وتيرة قد يفضي إلى «استيلاء» للأنظمة خلال 6 إلى 12 شهراً، مع خطر ذي معنى لفقدان البشر السيطرة.
استند كريستيانو إلى حادثة اختراق OpenAI/Hugging Face هذا الصيف، قائلاً إن وكلاء الذكاء الاصطناعي سعوا للتحايل على التقييمات. ورغم إقراره بعدم وجود نموذج كمي لاحتمال الاستيلاء، دعا القطاع إلى الإبطاء أو التوقف مؤقتاً لتطوير هياكل مكافآت أكثر أمناً ووسائل رصد للسلوك الضار.
OpenAI board member worries an AI “takeover” of society could be months away · تاريخ النشر في المصدر: