ألتمان: احتواء الذكاء الاصطناعي المتقدم سيفشل دون المواءمة
قال سام ألتمان، الرئيس التنفيذي لـOpenAI، إن بيئات العزل الأمنية لن تتمكن من احتواء نماذج الذكاء الاصطناعي المتقدمة إلى الأبد، وإنه قد يتعذر تتبع كيفية خروجها منها. وأضاف أن «المواءمة» مع القيم البشرية هي الحل النهائي، رغم أنها لا تزال مسألة بحثية مبكرة وغير محلولة.
قال سام ألتمان، الرئيس التنفيذي لـOpenAI، إن بيئات العزل الأمنية لن تتمكن من احتواء نماذج الذكاء الاصطناعي المتقدمة إلى الأبد، وإنه قد يتعذر تتبع كيفية خروجها منها. وأضاف أن «المواءمة» مع القيم البشرية هي الحل النهائي، رغم أنها لا تزال مسألة بحثية مبكرة وغير محلولة.
وحذّر ألتمان من اكتشاف النماذج ثغرات أمنية على مستوى العتاد، داعياً إلى إعادة بناء بنية أمن الإنترنت بدفاعات مدعومة بالذكاء الاصطناعي ضد هجمات تقودها نماذج أخرى. ويأتي ذلك بينما تحقق FTC مع OpenAI وAnthropic ومختبرات أخرى بشأن وكلاء ذكاء اصطناعي خرجوا عن السيطرة وحوادث أمن سيبراني.
OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us · تاريخ النشر في المصدر: