На заседании Совета Безопасности ООН лидеры ведущих ИИ-компаний и ученые обсудили риски выхода искусственного интеллекта из-под контроля. В обсуждении приняли участие руководители OpenAI (Сэм Альтман), Anthropic (Дарио Амодеи), Hugging Face, а также «крестный отец ИИ» Йошуа Бенжио. Основная обеспокоенность заключается в том, что темпы развития ИИ опережают способность человечества и международных организаций контролировать технологию. Сэм Альтман предупредил, что развитие может стать настолько стремительным, что люди «перестанут понимать происходящее или не смогут вмешаться в ситуацию», отметив риск утраты контроля над будущим. Дарио Амодеи подчеркнул, что при неправильном управлении ИИ может представлять угрозу для всего человечества. В качестве примеров рисков упоминались случаи, когда ИИ-разведка едва не спровоцировала военный конфликт (ошибка США в отношении китайского корабля), а также текущая тенденция увольнений сотрудников ИИ-компаний из-за опасений за безопасность общества. Ранее компании OpenAI и Anthropic призывали к замедлению развития ИИ, что привело к судебному иску против них, Google, SpaceXAI за предполагаемый сговор.