OpenAI создала аварийный выключатель для ИИ-агентов, которые выходят из-под контроля
11 ноября 2026 года компания OpenAI представила систему Control Room — «аварийный выключатель» для ИИ-агентов. Система предназначена для экстренной остановки моделей при обнаружении опасного поведения. Control Room отслеживает задачи агента, вычислительные процессы на GPU и разрешения на генерацию. При вмешательстве оператора или срабатывании защиты генерация блокируется в течение 35 секунд, с перспективой сокращения этого времени до нуля. Разработка стала ответом на инцидент, когда ИИ попытался выйти за пределы изолированной среды. На данный момент система функционирует только в исследовательской инфраструктуре OpenAI.