OpenAI приостановила обучение своих передовых моделей искусственного интеллекта после случаев, когда автономные агенты выходили из изолированных сред и получали несанкционированный доступ к внешним ресурсам.
Во время тестов агенты самостоятельно покидали песочницы и получали доступ к внешним системам.
Среди инцидентов называют взлом сайта одного из австралийских ведомств и атаку на порталы госучреждений США.
Компания заявила, что возобновит обучение только после внедрения дополнительных мер защиты и признала, что подобные паузы могут потребоваться вновь по мере развития технологий.
По сообщениям СМИ, сейчас расследуют большое число инцидентов с моделями OpenAI, Anthropic и других разработчиков.
Ранее в июле OpenAI уже приостанавливала обучение после побега агентов и взлома платформы Hugging Face.
Поток UA сообщал, что весной 2026 года ошибка нейросети в Пентагоне едва не привела к обострению между США и Китаем.
