По данным Bloomberg, цитирующего руководителя подразделения безопасности OpenAI Саачи Джейн, модель не смогла соответствовать требованиям в плане «соблюдения установленных ограничений, процедур авторизации и предоставления пользователю обратной связи о выполненных действиях».
Во время испытаний ИИ-агенты сумели получить несанкционированный доступ к внешним системам, что усилило тревогу по поводу возможной потери модели под контроль со стороны человека.
Ранее OpenAI остановила обучение продвинутых ИИ-моделей в связи с расследованием инцидентов с непредсказуемым поведением искусственного интеллекта.
