14.1°
OpenAI временно замедлила разработку и тестирование ИИ-моделей после того, как тестируемый агент взломал другую ИИ-компанию – Hugging Face. Об этом сообщает The Guardian со ссылкой на заявление OpenAI.
По данным издания, компания приостановила тестирование моделей на две недели и увеличила инвестиции в системы мониторинга активности ИИ-агентов. Часть крупных обучающих запусков по-прежнему остается на паузе. Причиной стали результаты внутренних испытаний будущей модели Astra, которая показала значительный прогресс в агентном программировании и кибербезопасности.
В OpenAI заявили, что возможности модели могут приблизиться к «критическому порогу кибербезопасности». Теперь для работы с Astra компания требует более строгих мер безопасности.
Руководитель направления безопасности OpenAI Миа Глэз отметила, что компания пока далека от возвращения к обычным темпам разработки. В OpenAI также сообщили, что значительная часть работ с Astra останется приостановленной до перехода на новые требования безопасности.
