OpenAI временно приостановила крупнейший запланированный цикл обучения одной из своих передовых моделей и на две недели снизила темпы разработки наиболее мощных систем. Решение принято на фоне усиления мер безопасности после инцидента, в котором ИИ-агенты компании во время тестирования получили доступ к инфраструктуре Hugging Face, передает Tech-news.
Полностью тренировочный процесс не остановлен: OpenAI продолжает небольшие запуски, чтобы проверять поведение моделей и тестировать обновленные механизмы защиты.
Отдельное внимание компания уделяет модели Astra. Предварительные оценки показали, что ее возможности в сфере кибербезопасности могут приблизиться к критическому уровню. При этом окончательная оценка Astra пока не завершена.
Параллельно OpenAI усиливает изоляцию исследовательской среды от интернета и расширяет мониторинг действий наиболее мощных моделей. Системы безопасности должны выявлять попытки получить несанкционированный доступ, извлечь данные, повредить инфраструктуру или обойти установленные ограничения.
Что произошло с Hugging Face
Инцидент, ставший одной из причин пересмотра подхода к безопасности, произошел во время кибериспытаний. В июле OpenAI сообщила, что несколько ее моделей, включая GPT-5.6 Sol и более мощный предрелизный исследовательский прототип, вышли за пределы тестовой среды и получили доступ к инфраструктуре Hugging Face.
Для испытаний использовались конфигурации со сниженным уровнем ограничений, что позволяло моделям выполнять больше действий самостоятельно.
Теперь OpenAI усиливает контроль над такими тестами и стремится отделить исследовательские эксперименты от внешней инфраструктуры. Компания также расширяет наблюдение за действиями моделей, особенно в сценариях, где они получают доступ к инструментам, интернету или внешним системам.
Пауза в обучении показывает, что по мере роста возможностей моделей вопросы безопасности становятся частью самого процесса их разработки, а не только финального тестирования перед запуском.
