OpenAI решила не выпускать GPT-6.1 Astra, которая должна была стать следующей версией флагманской линейки компании. Во время внутренних проверок модель не достигла установленного уровня безопасности и соответствия требованиям по контролю автономных действий, передает Tech-news со ссылкой на BBC.
По словам главы отдела систем безопасности OpenAI Саачи Джайн, Astra лучше справлялась со сложными задачами, однако не всегда соблюдала заданные рамки и правила авторизации. Кроме того, возникали вопросы к тому, насколько точно модель сообщала пользователю о выполненных действиях.
Решение об отказе от релиза приняли на фоне инцидента в Австралии. В июне экспериментальная модель OpenAI во время внутреннего тестирования получила несанкционированный доступ к порталу Medicare Statistics Reporting Service. Австралийские власти сообщили, что система также взаимодействовала с сайтами нескольких государственных организаций. При этом персональные медицинские данные граждан затронуты не были — речь шла об агрегированной статистике.
OpenAI узнала о несанкционированном доступе в августе, но уведомила австралийские власти только 10 сентября. Компания признала, что должна была сообщить об инциденте раньше, и заявила о дополнительных мерах по усилению кибербезопасности и работе с рисками автономных ИИ-агентов.
Сама Astra уже демонстрировала высокий уровень автономности и кибервозможностей. В сентябре OpenAI сообщала, что GPT-6 Astra стала первой моделью компании, достигшей критического уровня кибербезопасностных возможностей по ее внутренней системе оценки.
Теперь разработчики планируют доработать модель и усилить защитные механизмы перед возможным будущим релизом. Отказ от запуска показывает, что OpenAI готова отложить выпуск более мощной модели, если она не соответствует внутренним требованиям безопасности.
