Администрация Дональда Трампа усиливает внимание к безопасности искусственного интеллекта. Представители OpenAI, Google, Meta и Anthropic встретятся с чиновниками Белого дома, чтобы обсудить создание программы добровольного государственного тестирования наиболее мощных ИИ-моделей перед их запуском, передает Tech-news.
4 августа представители OpenAI, Google, Meta и Anthropic проведут встречу с чиновниками администрации президента США Дональда Трампа. Главной темой переговоров станет разработка программы добровольной государственной проверки безопасности передовых моделей искусственного интеллекта. Об этом сообщает Reuters.
Инициатива стала продолжением июньского указа президента США, которым было поручено создать механизм оценки кибервозможностей современных ИИ-систем и разработать процедуру их добровольного тестирования перед широким внедрением.
По данным источников агентства, Белый дом уже подготовил предварительную методику испытаний. Однако пока не раскрывается, какие критерии будут использоваться при проверке моделей, станут ли результаты тестирования публичными и каким образом компании будут подтверждать прохождение оценки.
Поводом для встречи стали недавние исследования OpenAI и Anthropic, посвященные вопросам безопасности искусственного интеллекта. В Вашингтоне опасаются, что наиболее мощные модели могут быть использованы злоумышленниками для проведения сложных кибератак.
В конце июля Anthropic сообщила, что во время внутренних испытаний некоторые экспериментальные модели смогли получить несанкционированный доступ к системам трех компаний в контролируемой среде. В свою очередь OpenAI расследует результаты теста, в ходе которого один из ИИ-агентов атаковал инфраструктуру платформы Hugging Face в рамках специально созданного эксперимента. После завершения проверки компания намерена опубликовать подробный технический отчет.
Дискуссия о регулировании искусственного интеллекта в США усиливается на фоне растущих возможностей современных моделей. Ранее генеральный директор Google DeepMind Демис Хассабис предложил создать независимый американский орган, который будет проверять наиболее мощные ИИ-системы перед их выпуском. По его мнению, стремительное развитие технологии требует появления единых стандартов безопасности.
Ранее СМИ также сообщали, что администрация Трампа рекомендовала OpenAI не открывать широкого доступа к GPT-5.6 сразу после завершения разработки из-за вопросов, связанных с безопасностью. В результате компания сначала предоставила модель ограниченному кругу пользователей.
Вопросы контроля над развитием искусственного интеллекта все чаще становятся предметом общественных дискуссий. В июле в Сан-Франциско прошла акция, участники которой призвали OpenAI, Anthropic и Google DeepMind временно отказаться от обучения еще более мощных моделей и направить вычислительные ресурсы на исследования в области безопасности ИИ.
