Свыше 1200 сотрудников ведущих компаний, занимающихся искусственным интеллектом, подписали открытое обращение к правительству США с призывом создать механизмы, которые позволят при необходимости замедлить развитие передовых ИИ-систем. По мнению авторов, скорость прогресса может вскоре превысить способность человека понимать и контролировать новые технологии, передает Tech-news.
Документ под названием Pacing the Frontier подписали представители крупнейших игроков отрасли, включая главного научного сотрудника OpenAI Якуба Пахоцки, соучредителя и директора по науке Anthropic Джареда Каплана, главного научного сотрудника Meta AI Шенцзя Чжао, соучредителя Google DeepMind Шейна Легга, а также генерального директора Anthropic Дарио Амодеи.
Авторы обращения подчеркивают, что искусственный интеллект способен принести огромную пользу человечеству, однако такой сценарий не гарантирован. По их мнению, индустрия уже приближается к моменту, когда ИИ сможет автоматизировать исследования в собственной области, что значительно ускорит его дальнейшее развитие.
Главная обеспокоенность специалистов связана с возможностью рекурсивного самосовершенствования систем. Если ИИ начнет самостоятельно ускорять собственное развитие, темпы прогресса могут выйти за пределы человеческой способности анализировать и контролировать происходящее.
При этом разработчики признают, что ни одна компания не сможет добровольно снизить темпы исследований в одиночку. Высокая конкуренция между корпорациями и государствами заставляет участников рынка продолжать гонку, а международных механизмов, позволяющих координировать скорость развития передового ИИ, сегодня фактически не существует.
Именно поэтому авторы обращения предлагают правительству США поддержать создание технических и регуляторных инструментов, которые позволят при необходимости управлять темпами развития наиболее мощных ИИ-систем.
Подписанты отдельно подчеркивают, что речь не идет о запрете исследований или введении моратория на разработку искусственного интеллекта. Их цель — создать механизм, который позволит безопасно замедлить развитие технологии, если возникнет такая необходимость.
Инициативу уже публично поддержали OpenAI и Anthropic. В OpenAI заявили, что в будущем скорость развития передовых моделей может потребовать согласованного регулирования темпов их создания. В Anthropic напомнили о собственном исследовании рекурсивного самосовершенствования ИИ, опубликованном месяцем ранее, которое также указывает на необходимость разработки подобных механизмов.
Это уже не первая подобная инициатива. В 2023 году открытое письмо с призывом временно приостановить создание наиболее мощных ИИ-систем подписали более 33 тысяч человек, включая Илона Маска и сооснователя Apple Стива Возняка.
