Anthropic, Google и OpenAI могут объединиться для разработки отраслевых стандартов искусственного интеллекта. По данным CNN, компании обсуждают создание собственного органа, который будет определять правила безопасности и тестирования ИИ-моделей, передает Tech-news.
Переговоры проходят на фоне дискуссий в США о необходимости замедлить развитие передовых систем искусственного интеллекта. При этом участники технологической отрасли пока не пришли к единой позиции по вопросу контроля над технологией.
Согласно информации CNN со ссылкой на неназванные источники, на переговоры повлияла июльская статья соучредителя Google DeepMind Демиса Хассабиса. В ней он предложил создать организацию по стандартам ИИ под руководством США.
По задумке Хассабиса, учреждение должно работать на основе сотрудничества государства и частного сектора. Одной из его задач станет тестирование передовых моделей искусственного интеллекта до их внедрения в эксплуатацию.
Источники CNN утверждают, что обсуждение продолжается независимо от участия администрации президента США Дональда Трампа. При этом конкретные договорённости между компаниями пока не раскрываются.
12 сентября генеральный директор Anthropic Дарио Амодеи опубликовал статью о рисках ускоренного развития искусственного интеллекта. Публикация появилась после отставки исследователя компании Джейкоба Коксона, который заявил о недостаточной ответственности в вопросах развития ИИ.
Амодеи предупредил, что темпы развития технологий могут превысить способность человека понимать и контролировать такие системы. Он предложил замедлить развитие ИИ, чтобы у людей было больше возможностей для контроля над ним.
Глава Anthropic также выступил за объединение компаний для разработки стандартов безопасности и правил, регулирующих вывод ИИ-моделей на рынок.
Илон Маск поддержал эту позицию, написав в X: «Дарио прав». Генеральный директор OpenAI Сэм Альтман также заявил, что согласен с предложением и предпримет аналогичные шаги в области независимой оценки моделей.
В своей статье Амодеи отдельно предложил администрации США усилить ограничения на экспорт микросхем в Китай.
Кроме того, он призвал не допустить, чтобы китайские ИИ-лаборатории извлекали данные из моделей американских компаний с помощью дистилляции — метода, который позволяет обучать одну модель на результатах работы другой.
Пока компании обсуждают возможный формат отраслевого органа, вопрос о том, кто именно будет устанавливать стандарты безопасности ИИ и насколько обязательными они станут, остаётся открытым.
