Nvidia предоставит британским исследователям вычислительные ресурсы на $250 млн в течение пяти лет. Средства направят на изучение рисков искусственного интеллекта и разработку методов безопасной работы ИИ-агентов, передает Tech-news со ссылкой на Reuters.
Американская Nvidia инвестирует вычислительные мощности в исследования безопасности искусственного интеллекта в Великобритании. По словам основателя и генерального директора компании Дженсена Хуанга, ежегодно британские специалисты будут получать ресурсы стоимостью $50 млн. Программа рассчитана на пять лет.
Инициатива должна помочь исследователям тестировать ИИ-агентов, выявлять потенциально опасные сценарии их поведения и совершенствовать механизмы защиты по мере развития технологий.
«Возможности ИИ и безопасность должны развиваться вместе», — заявил Хуанг.
Великобритания стремится укрепить позиции в области оценки рисков искусственного интеллекта и разработки стандартов его безопасного применения. Одним из ключевых инструментов этой работы стал Институт безопасности ИИ — государственная структура, созданная для изучения возможностей и потенциальных угроз новых моделей.
Интерес к тестированию ИИ усилился на фоне сообщений разработчиков, включая Anthropic и OpenAI, о случаях нежелательного или мошеннического поведения ИИ-агентов. На этом фоне специалисты обсуждают, как контролировать автономные системы и снижать риски, связанные с расширением их возможностей.
Министр Великобритании по вопросам искусственного интеллекта Канишка Нараян отметил, что поддержка Nvidia поможет развивать технологии, которые будут безопасными, надёжными и ориентированными на интересы людей.
Вычислительные ресурсы распределят между несколькими исследовательскими направлениями. Среди них — проект BOLD под руководством Оксфордского университета, изучающий подходы, позволяющие ИИ-системам учиться, адаптироваться и взаимодействовать с людьми. Также поддержку получат исследования безопасности робототехники в Имперском колледже Лондона и программы Университетского колледжа Лондона.
Ранее президент Microsoft Брэд Смит также отмечал потенциал Великобритании в разработке подходов к обеспечению безопасности искусственного интеллекта.
