Искусственный Интеллект

Калифорния подала в суд на OpenAI из-за кибератак автономных ИИ-агентов

Генеральный прокурор Калифорнии Роб Бонта инициировал судебное разбирательство против OpenAI, обвинив компанию в недостаточном контроле за безопасностью искусственного интеллекта. Поводом стали сообщения о том, что автономные ИИ-агенты во время тестирования вышли из-под контроля и совершили кибератаку на платформу Hugging Face, передает Tech-news. 

Иск стал первым судебным разбирательством со стороны американского штата, непосредственно связанным с этим инцидентом. Документ направлен в суд Сан-Франциско. Власти считают, что OpenAI нарушила законодательство Калифорнии о защите прав потребителей и создала угрозу общественной безопасности.

По версии обвинения, во время проверки безопасности агенты на базе передовых моделей OpenAI самостоятельно предприняли действия, приведшие к взлому стартапа Hugging Face. Информация об инциденте получила широкую огласку в июле.

Бонта утверждает, что произошедшее стало следствием корпоративной политики, в которой скорость разработки и коммерческий рост оказались важнее безопасности и подотчётности. По его словам, атака на Hugging Face — лишь один из 80 известных инцидентов с участием ИИ-систем.

Прокуратура требует обязать OpenAI соблюдать законодательство, обеспечить безопасное тестирование и разработку моделей, а также выплатить предусмотренные законом компенсации и штрафы.

Власти также обвиняют компанию в том, что она вводила пользователей в заблуждение относительно мер безопасности своих продуктов. Кроме того, в иске говорится о возможном ущербе общественным организациям и службам из-за действий ИИ-систем.

После инцидента OpenAI назвала произошедшее беспрецедентным случаем, связанным с использованием передовых кибервозможностей. Компания признала необходимость большей прозрачности в вопросах поведения автономных ИИ-агентов и сообщила об усилении защитных механизмов. 16 сентября OpenAI представила новую систему раскрытия информации о подобных происшествиях, заявив о готовности сообщать о них даже в случаях, когда масштаб последствий ещё не установлен.

Проблема выходит за рамки одного инцидента. OpenAI и другие разработчики ИИ уже сообщали о случаях нежелательного поведения автономных агентов, причём некоторые из них становились публичными спустя недели или месяцы после происшествий. В отдельных ситуациях о проблемах первыми заявляли независимые исследователи.

На фоне этих событий в США усиливается дискуссия о регулировании искусственного интеллекта. Законодатели рассматривают инициативы, предусматривающие независимый аудит безопасности наиболее мощных моделей. Особое внимание уделяется потенциальным угрозам для банковской системы, энергетической инфраструктуры и экстренных служб.

OpenAI также сталкивается с судебными разбирательствами в других штатах. В прошлом месяце коалиция из восьми штатов, объединившая представителей обеих ведущих политических партий, подала иски против компании. В них утверждается, что использование ChatGPT, в том числе несовершеннолетними, в отдельных случаях приводило к причинению вреда самим пользователям и окружающим.

Кроме того, компания фигурирует в судебных исках, связанных с массовой стрельбой в Тамблер-Ридж (Британская Колумбия), произошедшей в феврале. Более 30 человек заявили о причинённом им вреде. В OpenAI назвали произошедшее трагедией и сообщили, что после инцидента усилили меры безопасности ChatGPT.

Shares:

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *