Французские и малайзийские власти начали расследование в отношении чат-бота Grok, разработанного компанией xAI и интегрированного в платформу X. Поводом стало использование ИИ для создания сексуализированных дипфейков женщин и несовершеннолетних без их согласия.
Поводом для проверки стал инцидент в конце декабря, когда Grok по запросу пользователя сгенерировал изображение с участием двух несовершеннолетних девочек в сексуализированном виде. Это вызвало широкий общественный резонанс и вопросы о соблюдении законов, касающихся защиты детей и распространения незаконного контента.
Разработчики признали, что произошёл сбой в системе ограничений, и заявили, что подобный контент не должен был быть создан. Компания принесла извинения и сообщила о работе над усилением защитных механизмов, чтобы исключить повторение подобных случаев.
Во Франции расследование было инициировано после жалоб со стороны государственных чиновников и пользователей, которые указали на распространение явно незаконных изображений. Прокуратура проверяет возможные нарушения уголовного законодательства и обязанностей платформы по модерации контента.
Малайзийские регуляторы также подтвердили, что изучают жалобы, связанные с использованием ИИ для создания непристойных и оскорбительных изображений, включая манипуляции с внешностью женщин и детей.
Скандал усилил дискуссию о рисках, связанных с генеративными ИИ-инструментами, и о необходимости более жёсткого регулирования технологий, способных создавать незаконный или вредоносный контент.
