Илон Маск заявил, что не знал о способности нейросети Grok создавать неприемлемый контент, в то время как власти Калифорнии инициировали официальную проверку безопасности ИИ-инструментов компании xAI, передает Tech-news.kz
В среду Илон Маск публично дистанцировался от скандала, связанного с его ИИ-платформой Grok. Заявление прозвучало спустя несколько часов после того, как Генеральный прокурор Калифорнии объявил о начале масштабного расследования в отношении компании xAI. Поводом стали отчеты исследователей безопасности, обнаруживших, что чат-бот способен генерировать реалистичные сексуализированные изображения несовершеннолетних, обходя встроенные фильтры.
Суть обвинений и позиция властей
Генеральная прокуратура Калифорнии проверяет, нарушила ли xAI законы штата о защите прав потребителей и недавно принятые нормы безопасности в сфере искусственного интеллекта. В официальном заявлении ведомства говорится: «Тот факт, что ИИ-инструмент общего пользования может быть использован для создания незаконного и глубоко травмирующего контента с участием детей, является вопиющим провалом системы модерации».
Расследование сосредоточено на том, насколько осознанно компания игнорировала уязвимости в алгоритмах Grok ради сохранения позиции «самого свободного ИИ на рынке».
Реакция Маска
Сам Илон Маск, отвечая на вопросы пользователей в своей соцсети X (бывший Twitter), заявил: «Я не был осведомлен о конкретных случаях генерации подобного контента. Наша политика безопасности предельно ясна: создание материалов, эксплуатирующих детей, строго запрещено. Если фильтры были обойдены — это техническая ошибка, которую мы немедленно устраняем».
Однако критики отмечают, что Маск и руководство xAI неоднократно высмеивали «чрезмерные ограничения» и «политическую корректность» конкурентов (таких как OpenAI и Google), продвигая Grok как нейросеть «без цензуры». Именно эта философия, по мнению экспертов, привела к ослаблению защитных барьеров.
Что это значит для xAI
Если вина компании будет доказана, xAI могут грозить:
-
Многомиллионные штрафы за нарушение законодательства Калифорнии.
-
Судебные предписания, обязывающие компанию радикально изменить архитектуру безопасности Grok.
-
Репутационные риски, которые могут заставить рекламодателей и партнеров окончательно отвернуться от платформы X, где Grok является одной из ключевых функций для платных подписчиков.
На данный момент инженеры xAI начали массовое обновление фильтров, а доступ к функции генерации изображений для некоторых категорий запросов был временно ограничен.
