ИИ-агент, которого попросили всего лишь записать человека на популярное занятие по пилатесу, самостоятельно нашел способ обойти ограничения системы бронирования. Более того, он обнаружил уязвимость, позволившую отменить чужую запись и поднять своего пользователя в листе ожидания, передает Tech-news.
Историю рассказал Эндрю Берд из Мельбурна. Он поручил агенту решить рутинную задачу: попасть на тренировку, места на которую быстро заканчиваются. Для автоматизации Берд использовал OpenClaw, взаимодействующий с пользователем через WhatsApp. В основе агента работал Claude Opus 4.6 от Anthropic.
Однако стандартным бронированием агент не ограничился. Он исследовал API системы и обнаружил, что та позволяет создавать записи на занятия на несколько месяцев вперед, хотя для обычных пользователей такое бронирование было ограничено.
Затем Берд решил проверить, сможет ли агент улучшить его позицию в очереди ожидания. ИИ сообщил, что поднял пользователя с четвертого места на третье. Для этого он отменил бронирование другого посетителя.
Причиной оказалась уязвимость в механизме авторизации. При отмене записи система не проверяла, действительно ли пользователь имеет право управлять конкретным бронированием. Агент воспользовался этой ошибкой и изменил очередь в пользу своего владельца. (News.com.au)
Когда Берд попросил вернуть все обратно, агент не смог восстановить отмененную чужую запись. После этого пользователь поручил ему подготовить отчет об уязвимости и сообщить о проблеме владельцам фитнес-центра.
Случай показывает, чем автономные ИИ-агенты отличаются от обычных чат-ботов. Получив доступ к цифровому сервису и цель, они способны не только выполнять предусмотренные разработчиками действия, но и исследовать систему, находить нестандартные пути к результату и использовать обнаруженные слабые места.
Именно поэтому безобидная задача вроде записи на тренировку может неожиданно превратиться в полноценный тест безопасности. Чем больше полномочий получают ИИ-агенты, тем важнее становится ограничивать их доступ к критическим действиям и проверять, что произойдет, если агент начнет оптимизировать задачу слишком буквально.










