В этом месяце ChatGPT представил новый генератор изображений в рамках своей модели 4o, которая намного лучше генерирует текст внутри изображений.
Люди уже используют его для создания фальшивых чеков из ресторанов, потенциально добавляя ещё один инструмент в и без того обширный набор дипфейков на основе ИИ, используемых мошенниками.
Известный блогер и венчурный инвестор Диди Дас опубликовал в X фотографию фальшивого чека из (реального) стейк-хауса в Сан-Франциско, который, по его словам, был создан с помощью 4o.
Другие смогли добиться похожих результатов, в том числе с пятнами от еды или напитков, чтобы всё выглядело ещё более реалистично:
Самый реалистичный пример, который нашёл TechCrunch, был из Франции, где пользователь LinkedIn опубликовал смятый чек, сгенерированный искусственным интеллектом для местной сети ресторанов:
TechCrunch протестировал 4o и также смог сгенерировать фальшивый чек для Applebee’s в Сан-Франциско:
Но в нашей попытке было несколько явных признаков того, что она была поддельной. Во-первых, в итоговом значении вместо точки стоит запятая. Во-вторых, математика не сходится. LLM по-прежнему с трудом справляются с базовыми математическими задачами, так что это не особенно удивительно.
Но мошеннику было бы нетрудно быстро исправить несколько цифр с помощью программы для редактирования фотографий или, возможно, более точных подсказок.
Очевидно, что возможность легко создавать фальшивые чеки открывает огромные возможности для мошенничества. Нетрудно представить, что злоумышленники будут использовать подобные технологии, чтобы получать «компенсацию» за полностью вымышленные расходы.
Представитель OpenAI Тая Кристиансон сообщила TechCrunch, что все изображения содержат метаданные, указывающие на то, что они были созданы с помощью ChatGPT. Кристиансон добавила, что OpenAI «принимает меры», когда пользователи нарушают правила использования, и что компания «постоянно учится» на основе реального использования и отзывов.
Затем TechCrunch спросил, почему ChatGPT вообще позволяет людям создавать фальшивые чеки и соответствует ли это политике использования OpenAI (которая запрещает мошенничество).
Кристиансон ответил, что «цель OpenAI — предоставить пользователям как можно больше творческой свободы» и что поддельные чеки, созданные ИИ, можно использовать в ситуациях, не связанных с мошенничеством, например, «обучая людей финансовой грамотности», а также создавая оригинальные произведения искусства и рекламу товаров.
