В прошлом месяце компания OpenAI обновила свой ИИ GPT-4o, добавив новую функцию генерации изображений, позволяющую создавать чрезвычайно реалистичные картинки. Особое внимание привлекает существенное улучшение в генерации текста на изображениях, что уже используется некоторыми пользователями для изготовления фальшивых чеков из ресторанов. Это открывает новые возможности для мошенников, которые пользуются арсеналом ИИ-дипфейков.
Об этом сообщает News IO
Активный пользователь социальных сетей и инвестор Диди Дас поделился в X фотографией поддельного чека, созданного с помощью нового GPT-4o. Он выразил впечатление от реалистичности изображения, отметив:
“Я думаю, что в оригинальном изображении буквы слишком идеальны и не изгибаются вместе с бумагой. Они выглядят так, будто парят над бумагой.”
Другие пользователи также достигли подобных результатов, добавляя детали, такие как пятна от еды или напитков, чтобы сделать подделки еще более убедительными. Ярчайший пример был создан во Франции, где один из пользователей LinkedIn поделился смятым ИИ-сгенерированным чеком из местной сети ресторанов.
Ресурс TechCrunch протестировал новую функцию и смог создать фальшивую квитанцию для Applebee’s в Сан-Франциско. Однако в этом случае были замечены некоторые очевидные ошибки, например, использование запятой вместо точки для отделения десятичных знаков, а также несоответствие сумм. Это подчеркивает, что модели ИИ все еще сталкиваются с трудностями в базовых вычислениях, что не стало неожиданностью.
Тем не менее, мошенникам не будет сложно исправить несколько цифр с помощью редактора изображений или более точных запросов к ИИ. Легкость создания поддельных чеков открывает новые возможности для мошенничества, ведь несложно представить, как такие технологии могут использоваться для фальшивых возмещений расходов.
Представительница OpenAI Тая Кристиансон отметила, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их происхождение. Она добавила, что OpenAI принимает меры в случае нарушения правил использования и постоянно адаптируется на основе реального использования и отзывов пользователей.
На вопрос, почему ChatGPT вообще позволяет генерировать поддельные чеки, и соответствует ли это политике OpenAI, которая запрещает мошенничество, Кристиансон ответила, что цель компании – предоставить пользователям максимальную творческую свободу. Она также отметила, что фальшивые квитанции могут использоваться не только для мошеннических целей, но и для обучения финансовой грамотности, создания оригинального искусства и рекламы продуктов.
Сэм Альтман, один из основателей OpenAI, прокомментировал тренд, связанный с новым генератором изображений GPT-4o, заметив:
“Я сделал из тебя Ghibli, ха-ха”
.