Пока генераторы изображений становятся все реалистичнее, исследователи ищут новые способы борьбы с дипфейками. В Германии разрабатывают систему RealorRender, которая не только обнаруживает поддельные изображения, созданные нейросетями, но и показывает, на основании каких признаков был сделан такой вывод, передает Tech-news.
Дипфейки остаются одной из самых быстрорастущих угроз цифрового пространства. С развитием генеративного искусственного интеллекта количество поддельных изображений стремительно увеличивается, что приводит к росту случаев мошенничества, шантажа, кибербуллинга и распространения фальшивого интимного контента. Особенно уязвимыми оказываются подростки, которые все чаще становятся жертвами подобных атак.
Исследователи из немецкого института Fraunhofer IOSB работают над системой RealorRender, призванной помочь в борьбе с этой проблемой. В отличие от большинства существующих инструментов, она не просто определяет вероятность того, что изображение создано нейросетью, но и объясняет, почему пришла именно к такому выводу.
Принцип работы системы отличается от традиционных методов. Сначала RealorRender пытается самостоятельно воспроизвести проверяемое изображение с помощью собственной генеративной модели. Если картинку удается воссоздать слишком легко, это может свидетельствовать о том, что оригинал также был создан искусственным интеллектом.
После этого второй алгоритм анализирует результаты и оценивает вероятность того, что изображение является дипфейком или другой формой синтетического контента.
Одной из ключевых особенностей разработки стали тепловые карты. Они подсвечивают участки изображения, которые вызвали подозрение у алгоритма, например характерные текстуры, артефакты генерации и другие признаки, типичные для нейросетей. Благодаря этому специалисты могут не только увидеть итоговый вердикт, но и понять логику принятого решения.
По данным разработчиков, текущая точность системы составляет от 85 до 91%. Исследователи рассчитывают, что по мере совершенствования генеративных моделей будут развиваться и технологии их обнаружения, позволяя эффективнее защищать пользователей от цифрового мошенничества, поддельных фотографий и других злоупотреблений искусственным интеллектом.
