Search

Как защитить свое фото от манипуляций ИИ

Программа PhotoGuard изменяет фотографии, чтобы системы искусственного интеллекта не могли их обрабатывать

Прямо сейчас любой пользователь интернета может скачать ваше фото, изменить его по своему усмотрению, и поставить человека на фото в очень невыгодное положение и шантажировать.

Инструмент под названием PhotoGuard работает как защитный щит, изменяя фотографии способами, невидимыми для человеческого глаза, но предотвращающими манипуляции с ними. Если кто-то попытается использовать приложение для редактирования, основанное на модели генеративного искусственного интеллекта, такое как Stable Diffusion, для манипулирования изображением, обработанного PhotoGuard, то результат будет выглядеть нереалистичным или искаженным. 

PhotoGuard — это попытка решить проблему злонамеренных манипуляций с нашими изображениями со стороны генеративных моделей. Инструмент может, например, помочь предотвратить превращение женских селфи в дипфейковую порнографию.

Команда разработчиков использовала два разных метода, чтобы остановить редактирование изображений, используя модель генерации изображений с открытым исходным кодом Stable Diffusion. 

Первый метод называется атакой кодировщика. PhotoGuard добавляет к изображению незаметные сигналы, чтобы модель ИИ интерпретировала его как нечто другое. Например, эти сигналы могут привести к тому, что ИИ классифицирует изображение человека как блок чистого серого цвета. В результате любая попытка использовать стабильную диффузию для редактирования проваливается. 

Второй, более эффективный метод называется диффузионной атакой. Это метод нарушает генерацию ИИ нового изображения, кодируя исходный файл секретными сигналами. Добавив эти сигналы к вашему изображению, модель ИИ начинает игнорировать промты и не создает  изображение, которое предполагалось создать. В результате любое изображение, отредактированное искусственным интеллектом, будут просто серыми. 

И хотя PhotoGuard может затруднить фальсификацию новых изображений, он не обеспечивает полной защиты от дипфейков, потому что старые изображения пользователей все еще могут быть доступны для использования и обработки, а так же есть и другие способы создания дипфейков.