Adobe и исследователи разрабатывают ИИ, который вынюхивает отфотошопленные изображения и дипфейки


Исследователи из Adobe и Калифорнийского университета в Беркли работают над методом обнаружения лицевых манипуляций, сделанных с цифровыми фотографиями в Photoshop . Хотя разработка находится на ранних стадиях, она является частью более широких усилий Adobe по более эффективному обнаружению манипуляций с изображениями, видео, аудио и документами в сегодняшнем ландшафте фейковых новостей.

Иногда так же просто, как пирог, обнаружить манипулируемое изображение. Возьмем, к примеру, фотографию в начале этой статьи — наши знания о мире говорят нам, что собаки обычно не наряжаются в костюмы и не ходят, как люди, так что это явно измененный образ. Но в других случаях изменения не столь вопиющие.
Что само по себе не проблема. Когда измененные изображения и видео используются в гнусных целях, это становится проблемой. Исследователи из Десса недавно продемонстрировали, насколько это может быть проблемой, клонировав голос Джо Рогана с помощью искусственного интеллекта , а затем поручив слушателям отличить настоящие аудиоклипы от созданных с помощью ИИ. Это не просто.
То же самое относится к изображениям и видео, и Adobe заявляет, что признает «этические последствия» своей технологии.
«Доверие к тому, что мы видим, становится все более важным в мире, где редактирование изображений стало повсеместным — поддельный контент является серьезной и все более актуальной проблемой. Adobe твердо привержена поиску наиболее полезных и ответственных способов воплощения новых технологий в жизнь — постоянно исследуя использование новых технологий, таких как искусственный интеллект, для повышения доверия и авторитета в цифровых медиа», — говорится в сообщении Adobe в блоге. Исследователи Adobe Ричард Чжан и Оливер Ван работали с сотрудниками Калифорнийского университета в Беркли Шенг-Ю Ван, доктором Эндрю Оуэнсом и профессором Алексеем А. Эфросом над технологией обнаружения правок. Он состоит из обучения сверточной нейронной сети (CNN), которая представляет собой форму глубокого обучения, с набором изображений. Он содержал смесь тысяч изображений, взятых из Интернета, и изображений, измененных наемным художником.
Несмотря на то, что он находится на ранних стадиях, метод работает довольно хорошо, особенно по сравнению с человеческим наблюдением.
«Мы начали с того, что показывали пары изображений (оригинал и изменение) людям, которые знали, что одно из лиц было изменено», — говорит Оливер. «Чтобы этот подход был полезным, он должен работать значительно лучше, чем человеческий глаз, при идентификации отредактированных лиц».
Человеческие глаза смогли успешно различить исходные и измененные изображения примерно в половине случаев (53 процента), в то время как инструмент нейронной сети был почти идеальным (99 процентов). Кроме того, инструмент смог точно определить области и методы искажения лица, а затем использовать эту информацию, чтобы вернуть измененные изображения в исходное состояние.
«Это может показаться невозможным, потому что существует множество вариантов геометрии лица», — говорит профессор Алексей А. Эфрос из Калифорнийского университета в Беркли. «Но в этом случае, поскольку глубокое обучение может рассматривать комбинацию данных изображения низкого уровня, таких как артефакты деформации, а также подсказки более высокого уровня, такие как макет, кажется, что это работает».

Несмотря на то, что это захватывающе, Ричард отмечает, что «волшебная универсальная кнопка отмены» для измененных изображений «все еще далека от реальности».
Источник изображения: Сара РихтерАрт через Pixabay

Источник (англ.)

Поставить оценку
Кофебрейкер | Интернет-журнал