Все смотрят на меня: исследователи разработали умный способ обнаружения убедительных дипфейков

Исследователи создали умный способ обнаружения дипфейков
Популярность и качество дипфейков начинают расти, например, недавние дипфейки Тома Круза, опубликованные в TikTok . Дипфейки вызывают озабоченность по поводу того, что реально, а что нет, когда речь идет о различных медиаформатах. Впоследствии исследователи из Университета Буффало разработали систему искусственного интеллекта, которая может определять, является ли изображение реальным или нет, с помощью некоторых хитрых приемов.
Одним из самых популярных способов создания человеческих лиц является использование модели генеративно-противниковой сети (GAN). Как поясняется в статье исследователя, эти модели могут «синтезировать очень реалистичные человеческие лица, которые визуально трудно отличить от настоящих». На самом деле изображения, которые вы видите выше, — это то, что использовали исследователи, и они взяты с веб-сайта под названием thispersondoesnotexist.com , который генерирует лица с использованием модели «StyleGAN2».
Исследователи создали умный способ обнаружения различий глаз в дипфейках
Хотя GAN может генерировать лица, которые выглядят реалистично, ИИ замечает мелкие детали, которые отфильтровывает наш мозг. В частности, исследователи использовали отражающую природу роговицы для тренировки. В сгенерированных изображениях отражение глаз обычно не такое, как в реальной жизни. Если присмотреться, можно заметить, что почти в каждом отражении глаз сгенерированных лиц что-то немного не так.

После обучения ИИ исследователи обнаружили, что метод обнаружения сгенерированных изображений оказался довольно эффективным. Единственные возникающие проблемы возникали, когда изображения не были в портретной конфигурации или изображения, на которых не было света в глазах. Более того, исследователи считают, что с помощью «нетривиальной» ручной постобработки несоответствия можно смягчить.

В конечном счете, исследователи надеются, что им не придется беспокоиться об этих проблемах при дальнейшем обучении и исследованиях. Возможно, это, наряду с другими методами обнаружения отредактированных или сгенерированных изображений, может помочь обнаружить дипфейки.

Источник (англ.)

Поставить оценку
Кофебрейкер | Интернет-журнал