Microsoft запускает инструмент обнаружения дипфейков, поскольку дезинформация о выборах в США становится ядерной


Распространение «фейковых новостей» в социальных сетях не только раздражает, но и может влиять на выборы и политику, в зависимости от предмета и правдоподобности содержания. Стремясь отсеять вводящий в заблуждение контент и «борьбу с дезинформацией», Microsoft запускает свой инструмент Video Authenticator для обнаружения так называемых дипфейков .
«Дипфейк» — это тип синтетических медиафайлов — фотографий, видео или аудиофайлов, — которыми манипулирует искусственный интеллект , и иногда их трудно обнаружить. Это не всегда так. В некоторых случаях дипфейки жутко очевидны . Но в других случаях дипфейк может создать впечатление, будто человек что-то сказал или сделал, хотя на самом деле все это просто сгенерировано компьютером.
Это, очевидно, имеет значение для выборов, отсюда и выбор времени выпуска 0 — он приходится непосредственно перед предстоящими президентскими выборами в США.
«В краткосрочной перспективе, например, перед предстоящими выборами в США, передовые технологии обнаружения могут стать полезным инструментом, помогающим проницательным пользователям идентифицировать дипфейки… Video Authenticator может анализировать неподвижное фото или видео, чтобы определить процентную вероятность или показатель достоверности, что СМИ искусственно манипулируются. В случае с видео он может предоставлять этот процент в реальном времени для каждого кадра при воспроизведении видео», — объясняет Microsoft.
Стив Бушеми и Дженнифер Лоуренс Deepfake

Часть волшебства заключается в обнаружении границы смешивания дипфейка и поиске едва уловимых выцветаний или элементов в градациях серого, которые могут остаться незамеченными невооруженным глазом. Это кульминация совместных усилий Microsoft Research, ответственной команды Microsoft по искусственному интеллекту и комитета Microsoft по искусственному интеллекту, этике и эффектам в разработке и исследованиях.
Microsoft заявляет, что разработала инструмент Video Authenticator с использованием общедоступного набора данных Face Forensic++ и протестировала инструмент на наборе данных DeepFake Detection Challenge.
«Мы ожидаем, что методы создания синтетических носителей будут продолжать усложняться. Поскольку все методы обнаружения ИИ имеют процент неудач, мы должны понимать и быть готовыми реагировать на дипфейки, которые ускользают от методов обнаружения», — признает Microsoft.
Microsoft также анонсировала новую технологию, состоящую из двух частей, каждая из которых направлена ​​на отсеивание фейковых новостей. Один из них имеет инструмент аутентификации, встроенный в Microsoft Azure, а другой — считыватель, который может быть встроен в расширение браузера, которое проверяет сертификаты онлайн-контента и сопоставляет хэши. Это позволяет читателю с высокой степенью точности узнать, является ли контент, который он просматривает, подлинным, а также узнать подробности о том, кто его создал.

Источник (англ.)

Поставить оценку
Кофебрейкер | Интернет-журнал