Microsoft запускает программу-детектор дипфейков
Microsoft запустила программу, предназначенную для обнаружения синтетических носителей (также известных как дипфейки), этот инструмент анализирует видео и фотографии с целью получения оценки манипуляций.
Инструмент, называемый Video Authenticator, обеспечивает то, что Microsoft называет "процентной вероятностью или оценкой достоверности", что средства массовой информации были искусственно изменены.
"В случае с видео он может предоставлять этот процент в реальном времени для каждого кадра во время воспроизведения видео", - говорится в сообщении блога, посвященном этой технологии. "Программа работает, обнаруживая границу наложения дипфейка и тонких элементов выцветания или оттенков серого, которые не могут быть обнаружены человеческим глазом".
Если часть онлайн-контента выглядит реальной, но "попахивает" подделкой, скорее всего, это высокотехнологичная манипуляция, которую пытаются выдать за реальную - возможно, со злым намерением дезинформировать людей.
Хотя множество дипфейков создается с совершенно разными намерениями - чтобы сделать забавный или развлекательный контент - вырванные из контекста, такие синтетические медиа все еще могут жить собственной жизнью по мере распространения, а это означает, что они также могут обмануть ничего не подозревающих зрителей.
Хотя технология ИИ используется для создания реалистичных дипфейков, выявление визуальной дезинформации с помощью технологий по-прежнему является сложной задачей, а критически мыслящий ум остается лучшим инструментом для выявления высокотехнологичных BS.
Тем не менее, технологи продолжают работать над обнаружителями дипфейков, включая последнее предложение от Microsoft.
Хотя в блоге содержится предупреждение, что эта технология может быть лишь временно полезна в гонке вооружений дезинформации, подпитываемой ИИ: "Тот факт, что [дипфейки] создаются ИИ, который может продолжать учиться, неизбежно побеждает традиционные технологии обнаружения. Однако в краткосрочной перспективе, например, на предстоящих выборах в США, передовые технологии обнаружения могут стать полезным инструментом, который поможет проницательным пользователям выявлять дипфейки".
Этим летом Facebook начал конкурс на разработку детектора дипфейков, давший результаты, которые были лучше, чем предположения, но только в случае набора данных, к которому исследователи не имели доступа ранее.
Между тем Microsoft заявляет, что ее инструмент Video Authenticator был создан с использованием общедоступного набора данных из Face Forensic ++ и протестирован на наборе данных DeepFake Detection Challenge, который, как она отмечает, является "одновременно ведущими моделями для обучения и тестирования технологий обнаружения глубоких подделок".
Компания сотрудничает с AI Foundation из Сан-Франциско, чтобы сделать этот инструмент доступным для организаций, участвующих в демократическом процессе в этом году, включая новостные агентства и политические кампании.
Инструмент был разработан отделом исследований и разработок, Microsoft Research, в координации со своей командой ответственного ИИ и внутренним консультативным органом по ИИ, этике и последствиям в инженерии и исследованиях - в рамках более широкой программы Microsoft, направленной на защиту демократии от угроз, создаваемых дезинформацией.
"Мы ожидаем, что методы создания синтетических сред будут продолжать совершенствоваться", - говорит представитель разработчика ПО. "Поскольку все методы обнаружения ИИ имеют частоту отказов, мы должны понимать и быть готовыми реагировать на дипфейки, которые проскальзывают через методы обнаружения. Таким образом, в более долгосрочной перспективе мы должны искать более надежные методы для поддержания и подтверждения подлинности новостных статей и других средств массовой информации. Сегодня существует несколько инструментов, которые помогут убедить читателей в том, что средства массовой информации, которые они видят в Интернете, поступили из надежного источника и что они не были изменены ".
Что касается последнего, Microsoft также анонсировала систему, которая позволит производителям контента добавлять цифровые хэши и сертификаты к носителям, которые остаются в их метаданных по мере того, как контент перемещается в Интернет, обеспечивая точку отсчета для аутентичности.
Второй компонент системы - это средство чтения, которое может быть развернуто как расширение браузера, для проверки сертификатов и сопоставления хэшей, чтобы предложить зрителю то, что Microsoft называет "высокой степенью точности", что конкретный фрагмент контента является подлинным / не было изменено.
Сертификация также предоставит зрителю подробную информацию о том, кто подготовил СМИ.
Microsoft надеется, что эта система аутентичности цифровых водяных знаков станет основой инициативы Trusted News Initiative, объявленной в прошлом году британской государственной вещательной компанией BBC - специально для компонента проверки под названием Project Origin, который возглавляет коалиция BBC, CBC / Радио-Канада, Microsoft и The New York Times.
В нем говорится, что технология цифровых водяных знаков будет протестирована Project Origin с целью превращения ее в стандарт, который может быть широко принят.
В то время как работа над технологиями для выявления дипфейков продолжается, в блоге также подчеркивается важность медиаграмотности, отмечая партнерство с Вашингтонским университетом, Sensity и USA Today, которые были нацелены на развитие критического мышления перед выборами в США.
Технологический гигант также отмечает, что он поддерживает кампанию по объявлению общественных услуг (PSA) в США, побуждая людей взять "вдумчивую паузу" и проверить, поступает ли информация от авторитетной новостной организации, прежде чем они поделятся или продвигают ее в социальных сетях. предстоящих выборов.
По материалам:
Microsoft Вашингтон Университеты
