Приложения ByteDance и TikTok содержат скрытую функцию видео-подделок
Материнская компания ByteDance, популярного приложения TikTok, создала технологию, позволяющую вставлять свое лицо в видео с участием кого-то другого. ByteDance разработала скрытую функцию с использованием реалистичной технологии Deepfakes, которую код приложения называет Face Swap. TikTok и его китайский аналог Douyin просит пользователей сделать биометрическое сканирование лица под несколькими углами, а затем выбрать один из видеороликов, к которым они хотят добавить свое лицо и поделиться ими.
Функция Deepfakes, если она будет запущена в Douyin и TikTok, может создать более контролируемую среду, в которой можно использовать технологию смены лица и ограниченный выбор исходного видео для развлечения вместо распространения дезинформации. Это также может повысить осведомленность о технологии, чтобы больше людей осознавали, что им не следует верить всему, что они видят в Интернете. Однако, вызывает серьезные опасения - что может сделать ByteDance с такими чувствительными биометрическими данными - подобно тому, что используется для настройки Face ID на iPhone.
Несколько других технологических компаний недавно пытались использовать облегченные версии глубоких подделок.
Приложение Morphin позволяет накладывать компьютерную визуализацию лица на лица актеров в GIF-файлах. В течение многих лет Snapchat предлагал опцию FaceSwap, которая позволяла переключать изображения двух людей в кадре или заменять одного другим. Кроме того, есть приложения, которые это делают, например, Face Swap Live.
Также, приложение Cameos Snapchat может вставлять селфи в видеоклипы, которые оно выпускает, хотя результаты получаются явно нереалистичными.
Наиболее проблематичным было китайское приложение Deepfakes Zao, которое использует искусственный интеллект, чтобы смешать лицо одного человека с телом другого, когда они двигаются и синхронизируют свои движения. Zao был ранее заблокирован китайской WeChat за "риски безопасности".
В то же время, ByteDance может создавать убедительные реалистичные подделки в TikTok и Douyin, два самых популярных в мире приложения с более чем 1,5 млрд. загрузок.
Спрятаны внутри ТикТок и Доуин
Израильский стартап исследований рынка приложений Watchful.ai обнаружил скрытый код для функции Deepfakes в последней версии приложений TikTok и Douyin для Android. Watchful.ai смог активировать код функции в Douyin для создания снимков экрана смартфона, хотя в настоящее время она не доступна.
Изначально пользователи сканируют свое лицо в TikTok. Это также служит проверкой личности, чтобы удостовериться, что пользователь отправляет только свое лицо. По задумке разработчиков - идентификация по лицу лишает возможности сделать реалистичные глубокие подделки кого-либо, используя существующую фотографию или один снимок лица. Прося пользователя моргать, кивать, открывать и закрывать рот, когда он находится в фокусе и при правильном освещении, Доуин может убедиться, что это живой человек, и создать управляемое сканирование лица, которое может растягиваться и двигаться, чтобы выражать разные эмоции или наполнять разные сцены.
После этого можно выбрать видео, на которое ByteDance обладает правом пользования, и приложение заменит лицо тем, кто находится в клипе. Затем можно поделиться результатом или скачать видео-подделку, хотя ролик будет обозначен водяным знаком, который, по утверждению компании, поможет отличать фейковый контент.
Также есть приложение Watchful, в котором обнаружены неопубликованные обновления TikTok и условия обслуживания Douyin, охватывающие конфиденциальность и использование функции deepfakes.
Внутри американской версии приложения TikTok для Android текст на английском в коде объясняет функцию и некоторые условия ее использования.
Представитель TikTok отказался прокомментировать ситуацию с вшитой в программный код приложения функцией Deefakes. Вместо этого он сослался на Douyin, сказав, что "над Douyin, здесь, в TikTok, не работают".
В свою очередь представитель Douyin сообщил: "Douyin следует законам и нормам юрисдикции Китая". Он также отрицал, что условия обслуживания Face Swap есть в TikTok, несмотря на то, что скрытый код просматривается в каждом из приложений, в котором указаны эти условия обслуживания и описывается применение этой функции.
В то же время, американское юридическое лицо TikTok ранее отрицало выполнение требований цензуры китайского правительства, что противоречит источникам, которые сообщили The Washington Post о том, что TikTok подверг цензуре некоторый политический и сексуальный контент по указке Китая.
Применение deepfakes
Вполне возможно, что Face Swap функцию deepfakes никогда официально не запустит в Китае или США. Однако, она полностью рабочая, даже если скрыта и неактивна, что демонстрирует готовность ByteDance к охвату спорной технологии, несмотря на репутацию дезинформации и поддельного порнографического контента.
По крайней мере, есть ограничения на использование этой функции несовершеннолетними и возможность замены только лица. Кроме того, есть запрет на загрузку пользователями собственных исходных видео. Возможно, эти ограничения позволят избежать использования приложения для создания опасных дезинформационных видеороликов.
"Редко можно увидеть, как крупное приложение для социальных сетей ограничивает новую, расширенную функцию только для своих пользователей 18 лет и старше", - говорит соучредитель и генеральный директор Watchful.ai Итай Кахана. "Эти приложения с функцией глубоких подделок на первый взгляд могут показаться забавными, но нельзя допустить, чтобы они стали троянскими конями, ставя под угрозу права на интеллектуальную собственность и персональные данные, в особенности несовершеннолетних, которые на сегодняшний день являются самыми активными пользователями TikTok".
TikTok уже был запрещен ВМС США, а приобретение ByteDance и слияние Musical.ly с TikTok расследуется Комитетом по иностранным инвестициям в США. Страхи перед Deepfakes могут еще больше усилить контроль.
Тем не менее, при наличии надлежащих мер предосторожности технология, изменяющая лицо, может открыть новую эру пользовательского контента, когда творец всегда находится в центре действия. Все это является частью новой тенденции персонализированных медиа, которая может стать масштабной в 2020 году. Социальные медиа эволюционируют от простых селфи к битмоджи и камео. А теперь они еще и поглощены глубокими подделками. Благодаря таким приложениям теперь звездой может стать каждый школьник, удерживая внимание на оригинальном видео-контенте.
Android IPhone TikTok Школьники
