Не умеете танцевать? Этот ИИ украдет для вас движения профессиональных танцоров

Всем дипфейк-танцев!

Американские исследователи представили нейросетевой алгоритм, который переносит движения людей из одного видео в другое. Система, описанная на arXiv.org, использует сразу несколько нейросетей, а весь процесс разбит на следующие этапы.

1. Обучение алгоритма на целевом видео с произвольными движениями человека (запись длиной в несколько минут). На героя этого видео затем будут перенесены движения из исходника.
2. Загрузка одного или нескольких исходников: например, видео с танцорами. В конечном счете система перенесет их движения на первое видео. Но сперва алгоритм OpenPose превратит исходные видео в упрощенную модель человеческого тела, состоящую из ключевых точек, соединенных линиями.
3. Затем движения исходной модели передаются на целевую модель. В процессе они проходят так называемую нормализацию. У разных людей разные пропорции тела и разная одежда, - нормализация необходима, чтобы свести к минимуму нереалистичные изменения целевой модели.
4. Наконец, алгоритм pix2pixHD превращает движения модели в фотореалистичный видеоролик, на котором человек повторяет движения из исходного ролика.

И вот что получается:

Разработчики списывают артефакты в итоговом видео на несовершенный алгоритм OpenPose, который создает промежуточную модель тела. Он работает с одним кадром за раз без учета соседних, плюс создает двумерную модель, которая в принципе не учитывает нюансы трехмерного пространства.

Алгоритм pix2pixHD, напротив, для каждого нового кадра анализирует и предыдущий кадр, и 2D-модель тела, за счет чего движения на целевом видео становятся более естественными и согласованными. Кроме того, разработчики использовали еще одну нейросеть, отвечающую за отрисовку лица.

Впрочем, над лицом тоже следует поработать:

Ранее мы писали о похожей технологии, создающей дипфейки. Это реалистичная имитация мимики, жестов и движений, благодаря которой можно вложить слова одного человека в уста другого. Или, к примеру, поместить звезду шоу-бизнеса в порнографическое видео. Пока популярные платформы сражаются с эпидемией поддельных видео, а порноиндустрия ищет способы монетизировать эту золотую жилу, эксперты прогнозируют, что дипфейки совсем скоро станут главным оружием информационной войны.