Найден способ распознать лицо, сгенерированное компьютером
Исследователи из Государственных университетов Нью-Йорка в Олбани и Буффало и медицинского ИИ-стартапа Keya Medical выявили общий недостаток в созданных компьютером лицах, по которому их можно идентифицировать.
Реалистичные изображения людей, которые в действительности никогда не существовали, создаются с помощью генеративных конкурентных сетей (GAN). Как сообщается, они уже начали появляться в поддельных профилях пользователей социальных сетей, замешанных в неблаговидной деятельности.
Но такие изображения, генерируемые с нуля одной нейросетью и оцениваемые на реалистичность другой, даже по прошествии нескольких итераций данной процедуры все же остаются неидеальными, что и продемонстрировало новое исследование, представленное в статье, которая размещена на допечатном сервере arXiv.org.
Используя написанное ими программное обеспечение, нью-йоркские исследователи обнаружили, что многие сети GAN имеют тенденцию создавать зрачки некруглой формы, что можно использовать в качестве отличительного признака лиц, сгенерированных компьютером.
Исследователи отмечают, что во многих случаях пользователи могут просто увеличить глаза человека, чтобы визуально заметить неровности зрачка. Кроме того, несложно написать программное обеспечение для обнаружения таких ошибок, а сайты социальных сетей могли бы использовать его для удаления поддельного контента.
К сожалению, теперь, когда этот признак подделки обнаружен и информация о нем обнародована, мошенники могут просто добавить функцию контроля округлости зрачков в создаваемых ими фальсифицированных изображениях лица.
