Исследователи MIT создали ИИ-психопата, обучив нейросеть с помощью Reddit
Ученые хотели показать опасность использования неправильных наборов данных при обучении ИИ.
Исследователи Массачусетского технологического института рассказали о своем нового проекте - искусственном интеллекте по имени Норман, названного в честь героя фильма «Психо» Альфреда Хичкока. По словам ученых, это первый в мире ИИ-психопат.
Норман - нейросеть, которая умеет создавать текстовые описания изображений. Исследователи MIT обучали ИИ на основе подписей к самому жуткому контенту на Reddit на тему смерти и насилия. После этого Норман прошел тест Роршаха, который применяется для обнаружения нарушений в психике. Затем ученые сравнили ответы Нормана с ответами стандартной нейросети.
Выяснилось, что там, где обычная ИИ-система видела сидящих на ветке птиц, Норман разглядел человека, которого бьет током.
Еще на одном изображении, к примеру, Норман видит человека, «которого убивают из пулемета средь бела дня». В это время стандартная нейросеть описывает кляксу как черно-белую бейсбольную перчатку.
Цель эксперимента ученых MIT - демонстрация того, как исходные данные и предвзятость в их отборе влияют на работу нейросети. Команда исследователей уже запускала похожие проекты: ИИ генерировал страшные изображения, судил моральность принятых решений и даже проявлял сочувствие.
В MIT предложили пользователям помочь Норману исправиться и пройти для этого тест Роршаха.
Ранее мы писали об инженерах MIT, которые открыли роботизированный ресторан быстрого питания.
