"Белые против черных": алгоритм YouTube заблокировал канал о шахматах за расизм
Искусственный интеллект YouTube заблокировал канал шахматного видеоблогера Антонио Радича. Техподдержка отказалась объяснить причины блокировки, а канал был восстановлен через 24 часа. Вероятно, говорят специалисты, алгоритмы приняли обсуждение партии за расистские оскорбления.
Один из самых популярных шахматных каналов на YouTube, который ведет хорватский шахматист-любитель Антонио Радич, был заблокирован после публикации видео с гроссмейстером Хикару Накамурой, передает 24.
За дело взялись компьютерщики из Университета Карнеги-Меллон. Они провели тесты на двух классификаторах языка, которые используют AI для выявления "языка вражды".
Анализ 680 тысяч комментариев на YouTube-канале о шахматах показал, что 82 процента комментариев, обозначенные искусственным интеллектом как "вредные" не были расистскими, однако упоминали термины "черные", "белые", "атака" и "угроза".
Мы не знаем, какие инструменты использует YouTube, но, если они полагаются на искусственный интеллект для выявления расистских высказываний, такие вещи будут продолжать случаться, - сказал один из исследователей, Ашикур ХудаБухш из Института речевых технологий.
YouTube не раскрывает своих алгоритмов, но напомнил, что восстанавливает контент, если он был удален по ошибке. Для этого владельцу канала необходимо обратиться в техподдержку.
