YouTube заблокировал популярный канал о шахматах из-за «расизма»
Администрация видеохостинга YouTube заблокировала популярный канал хорватского шахматиста Антонио Радича за "вредоносный и опасный" контент, поскольку искусственный интеллект воспринял фразу "черные против белых", которая на самом деле была о шахматах, как расизм.
Как передает Укринформ, об этом сообщает издание Independent.
Радич, известный под псевдонимом Agadmator, ведет популярный в мире шахматный канал на YouTube из более 1 млн подписчиков. В июне 2020 года его канал на YouTube был заблокирован во время представления шахматного турнира с гройсмейстером Хикару Накамурой. Однако через сутки канал разблокировали.
Радич уверен, что временное блокирование связано с фразой "черные против белых", хотя автор, на самом деле, говорил о шахматах.
Отмечается, что алгоритмы YouTube восприняли беседу шахматистов вредоносной. В то же время администрация YouTube так и не представила объяснений блокировки.
Системой модерации YouTube занимаются как сами работники компании, так и алгоритмы искусственного интеллекта, а это значит, что ИИ может неверно интерпретировать комментарии, если его не научить правильно понимать контекст.
Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя ИИ и смоделировали реакцию программы на видео о шахматах.
Эксперты использовали современный классификатор языка, чтобы просмотреть свыше 680 тыс. комментариев из пяти популярных шахматных YouTube-каналов.
Проверив вручную выборку из 1000 комментариев, которые искусственный интеллект классифицировал как язык вражды, они выявили, что 82% из них были неправильно истолкованы из-за употребления таких слов, как "черный", "белый", "атака" и "угроза" - все это обычно используется в шахматном языке.
