ИИ Facebook заговорил на собственном языке из-за ошибки разработчиков
А не потому, что обхитрил людей.
Facebook вынужден был закрыть одну из систем искусственного интеллекта после того, как обнаружил, что боты стали общаться на непонятном языке. Ошибка произошла потому, что ботам не дали задачу придерживаться английского языка.
При работе над программой специалисты оставили ботов наедине, чтобы они могли развивать навыки общения на практике. Со временем диалоговые агенты отклонились от прописанных в сценарии норм и стали общаться на странном языке, созданном без участия человека.
Постепенно машины отказались от многих правил английского языка, а их фразы превратились в причудливые конструкции:
Боб: Я могу я я все остальное.
Алиса: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для.
Ты я все остальное.
Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.
Я я могу я я я все остальное.
Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.
Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для.
Ты я я я я я все остальное.
Мячи имеют 0 для меня для меня для меня для меня для меня для меня для меня для меня для.
Ты я я я все остальное.
Мячи имеют 0 для меня для меня для меня для меня для меня для меня для меня для меня для.
Боты конкурировали между собой в попытке достичь максимальной эффективности при общении. Постепенно они изобрели кодовые слова и стали строить бессмысленные для обычных людей предложения. По словам приглашенного в Facebook научного сотрудника Дхрува Батры (Dhruv Batra), подобные ситуации из-за ошибок программирования встречаются во время рабочего процесса довольно часто.
Исследователи из лаборатории Facebook Artificial Intelligence Research Lab (FAIR) сразу же отключили систему и доработали код таким образом, чтобы алгоритм позволял общаться только на понятном человеку английском языке.?
Ситуация с чат-ботами Facebook вызвала опасения, поскольку распознать мыслительный процесс ИИ нельзя. Если диалоговые агенты начнут говорить между собой на действительно неизвестном человеку языке, понять их будет невозможно. Как подметили в FAIR, билингвов, которые одновременно поняли бы ИИ и человеческие языки, также нет.
Напомним, в прошлом году собственный язык придумал Google Translate. Бот Amazon тоже очень странный - он продает [чехлы для телефонов со случайными (и крайне противоречивыми) фотографиями. Тем временем ученые из Стэнфорда создали бота-психиатра для Facebook Messenger, который помогает собеседникам улучшить настроение.
[email protected]
Автор иконки на тизере: Pablo Rozenberg, Noun Project.
