Яндекс.Переводчик объединил статистический перевод с нейросетью
К статистической модели, которая работает в Переводчике с момента запуска, добавилась технология перевода на нейронной сети. Текст переводят обе модели, а затем алгоритм на основе метода машинного обучения CatBoost сравнивает результаты и предлагает лучший. Преимущество гибридной системы в том, что она позволяет взять лучшее от каждого метода и повысить качество перевода.
В отличие от статистического переводчика, нейронная сеть не разбивает тексты на отдельные слова и фразы. Она получает на вход предложение целиком и выдает его перевод. Такой подход позволяет учесть контекст и лучше передать смысл. Кроме того, результат получается "гладким": предложение хорошо читается, и иногда даже можно подумать, что его перевел человек. Статистическая модель, в свою очередь, лучше справляется с редкими словами и фразами и не фантазирует, если смысл предложения непонятен, как это может делать нейросеть.
Чтобы снизить количество грамматических ошибок, Яндекс.Переводчик проводит дополнительную проверку переводов, выполненных нейронной сетью. Они проходят через модель языка - так называется свод знаний о языке перевода, накопленный системой. Если в предложении есть рассогласования, например "папа пошла" или "сильный боль", модель исправит их.
Сейчас гибридная система работает только для переводов с английского на русский. Это самое популярное направление перевода - на него приходится около 80% запросов. Пользователи веб-версии Яндекс.Переводчика могут сравнить результат работы гибридной системы и статистического переводчика и выбрать вариант, который им больше понравится.
Яндекс.Переводчик заработан в 2011 году. На старте он мог работать с тремя языками: русским, украинским и английским. Сейчас он знает 94 языка, включая экзотические наподобие коса или папьяменто, и может выполнять переводы между любой парой. В 2016 году Переводчик выучил синдарин - искусственный язык, на котором говорят эльфы в книгах Дж. Р. Р. Толкина.
