OpenAI предложила использовать языковую модель GPT-4 для модерации контента

OpenAI заявила, что большую языковую модель GPT-4 можно использовать для модерации контента. Сейчас компания экспериментирует с решением этой задачи при помощи технологии.

Преимущества GPT-4 в роли модератора:

• точное следование формулировкам в политике модерации и мгновенная адаптация к обновлениям правил;
• снижение эмоциональной нагрузки на модераторов-людей, которые нередко сталкиваются с психологическим стрессом при изучении оскорбительного и опасного контента;
• помощь в быстром обновлении политик модерации при возникновении новых угроз.

В блоге OpenAI также сказано, что GPT-4 позволяет ускорить разработку и настройку правил модерации, сократив процесс «с нескольких месяцев до нескольких часов». Для первоначального обучения языковой модели потребуется небольшое количество эталонных примеров, а далее эксперты могут точнее настраивать работу алгоритма при неоднозначных ситуациях.

Напомним, большая языковая модель последнего поколения, GPT-4, представлена OpenAI в марте этого года.