OpenAI признала слабую надежность своей технологии по выявлению машинописного текста

OpenAI закрыла инструмент AI Text Classifier, который предназначен для обнаружения текста, сгенерированного нейросетью вроде ChatGPT. Технология просуществовала меньше полугода.

По оценке OpenAI, AI Text Classifier помечал искусственный текст как «вероятно, сгенерированный ИИ» только в 26% случаев. Ложные срабатывания случались в 9% тестов.

Компания собирается разработать более эффективный алгоритм по выявлению машинописного текста, а также сгенерированного аудио- и видеоконтента.