OpenAI DevDay: GPT-4 Turbo, кастомные версии GPT и снижение цен для API
OpenAI провела первую конференцию для разработчиков - DevDay 2023. Создатель ChatGPT и прочих ИИ-продуктов представил множество новых функций и возможностей.
GPTs. Так называются кастомные версии чат-бота ChatGPT, которые могут создавать пользователи под специфические задачи. Навыки программирования не нужны: создать свою версию ChatGPT можно в формате диалога, указав инструкции и загрузить дополнительную информацию, которую алгоритм будет принимать во внимание при подготовке ответов.
У ChatGPT уже есть функция Custom Instructions («Индивидуальные инструкции») для настройки базы знаний алгоритма и пожеланий по поводу его работы. Но GPTs позволяет создавать несколько кастомных версий чат-бота под разные задачи.
Подписчики тарифов Plus и Enterprise получат доступ к GPTs на этой неделе, для остальных пользователей - «скоро». До конца ноября появится магазин GPT Store, в котором пользователи смогут делиться своими версиями ассистента. В будущем OpenAI обещает делиться прибылью с создателями самых популярных GPTs-конфигов.
GPT-4 Turbo. Теперь ChatGPT в платной версии работает на базе обновленной модели GPT-4 Turbo. Она обладает знаниями по состоянию на апрель 2023 года, хотя раньше возможности ChatGPT обрывались в сентябре 2021-го.
Еще OpenAI кратно увеличила размер контекста. Ранее в различных версиях модели он составлял 4–32 тысячи токенов (1 токен ≈ 2 символа), а теперь - 128 тысяч. Контекст - это «память» алгоритма, то есть объем информации, который он может принять, «запомнить» и учитывать в последующих ответах.
Старая версия модели для бесплатных пользователей, GPT-3.5 Turbo, теперь обладает контекстом в 16 000 токенов.
Разработчики оптимизировали производительность GPT-4 Turbo, что позволило сократить стоимость обращения по API. Теперь обработка одного токена на вход стоит 0,01 доллара (против 0,03), на выход - 0,03 доллара (против 0,06). Подешевели и API для предыдущих версий GPT. Подписка ChatGPT Plus все еще стоит 20 долларов в месяц.
Никаких переключений. Подписчикам ChatGPT Plus теперь необязательно переключаться между режимами генерации картинок через DALL-E, поиска в интернете и анализа данных. В зависимости от задачи алгоритм сам решит, какую функцию сейчас стоит активировать.
