Вчера OpenAI представила новые версии своих моделей gpt-4 и gpt-3.5-turbo, а также версию gpt-3.5-turbo с контекстом 16k. Это обновление будет особенно полезно для языков, использующих кириллицу, так как они обычно токенизируются в большее количество токенов, чем английский.



В то же время было объявлено о начале процесса вывода из эксплуатации старых моделей: gpt-3.5-turbo-0301 и gpt-4-0314. Они будут доступны до 13 сентября 2023 года.



В очередной раз частично снижены цены. Стоимость популярной модели встраивания text-embedding-ada-002 снижена на 75% до $0.0001 за 1K токенов. Кроме того, введено снижение на 25% стоимости токенов в исходящих сообщениях для gpt-3.5-turbo. Теперь разработчики могут использовать эту модель всего за $0.0015 за 1K входных токенов и $0.002 за 1K выходных токенов. Цена gpt-3.5-turbo-16k составляет $0.003 за 1K входных токенов и $0.004 за 1K выходных токенов.



Надо сказать то что снижение цен очень важно. В своей работе я вынужден экономить и использовать GPT-4 только в особых случаях (скажем только в 15% моего токенного объема), так как разница в цене с GPT-3 составляла 15 раз. Правда сейчас она станет еще больше - ведь на 4-ку цены не поменялись. Но мои общие расходы все равно снизятся.



Midjourney prompt: Small man lost in a neuro network matrix landscape, macro photo, tilt-shift