MODEL | CONTEXT WINDOW | TRAINING DATA
----------------------------------------------------
GPT-3.5-turbo-16k | 16385 tokens | Up to Sep 2021
GPT-4-turbo-128k | 128000 tokens | Up to Dec 2023
----------------------------------------------------
Информация о текстовых моделях от OpenAI.
Не забывайте, что контекстное окно включает в себя текст вашего диалога, ваш вопрос, а так же ответ от модели. Затрачиваемые токены считаются как общая сумма:
Токены(история диалога) + Токены(ваш вопрос) + Токены(ответ).Поэтому, когда устанавливаете в
Настройках - Токены на контекст, для выбранной текстовой модели, лучше указывать половину максимального окна или чуть больше, чтобы максимально хватило и на диалог и на ответ. Например для модели
GPT-4-turbo-128k контекстное окно 128000 токенов. Значит, чтобы ответ был более расширенный нужно на него выделить запас токенов, и тем самым указать в Настройках - Токены на контекст примерно 100000 токенов.👉 ChatGPT тут