Вернул SFR в пул моделей бота.
Phi и Aya пока не могу добавить, у них слишком новые архитектуры (которых нет в образах runpod vllm).
В новом Вихре пока не хватает формата промпта в настройках токенизатора, как доложат - добавлю.
Важная ремарка: пока фикс bos токена в vllm тоже не добрался до образа, поэтому качество моделей в боте может не отражать их реальное качество.
Phi и Aya пока не могу добавить, у них слишком новые архитектуры (которых нет в образах runpod vllm).
В новом Вихре пока не хватает формата промпта в настройках токенизатора, как доложат - добавлю.
Важная ремарка: пока фикс bos токена в vllm тоже не добрался до образа, поэтому качество моделей в боте может не отражать их реальное качество.