Старший Авгур

Один из шикарных примеров ответов Opus'а

Просматриваю данные, собранные из бота (пока не из чатов), несколько наблюдений:- Все локальные моде...

Выложил v6 в бота, сварил и выложил GGUF, задавать как обычно через /setmodel. Уменьшил лимиты для o...

Победа, получается?..Выложу как v6. У phi3 версии ещё инференс досчитывается.Наглядно видно, что там...

Добавил Opus в бота. Не написав не одной строчки кода в самом боте!Однако пришлось написать прокси,...

Мини-пост на ночь.Всю свою работу, за которую я не получаю деньги, я выкладываю в open source. Так б...

Два момента:- Перенёс все нужные скрипты и конфиги в отдельный репозиторий: saiga. Старый репо превр...

Предварительные результаты по phi3 medium. Почему предварительные: 4к контекста, AWQ, скорее всего к...

Вихрь теперь тоже есть

Вернул SFR в пул моделей бота.Phi и Aya пока не могу добавить, у них слишком новые архитектуры (кото...