- Завёз Suzume в бота
- Сделал vllm-спефичные ветки Сайги (без BOS в шаблоне токенизатора) и подрубил их вместо старых в боте
- Считаю метрики разных версий SFR (SFT/iterDPO), тюны Сайги поверх iterDPO не отличаются по метрикам от тюнов поверх стандартной третьей Лламы (даже чуть хуже)
- Медленно читаю статью SFR
- Хочу поставить дальше эскпы с параметрами KTO
- Сделал vllm-спефичные ветки Сайги (без BOS в шаблоне токенизатора) и подрубил их вместо старых в боте
- Считаю метрики разных версий SFR (SFT/iterDPO), тюны Сайги поверх iterDPO не отличаются по метрикам от тюнов поверх стандартной третьей Лламы (даже чуть хуже)
- Медленно читаю статью SFR
- Хочу поставить дальше эскпы с параметрами KTO