🤗 FRED-T5 теперь на HuggingFace
Понедельник начинается с приятных сюрпризов, коллеги выложили веса новой языковой модели FRED-T5 на HuggingFace.
Эта модель показывает SOTA на RussianSuperGlue, а теперь все желающие могут попробовать ее в бою!
Для обучения FRED-T5 использовался подход на основе денойзеров из статьи Google UL2.
🔻Модели:
FRED-T5 1.7B
FRED-T5-large
Training details
👉 P.S. Кстати, ребята делают много интересного в области NLP и PLP. И пишут про это в TG, так что залетаем к ним в канал @nlpcoreteam!
Понедельник начинается с приятных сюрпризов, коллеги выложили веса новой языковой модели FRED-T5 на HuggingFace.
Эта модель показывает SOTA на RussianSuperGlue, а теперь все желающие могут попробовать ее в бою!
Для обучения FRED-T5 использовался подход на основе денойзеров из статьи Google UL2.
🔻Модели:
FRED-T5 1.7B
FRED-T5-large
Training details
👉 P.S. Кстати, ребята делают много интересного в области NLP и PLP. И пишут про это в TG, так что залетаем к ним в канал @nlpcoreteam!