Тут нас немножк рассекретили. Мы с коллегами из ai-forever выпустили препринт статьи про семейства nlp моделей для ru домена. Мы участвовали в создании семейства ru-ELECTRA.



Впереди вас ждёт более подробный рассказ о том, как мы это делали на хабр. А пока го го в arxiv.