О, там Hugging Face выкатили обнову для transformers. Обещают, что в новой версии всё будет летать на CPU. Разработчик aitextgen уже сообщил в твиттере, что обновит текстген. Можно будет хостить разных ботов на основе GPT-2 не на дорогущем амазон-сервере с GPU, а на бичарских VDS хостингах за пятак баксов в месяц. И это охуенно!