Отличный kernel с описанием pytorch.ignite - абстракции для training loop, которой иногда не хватает.