Решил поковырять ignite для уменьшения лапши и унификации пайплайна для train loop. Запилил кернел на текущем kaggle, может кому будет полезно. Код причесать толком не успеваю до конца соревнования, поэтому выкладываю как есть: https://www.kaggle.com/protan/ignite-example. На ЛБ сейчас даёт 0.84681