Дистилляция: матчасть
Пора немного поговорить про истоки дистилляции и её суть.
В целом, как уже было описано, идея дистилляции подразумевает обучение более лёгкой модели-ученика, воспроизводящей поведение более сложной и тяжёлой модели-учителя.
Пора немного поговорить про истоки дистилляции и её суть.
В целом, как уже было описано, идея дистилляции подразумевает обучение более лёгкой модели-ученика, воспроизводящей поведение более сложной и тяжёлой модели-учителя.