
#nlp #lecture
Андрей Карпати выложил продолжение лекции про создание языковых моделей.
Перейдя от n-gram'ной статистической модели к нейросетевой, продолжаем развиваться. Строим многослойную сеть (MLP), знакомимся с кросс-энтропией и основными понятиями при тренировке моделей, пишем цикл обучения (train loop).
👉 Материалы лекций | Видео | makemore
Андрей Карпати выложил продолжение лекции про создание языковых моделей.
Перейдя от n-gram'ной статистической модели к нейросетевой, продолжаем развиваться. Строим многослойную сеть (MLP), знакомимся с кросс-энтропией и основными понятиями при тренировке моделей, пишем цикл обучения (train loop).
👉 Материалы лекций | Видео | makemore