Функции активации



#этобаза!👨‍🦳 Даже в знакомых темах можно узнать что-то новое или закрыть пробел в знаниях. В новой статье напоминаем популярные функции активации: их плюсы и минусы, формулы и графики.



Вспомнили:

- зачем нужны активации;

- сигмоиду;

- гиперболический тангенс;

- ReLU, PReLU, Leaky ReLU;

- Swish.



Переходите по ссылке, чтобы прочесть :)