Пара метафор
• Объём нагрузки: дел, задач, информации, которые нужно обработать, опыт, через который нужно пройти, решения, которые нужно принять – это входные данные (пища для ума).
• Наш мозг, как и модель машинного обучения, имеет ограниченное capacity, объем сигнала на единицу времени который она может пропустить / эффективно обработать.
• Чтобы не распылять attention модели и не вызывать расхождение лосса при обучении, нужна регуляризация в виде дисциплины (диета для ума). Дисциплина – это привычка говорить «нет» краткосрочным выгодам (в т.ч. своим желаниям) ради долгосрочных бенефитов.
P.S. Хорошая новость: мозг как мышца тренируется и планку уровня стресса, на котором он продуктивно функционирует, можно поднимать. Помните что мышцы растут во время отдыха, а не во время перманентного стресса.
P.P.S. Приложение на скрине – Session.
• Объём нагрузки: дел, задач, информации, которые нужно обработать, опыт, через который нужно пройти, решения, которые нужно принять – это входные данные (пища для ума).
• Наш мозг, как и модель машинного обучения, имеет ограниченное capacity, объем сигнала на единицу времени который она может пропустить / эффективно обработать.
• Чтобы не распылять attention модели и не вызывать расхождение лосса при обучении, нужна регуляризация в виде дисциплины (диета для ума). Дисциплина – это привычка говорить «нет» краткосрочным выгодам (в т.ч. своим желаниям) ради долгосрочных бенефитов.
P.S. Хорошая новость: мозг как мышца тренируется и планку уровня стресса, на котором он продуктивно функционирует, можно поднимать. Помните что мышцы растут во время отдыха, а не во время перманентного стресса.
P.P.S. Приложение на скрине – Session.