Докажем, определения и выводы на основе формул.
Где
p – распределение вероятностей, которое мы хотим смоделировать
q – предлагаемая вероятностная модель
Меньшая энтропия (или менее неупорядоченная система) предпочтительнее большей энтропии. Потому что предсказуемость результатов предпочтительнее случайности. Вот почему люди говорят, что низкое недоумение — это хорошо, а высокое — плохо, поскольку недоумение — это возведение в степень энтропии (и можно смело думать о концепции недоумения как об энтропии).
Где
p – распределение вероятностей, которое мы хотим смоделировать
q – предлагаемая вероятностная модель
Меньшая энтропия (или менее неупорядоченная система) предпочтительнее большей энтропии. Потому что предсказуемость результатов предпочтительнее случайности. Вот почему люди говорят, что низкое недоумение — это хорошо, а высокое — плохо, поскольку недоумение — это возведение в степень энтропии (и можно смело думать о концепции недоумения как об энтропии).