That transfer of information, from what we don’t know about the system to what we kno … Continue reading 信息熵
标签: 信息熵
归一化(softmax)、信息熵、交叉熵
机器学习中经常遇到这几个概念,用大白话解释一下: 一、归一化 把几个数量级不同的数据,放在一起比较(或者画在一个数轴上),比如:一条河的长度几千甚至上万km,与一个人的高度1.7m,放在一起,人的高度 … Continue reading 归一化(softmax)、信息熵、交叉熵