信息熵代表信息量大小，衡量信息的多样性，eg：如果全是1，则信息很少，信息熵比较小。如果一半是0，一半是1，那么信息熵就比较大。
公式如下：
参考文献 http://blog.csdn.net/xiaoyu714543065/article/details/8523820
julie-yang 2016-02-23 15:50 原文
信息熵代表信息量大小，衡量信息的多样性，eg：如果全是1，则信息很少，信息熵比较小。如果一半是0，一半是1，那么信息熵就比较大。
公式如下：
参考文献 http://blog.csdn.net/xiaoyu714543065/article/details/8523820