信息熵:修订间差异
无编辑摘要 |
无编辑摘要 |
||
第1行: | 第1行: | ||
信息熵(information entropy),也称香农熵(Shannon entropy) | 信息熵(information entropy),也称香农熵(Shannon entropy)是不确定性的度量。 | ||
==简介== | ==简介== | ||
第18行: | 第18行: | ||
*[https://zh.wikipedia.org/wiki/熵_(信息论) 维基百科:熵 (信息论)] | *[https://zh.wikipedia.org/wiki/熵_(信息论) 维基百科:熵 (信息论)] | ||
*[https://en.wikipedia.org/wiki/A_Mathematical_Theory_of_Communication Wikipedia:A Mathematical Theory of Communication] | *[https://en.wikipedia.org/wiki/A_Mathematical_Theory_of_Communication Wikipedia:A Mathematical Theory of Communication] | ||
*[https://www.jiqizhixin.com/graph/technologies/7afc5fc3-a61c-4238-b496-9c39392a91fe 机器之心:信息熵] | |||
*[https://blog.csdn.net/v_JULY_v/article/details/40508465 CSDN:v_JULY_v - 最大熵模型中的数学推导] | |||
[[分类:机器学习]] | [[分类:机器学习]] |
2021年7月14日 (三) 14:55的最新版本
信息熵(information entropy),也称香农熵(Shannon entropy)是不确定性的度量。
简介
时间轴
- 1948年,香农(C.E.Shannon)将热力学的熵,引入到信息论。
资源
论文
- A Mathematical Theory of Communication 香农(C.E.Shannon). 1948
- Communication Theory of Secrecy Systems 香农(C.E.Shannon). 1949
书籍
- 《The Mathematical Theory of Communication》 香农(C.E.Shannon)/ Warren Weaver 1949
- 《通信的数学理论》 香农(C.E.Shannon)/ Warren Weaver 著 贾洪峰 译