資訊的度量- Information Entropy @ 凝視、散記:: 隨意窩Xuite日誌
文章推薦指數： 80 %
【散點透視】APersonalCasualNotesconsistofScatteredPerspectivesforLearning,ThinkingandPractices
201305282355資訊的度量-InformationEntropy?本文整理淺介「機率、訊息、熵」三者間的相關的概念。
我們想釐清的的問題是：如何度量一個事件的「訊息量」？ “X國(有32隊進入決賽)是本屆世界盃冠軍”這資訊的信息量？ 觀看電視的一個畫面,得到多少訊息？一本五十萬字的中文書平均有多少信息量？
當我們觀測到或聽到一個事件發生時，就得到了一些
