信源剩餘度

信源剩餘度(redundancy of source)信息理論的基本概念之一信源的剩餘度等於1減去熵的相對率，即

γ= 1一H∞/H0，H∞是信源的實際熵(極限熵)；H0是最大熵

由此式可見，信源符號之間依賴關係越大，實際熵越小，信源的剩餘度就越大.從提高傳輸信息效率的觀點出發，總是希望減少或去掉信源的剩餘度.但從減少干擾的影響觀點出發，信源的剩餘度越大，消息抗干擾能力越強. ^[1] 

信源剩餘度的大小能夠很好地反映離散信源輸出的符號序列中符號之間依賴關係的強弱。剩餘的剩餘度γ越大，表示信源的實際熵H∞越小，所以我們定義的剩餘度γ可以用來衡量信源輸出的符號序列中各符號之間的依賴程度。