信息理論基礎

《信息理論基礎（第5版）》系統介紹和論述了經典信息論的基本理論，覆蓋了信息論的主要內容。全書共11章，內容包括信息的統計度量；離散信源和連續信源；離散信道和連續信道及其信道容量；信源編碼與信道編碼；信源與信宿之間的平均失真度以及信息率失真函數；網絡信息論基礎；信息論方法在信號處理中的應用，每章後面都配有習題。

《信息理論基礎（第5版）》深入淺出，表述簡潔；概念清晰，系統性強，可讀性好，可作為高等院校信息與通信工程、電子信息工程、光電信息科學與工程、電子科學與技術、雷達、導航技術、電子對抗技術、計算機科學與技術等相關專業的本科生、研究生的信息論課程的教材或教學參考書。亦可供從事系統科學、管理科學、生物工程、交通運輸工程等有關的科學工作者和工程技術人員參考。

第1章 緒論

1．1 信息

1．2 通信系統模型

1．3 信息論的形成和發展

習題1

第2章 信息的統計度量

2．1 自信息量和條件自信息量

2．1．1 自信息量

2．1．2 條件自信息量

2．2 互信息量和條件互信息量

2．2．1 互信息量

2．2．2 互信息量的性質

2．2．3 條件互信息量

2．3 離散集的平均自信息量

2．3．1 平均自信息量（熵）

2．3．2 熵函數的數學特性

2．3．3 條件熵

2．3．4 聯合熵

2．3．5 各種熵的性質

2．3．6 加權熵

2．4 離散集的平均互信息量

2．4．1 平均條件互信息量

2．4．2 平均互信息量

2．4．3 平均互信息量的性質

2．5 連續隨機變量的互信息和相對熵

2．5．1 連續隨機變量的互信息

2．5．2 連續隨機變量的熵

習題2

第3章 離散信源

3．1 信源的數學模型及其分類

3．1．1 信源的數學模型

3．1．2 信源的分類

3．2 離散無記憶信源

3．3 離散無記憶信源的擴展信源

3．3．1 最簡單的離散信源

3．3．2 N次擴展信源

3．3．3 N次擴展信源的熵

3．4 離散平穩信源

3．4．1 平穩信源

3．4．2 平穩信源的熵

3．4．3 極限熵

3．5 馬爾可夫信源

3．5．1 有限狀態馬爾可夫鏈

3．5．2 馬爾可夫信源

3．6 信源的相關性和剩餘度

習題3

第4章 離散信道及其容量

4．1 信道的數學模型及其分類

4．2 離散無記憶信道

4．2．1 離散信道的數學模型

4．2．2 單符號離散信道

4．2．3 信道疑義度

4．2．4 平均互信息

4．2．5 各種熵、信道疑義度及平均互信息量之間的相互關係

4．3 離散無記憶擴展信道

4．3．1 N次擴展信道

4．3．2 定理

4．4 信道的組合

4．5 信道容量

4．5．1 信道容量的定義

4．5．2 離散無噪信道

4．5．3 離散對稱信道

4．5．4 一般離散信道

4．5．5 離散無記憶N次擴展信道

4．5．6 獨立並聯信道

4．5．7 信源和信道匹配

習題4

第5章 無失真信源編碼

第6章 有噪信道編碼

第7章 限失真信源編碼

第8章 連續信源和波形信道

第9章 糾錯編碼

第10章 網絡信息論基礎

第11章 信息論方法在信號處理中的應用

參考書目和文獻

周蔭清，1936年4月生，湖南湘潭人，漢族，中共黨員。1958年畢業於北京航空學院，現為北京航空航天大學教授、博士生導師。任北京航空航天大學第三、四屆學術委員會委員，中國電子學會會士，中國宇航學會《宇航學報》常務編委，《雷達學報》顧問。獲國務院政府特殊津貼。長期從事信號統計檢測與估計、多維度信息融合、微波遙感雷達成像等方面的教學與科研工作。

曾為本科生、博士研究生講授“隨機過程理論”“信息論”“檢測與估計”等多門課程。出版編、譯著作10餘種，其中《隨機過程理論》《信息理論基礎》被評為“普通高等教育‘十一五’國家級規劃教材”；《信息理論基礎》還被評為“北京市高等教育精品教材”；《信息理論基礎（第4版）》被評為“普通高等教育‘十二五’國家級規劃教材”。曾獲北京航空航天大學教學成果一等獎和“華為獎教金”特等獎。榮獲北京市2004年度教育教學成果二等獎。被評為“北京市優秀教師”。

主持和承擔國家自然科學基金、國家863計劃、973計劃等科研課題。獲部級科技進步獎一等獎1項、二等獎3項。發表學術論文100餘篇。獲北京航空航天大學2000——2004年“科技工作突出貢獻獎”。