信息論基礎

楊孝先等的《信息論基礎》基於編者在中國科學技術大學多年的教學經驗編寫而成，其內容包括概述，信息的度量與熵，隨機過程的信息量與熵率、漸近等分性質，信源編碼，通信信道與信道容量，信息幾何學等6章。每章都配備了足夠多的例題與習題，書末還附有習題的提示和答案。 《信息論基礎》具有少而精、將主要問題講深講透而非面面俱到、由淺入深、便於自學等特點，可供高等院校應用數學專業，統計專業以及與計算機有關的信息學院、管理學院等一些專業作為學習“信息論”的教材或參考書。 ^[1] 

“信息論基礎”是中國科學技術大學數學系、少年班與零零班應用數學專業開設的一門選修課.參閲T. Cover等著的經典文獻，總結編者的教學成果，我們編寫了《信息論基礎》講義.該講義自2002年的1999級開始已經有9屆學生使用，他們提供了很多寶貴的建議，並評論稱此講義對定理給予的證明，包括種種算法，有很多技巧，其中一些是非常巧妙而有趣的，因此很享受這個學習的過程.本次成書即以此講義為藍本編寫而成，並進行了較大幅度的修訂和充實。

本書配備了較多的例題與習題.書末還附有習題的提示與答案，供讀者參考。

本書基於編者在中國科學技術大學多年的教學經驗編寫而成，其內容包括概述，信息的度量與熵，隨機過程的信息量與熵率、漸近等分性質，信源編碼，通信信道與信道容量，信息幾何學等6章.每章都配備了足夠多的例題與習題，書末還附有習題的提示和答案。

本書具有少而精、將主要問題講深講透而非面面俱到、由淺入深、便於自學等特點，可供高等院校應用數學專業，統計專業以及與計算機有關的信息學院、管理學院等一些專業作為學習“信息論”的教材或參考書。

本書除了介紹Shannon信息論的基本概念、基本分析方法與主要結論之外，還注意到了與後續的另一門選修課——“數學控制論”的聯繫。 ^[1] 

總序

前言

第1章　概論

第2章　信息的度量與熵

第3章　隨機過程的信息量與熵率

第4章　信源編碼

第5章　通信信道與信道容量

第6章　信息幾何學

習題提示與答案

參考文獻 ^[1]