模式識別

模式識別是人工智能的重要分支，其理論建立在矩陣論、概率論與數理統計等基礎知識之上，其技術在人機交互、自動駕駛工業製造、醫學工程，以及基因技術等方面部發揮着重要作用，具有典型的理論性與實踐性緊密結合的特點。 ^[2] 

《模式識別》涵蓋統計決策論、線性分類器、概率密度函數估計等基礎知識點，注重公式推導，同時將經典算法與前沿技術應用結合起來進行介紹。 ^[2] 

《模式識別》全書內容共分為13章：緒論、模板匹配、基於統計決策的概率分類方法線性判別函數、非線性鑑別函數、特徵選擇與特徵提取、統計學習理論及SVM、聚類分析、模糊模式識別法、句法模式識別、人工神經網絡、深度學習，以及深度學習在生物特徵識別領域的應用。 ^[2] 

《模式識別》內容系統凜例豐富、闡述翔實，適合作為高等院校自動化類、計算機類、人工智能類等專業本科生、研究生的教材和教學參考書，也可作為高等院校各專業通識教育的教學用書。同時，《模式識別》還可供相關領域的科研人員、工程技術人員和管理人員參考閲讀。 ^[2] 

第1章 緒論

1.1 模式和模式識別的概念

1.2 模式識別系統

1.3 模式識別的基本方法

1.3.1 有監督與無監督學習

1.3.2 有監督模式識別方法分類

1.4 關於模式識別的一些基本問題

1.5 關於本書的內容安排

第2章 模板匹配

2.1 模板匹配介紹

2.1.1 模板匹配基本概念

2.1.2 應用舉例

2.1.3 相似度度量

2.1.4 分類準則

2.1.5 困難和問題

2.2 變形模板匹配

2.2.1 變形模板基本概念

2.2.2 彈性匹配

2.2.3 變形模板應用

第3章 基於統計決策的概率分類方法

3.1 相關概率基礎

3.2 貝葉斯決策

3.2.1 最小錯誤率貝葉斯決策

3.2.2 最小風險貝葉斯決策

3.3 錯誤率

3.3.1 錯誤率的概念

3.3.2 錯誤率分析

3.3.3 錯誤率的估計

3.4 聶曼– 皮爾遜決策

3.5 概率密度函數的參數估計

3.5.1 最大似然估計

3.5.2 貝葉斯估計與貝葉斯學習

3.5.3 正態分佈密度函數的貝葉斯估計

3.5.4 高斯混合模型與期望最大化算法

3.6 概率密度函數的非參數估計

3.6.1 非參數估計的基本原理和直方圖方法

3.6.2 kN 近鄰估計方法

3.6.3 Parzen 窗法

第4章 線性判別函數

4.1 判別函數

4.1.1 判別函數的定義

4.1.2 判別函數的確定

4.2 線性判別函數

4.2.1 二分類問題的線性判別函數

4.2.2 多分類問題的線性判別函數

4.3 廣義線性判別函數

4.3.1 二次判別函數

4.3.2 廣義線性判別函數

4.3.3 廣義線性判別函數的維數災難問題

4.4 線性判別函數的幾何性質

4.4.1 二分類問題的線性判別函數的幾何性質

4.4.2 多分類問題的線性判別函數的幾何性質

4.5 感知器算法

4.5.1 神經元與感知器

4.5.2 感知器算法描述

4.6 梯度法

4.6.1 梯度下降法

4.6.2 隨機梯度下降法最小化感知器損失函數

4.7 最小平方誤差算法

第5章 非線性鑑別函數

5.1 多類情況

5.1.1 處理多類情況的常見方法

5.1.2 線性機實例

5.2 決策樹

5.2.1 樹和決策樹定義

5.2.2 二叉樹分類樹

5.2.3 一般分類樹

5.2.4 決策樹的特點

5.2.5 隨機森林

5.3 分段線性鑑別函數

5.3.1 基於距離的分段線性鑑別函數

5.3.2 一般的分段線性鑑別函數

5.4 最近鄰規則

5.4.1 樣本距離的衡量

5.4.2 k 近鄰規則

5.4.3 近鄰規則的快速算法

5.5 子空間模式識別

5.5.1 基本思想

5.5.2 線性變換方法——主成分分析

5.5.3 非線性變換方法——核主成分分析

5.5.4 基本分類規則

第6章 特徵選擇與特徵提取

6.1 基本概念

6.2 類別可分性測度

6.3 特徵選擇

6.3.1 遺傳算法

6.3.2 模擬退火算法

6.4 特徵歸一化

6.5 基於K-L 變換的特徵提取

6.5.1 基於類內散度矩陣的單類模式特徵提取

6.5.2 基於K-L 變換的多類模式特徵提取

6.6 其他子空間特徵提取方法

6.6.1 獨立成分分析

6.6.2 線性判別分析

6.6.3 核方法

6.7 特徵提取的相關應用

第7章 統計學習理論及SVM

7.1 統計學習理論

7.1.1 經驗風險最小化原則

7.1.2 學習一致性及條件

7.1.3 函數的學習性能與VC維

7.1.4 推廣性的界

7.1.5 結構風險最小化原則

7.2 支持向量機(SVM)

7.2.1 SVM 基礎

7.2.2 線性可分下的SVM

7.2.3 核函數

7.2.4 SVM 討論

7.3 支持向量迴歸(SVR)

7.3.1 線性迴歸

7.3.2 SVR 原理

7.4 討論

第8章 聚類分析

8.1 無監督學習的基本概念

8.1.1 基本思想

8.1.2 聚類分析定義

8.1.3 聚類分析流程與應用

8.2 相似性/距離概念

8.2.1 常見距離度量

8.2.2 距離度量的不變性分析

8.2.3 常見相似性度量

8.3 聚類準則

8.3.1 最小誤差平方和準則

8.3.2 相關最小方差準則

8.3.3 散度準則

8.4 簡單聚類算法

8.4.1 最小距離聚類算法

8.4.2 最遠距離聚類算法

8.4.3 最大最小距離聚類算法

8.5 層次聚類法

8.5.1 層次聚類的定義

8.5.2 基於合併的層次聚類

8.5.3 逐步優化的層次聚類

8.5.4 層次聚類的評估

8.6 動態聚類法

8.6.1 K 均值聚類

8.6.2 ISODATA 算法

8.6.3 核聚類

8.7 基於密度峯值聚類算法

8.8 聚類結果的評價

8.9 聚類算法的應用

第9章 模糊模式識別法

9.1 隸屬度函數

9.1.1 背景介紹

9.1.2 隸屬度函數

9.1.3 模糊子集

9.1.4 模糊集基本操作

9.2 模糊特徵和模糊分類

9.2.1 模糊化的特徵

9.2.2 分類結果的模糊化

9.3 特徵的模糊評估

9.3.1 模糊距離

9.3.2 模糊集的模糊度

9.3.3 模糊集的熵模糊度

9.3.4 模糊集的π 度

9.4 模糊K 均值聚類

9.4.1 模糊K 均值聚類算法

9.4.2 改進算法

9.5 模糊k 近鄰分類器

9.6 本章 小結

第10章 句法模式識別

10.1 句法模式識別概述

10.2 形式語言的基本概念

10.2.1 基本定義

10.2.2 文法分類

10.3 模式的描述方法

10.3.1 基元的選擇

10.3.2 鏈描述法

10.3.3 樹描述法

10.3.4 擴展樹文法

10.4 文法推斷

10.4.1 餘碼文法的推斷

10.4.2 擴展樹文法推斷

10.5 句法分析

10.5.1 參考匹配法

10.5.2 填充樹圖法

10.5.3 CYK 分析法

10.5.4 厄利分析法

10.6 句法結構的自動機識別

10.6.1 有限態自動機和正則文法

10.6.2 下推自動機與上下文無關文法

10.7 串匹配

10.7.1 暴力匹配法

10.7.2 模式記憶法

10.7.3 BM 算法

10.8 圖匹配

10.8.1 最大流法

10.8.2 匈牙利算法

10.9 隱馬爾可夫模型

10.10 條件隨機場

10.10.1 馬爾可夫隨機場

10.10.2 條件隨機場

10.10.3 條件隨機場的學習算法

10.11 句法模式識別的應用

第11章 人工神經網絡

11.1 神經網絡介紹

11.2 前饋操作和分類

11.2.1 三層神經網絡

11.2.2 通用前饋操作

11.2.3 多層神經網絡的表達能力

11.3 後向傳播算法

11.3.1 神經網絡學習

11.3.2 訓練方法

11.3.3 學習曲線

11.4 錯誤平面

11.5 特徵映射

11.6 Bayes 理論和概率

11.7 後向傳播的實用技巧

11.7.1 激活函數

11.7.2 sigmoid 參數

11.7.3 輸入數據的尺度變換

11.7.4 目標值

11.7.5 帶噪聲的訓練

11.7.6 製造數據

11.7.7 隱層單元數目

11.7.8 初始化權值

11.7.9 學習率

11.7.10 動量

11.7.11 權值衰減

11.7.12 帶暗示的學習

11.7.13 訓練策略

11.7.14 訓練停止

11.7.15 隱層數目

11.7.16 評價函數

11.8 RBF 網絡

11.9 遞歸網絡

11.10 級聯網絡

11.11 神經網絡的應用

11.11.1 環境科學與工程

11.11.2 地下水文預測

第12章 深度學習

12.1 引言

12.2 深度堆棧自編碼網絡

12.3 深度卷積網絡

12.3.1 卷積與神經網絡

12.3.2 卷積神經網絡中的卷積

12.3.3 池化

12.3.4 常見的卷積神經網絡結構

12.4 深度生成網絡

12.4.1 生成對抗網絡

12.4.2 GAN 的應用

12.5 深度學習平台

12.5.1 Caffe 平台

12.5.2 TensorFlow 平台

12.5.3 Keras 平台

12.5.4 PyTorch 平台

12.5.5 PAI 平台

12.6 深度學習與非深度學習方法結合

第13章 模式識別在生物特徵識別中的應用

13.1 人臉識別

13.1.1 人臉識別發展歷史

13.1.2 人臉識別主要方法

13.1.3 人臉識別應用

13.2 指紋識別

13.2.1 指紋識別發展歷史

13.2.2 指紋識別主要方法

13.2.3 指紋識別應用

13.3 虹膜識別

13.3.1 虹膜識別發展歷史

13.3.2 虹膜識別主要方法

13.3.3 虹膜識別應用

13.4 其他生物特徵識別

13.4.1 聲音識別

13.4.2 步態識別

13.4.3 靜脈識別

13.4.4 掌紋識別

13.5 生物特徵識別訓練平台

參考文獻 ^[1] 

周杰，博士，清華大學教授/博導，國家傑出青年科學基金獲得者。清華大學研究生院院長，兼任教育部高等學校自動化類專業教學指導委員會主任委員，國際模式識別學會會士，IEEET-PAMI編委，《模式識別與人工智能》副主編，中國人工智能學會模式識別專委會主任。曾獲得國家技術發明獎二等獎（排名第1）、中國電子學會電子信息科學技術獎一等獎（排名第1）等獎勵。致力於模式識別、計算機視覺、人工智能等領域的教學和科研工作。 ^[2] 

郭振華，博士，天翼交通科技有限公司車路協同首席科學家。曾獲得國家技術發明二等獎、教育部自然科學二等獎、深圳市青年科技獎、愛思唯爾中國高被引學者、斯坦福全球前2%科學家等獎勵。致力於模式識別、計算機視覺、推薦系統等領域科研工作。 ^[2] 

張林，博士，同濟大學教授。上海市曙光學者，中國計算機學會傳播大使，中國計算機學會（CCF）傑出會員。國際期刊IEEE Robotics and Automation Letters、Journal of Visual Communication and Image Representation編委（Associate Editor）。曾獲得上海市科技進步一等獎、愛思唯爾中國高被引學者等獎勵。致力於模式識別、計算機視覺、人工智能等領域的教學和科研工作。 ^[2]