跳到主要内容

模式识别

模式识别学习笔记

统计模式识别课程内容整理

课程覆盖统计模式识别的基础内容，并延伸到部分非传统和较新的主题。

监督学习非监督学习进阶主题
课程大纲

课程内容

课程以统计模式识别为基础，并按监督学习、非监督学习和进阶主题三个层次展开。

监督学习

01

监督学习基础

从统计判决理论出发，覆盖分类器设计、参数估计、非参数方法、降维与典型判别模型。

  1. 贝叶斯分类器与最小风险分类器
  2. 判别函数，以及在正态混合分类中的应用
  3. 参数估计：最大似然估计、贝叶斯估计、递归贝叶斯
  4. 非参数方法：Parzen 窗与 k 近邻
  5. 近邻分类器与贝叶斯方法的关系
  6. 降维：Fisher 线性判别
  7. 线性判别函数及其容量
  8. 神经网络：感知机、多层感知机、前馈和循环网络、训练过程
  9. 支持向量机

非监督学习

02

非监督学习设置

围绕聚类、混合模型估计、贝叶斯估计与线性/非线性降维组织课程内容。

  1. 聚类：准则、ISODATA、k 均值、模糊聚类、确定性退火与聚类有效性
  2. 混合模型参数的最大似然估计
  3. 贝叶斯估计
  4. 降维：Karhunen-Loeve 变换与 Kohonen 自组织

进阶主题

03

进阶与近期主题

根据时间与兴趣延伸到深度学习、概率图模型、序列模型以及泛化理论。

  1. 深度学习与神经网络的重新兴起
  2. 贝叶斯网络
  3. 隐马尔可夫模型
  4. 泛化、VC 维，以及支持向量机回顾
  5. 其他拓展主题
阅读材料

参考书

课程大纲列出的相关教材。

01

Pattern Recognition

Sergios Theodoridis and Konstantinos Koutroumbas

4th Edition, Academic Press, 2009. Earlier editions are also fine.

02

Pattern Classification

Richard O. Duda, Peter E. Hart and David G. Stork

Wiley-Interscience, 2000.