(46)--第一章 绪论模式识别.pdf

《(46)--第一章 绪论模式识别.pdf》由会员分享，可在线阅读，更多相关《(46)--第一章 绪论模式识别.pdf（32页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、1.模式与模式识别模式与模式识别2.模式识别的主要方法模式识别的主要方法3.模式识别模式识别系统的应用举例系统的应用举例4.模式识别系统的典型构成模式识别系统的典型构成 模式与模式识别模式与模式识别【问题的提出】儿童认数字：数字符号的识别 读书看报：文字识别 汽车、火车，狗叫、人语：声音识别 人群中寻找一个人：根据面像、形体或其他特征进行识别人类时刻在完成某种模式识别的任务。人类时刻在完成某种模式识别的任务。随着社会活动以及生产科研的发展，需要识别的对象种随着社会活动以及生产科研的发展，需要识别的对象种类越来越多，内容越来越复杂和深入，要求越来越高。类越来越多，内容越来越复杂和深入，要求越来越

2、高。为了减轻工作强度，希望计算机代替人来完成识别工作。为了减轻工作强度，希望计算机代替人来完成识别工作。每类事物都对应了一种模式每类事物都对应了一种模式，这种模式反映了对象的，这种模式反映了对象的组成成分或影响因素之间存在的规律性关系，凡是符组成成分或影响因素之间存在的规律性关系，凡是符合某种模式的对象，就被划分到该模式所对应的类别。合某种模式的对象，就被划分到该模式所对应的类别。对外界事物完成分类的过程同时也就完成了识别的过程对外界事物完成分类的过程同时也就完成了识别的过程 对外界对象的几乎所有认识都是对对外界对象的几乎所有认识都是对类别的认识。类别的认识。模式模式：指需要识别且可测量的对象

3、的描述。指需要识别且可测量的对象的描述。模式识别模式识别：利用机器（计算机）模仿人脑对现实世界各种事物利用机器（计算机）模仿人脑对现实世界各种事物进行描述、分类、判断和识别的过程。进行描述、分类、判断和识别的过程。【名词约定】这些对象与实际的应用有关，如：字符识别的模式每个字符图像 人脸识别的模式每幅人脸图像样本样本（sample）：所研究对象的一个个体。样本集样本集（sample set）：若干样本的集合。类或类别类或类别（class）：在所有样本上定义的一个子集，处于同一类的样本在我们所关心的某种性质上是不可区分的。特征特征（features）：指用于表征样本的观测。已知样本已知样本（kn

4、own samples）：指事先知道类别标号的样本。未知样本未知样本（unknown samples）：指类别标号未知但特征已知的样本。所谓模式识别的问题，就是用计算的方法根据样本的特征将样本所谓模式识别的问题，就是用计算的方法根据样本的特征将样本划分到一定的类别中去。划分到一定的类别中去。基于知识的方法基于知识的方法 (Knowledge-based)(Knowledge-based)AIAI、专家系统、专家系统(Expert Systems)(Expert Systems)句法（结构）模式识别句法（结构）模式识别 (Syntax PR or Structural PR)(Syntax PR

5、 or Structural PR)基于数据的方法基于数据的方法 (Data-based)(Data-based)统计模式识别方法统计模式识别方法（Statistical PRStatistical PR）人工神经网络人工神经网络(ANN)(ANN)支持向量机支持向量机(SVM)(SVM)【统计模式识别方法】确定样本的特征确定样本的特征收集已知样本收集已知样本训练模式识别机器训练模式识别机器对未知样本进行分类对未知样本进行分类 基于数据的模式识别方法适用于已知对象的某些特征与我们所基于数据的模式识别方法适用于已知对象的某些特征与我们所感兴趣的类别性质有关系，但无法确切描述这种关系的情况。感兴趣

6、的类别性质有关系，但无法确切描述这种关系的情况。分类和特征之间的关系可以完全确切的描述出来，采用基于知分类和特征之间的关系可以完全确切的描述出来，采用基于知识的方法可能更有效；识的方法可能更有效；若二者的关系完全随机，即不存在规律性的练习，应用模式识若二者的关系完全随机，即不存在规律性的练习，应用模式识别也无法得到有意义的结果。别也无法得到有意义的结果。【模式识别的研究范畴】监督监督模式识别模式识别 已知类别已知类别，并且能够获得类别已知的训练样本，这种情况，并且能够获得类别已知的训练样本，这种情况下建立分类器的问题属于监督学习问题，称为监督模式识别。下建立分类器的问题属于监督学习问题，称为监

7、督模式识别。非监督非监督模式识别模式识别 事先并事先并不知道类别不知道类别，更，更没有类别已知的样本没有类别已知的样本，根据样本特，根据样本特征将样本聚成几个类，使属于征将样本聚成几个类，使属于同一类的样本同一类的样本在一定意义上是在一定意义上是相似相似的，而不同类别之间的样本有较大差异。这种学习过程的，而不同类别之间的样本有较大差异。这种学习过程称作非监督模式识别称作非监督模式识别【监督模式识别与非监督模式识别】数据采集数据采集【实例（一）】预处理预处理 特征提取（特征提取（feature extractionfeature extraction）：）：待分对象鲑鱼和鲈鱼确实存在一些差异，利

8、用类别之间的这待分对象鲑鱼和鲈鱼确实存在一些差异，利用类别之间的这些差异来分类。些差异来分类。宽度、长度、光泽度、鳍的数量和形状、嘴的位置？宽度、长度、光泽度、鳍的数量和形状、嘴的位置？分类判别（分类判别（classificationclassification）单一特征单一特征先验知识：鲈鱼一般比鲑鱼长。因此可以选择长度为分类特先验知识：鲈鱼一般比鲑鱼长。因此可以选择长度为分类特征；长度征；长度l l超过预定阈值超过预定阈值l l*时判定为鲈鱼，否则判定为鲑鱼。时判定为鲈鱼，否则判定为鲑鱼。如何获得长度阈值如何获得长度阈值l l*呢？（预定）呢？（预定）利用特征直方图获得长度阈值利用特征直方

9、图获得长度阈值l l*直方图表明：无论怎样确定长度阈值直方图表明：无论怎样确定长度阈值l l*，都不能将两类鱼，都不能将两类鱼截然分开，分类错误比较严重。截然分开，分类错误比较严重。尝试利用其他特征：鱼的光泽度，用尝试利用其他特征：鱼的光泽度，用x x表示。表示。20 利用多个特征进行分类利用多个特征进行分类形成特征空间形成特征空间：以每个特征为坐标轴形成的空间。：以每个特征为坐标轴形成的空间。特征特征的个数，的个数，就是就是特征空间的维数特征空间的维数。特征向量特征向量：特征空间中的一个点。：特征空间中的一个点。分类器设计分类器设计：要找到一个判定边界：要找到一个判定边界两类问题两类问题判定

10、线判定线判定线把特征空间分为判定线把特征空间分为两个区域，识别时特征两个区域，识别时特征向量落在那个区域就判向量落在那个区域就判定为相应类别。定为相应类别。分类器的推广能力：即分类器对分类器的推广能力：即分类器对未知模式未知模式的正确分类的能力的正确分类的能力复杂的分类算法导致复杂复杂的分类算法导致复杂的判定边界。判决曲线被的判定边界。判决曲线被过分调谐到这些训练样本过分调谐到这些训练样本上，其推广能力却很差。上，其推广能力却很差。简化分类器设计方案简化分类器设计方案 1919名男女同学进行体检，测量了身高和体重，但事后发现其中有名男女同学进行体检，测量了身高和体重，但事后发现其中有4 4人忘

11、记人忘记填写性别，试问（在最小错误的条件下）这填写性别，试问（在最小错误的条件下）这4 4人是男是女？体检数值如下：人是男是女？体检数值如下：待识别的模式：性别（男或女）待识别的模式：性别（男或女）测量的特征：身高和体重测量的特征：身高和体重 训练样本：训练样本：1515名已知性别的样本特征名已知性别的样本特征【实例（二）】目标：希望借助于训练样本的特征建立判别函数（即数学模型）目标：希望借助于训练样本的特征建立判别函数（即数学模型）求取一个判别函数求取一个判别函数（直线或曲线）。（直线或曲线）。只要给出待分类的模只要给出待分类的模式特征的数值，看它式特征的数值，看它在特征平面上落在判在特征平

12、面上落在判别函数的哪一侧，就别函数的哪一侧，就可以判别是男还是女可以判别是男还是女了。了。由训练样本得到的特征空间分布图：由训练样本得到的特征空间分布图：有已知样本情况：监督模式识别有已知样本情况：监督模式识别(supervised PR)(supervised PR)一个模式识别系统通常包括一个模式识别系统通常包括原始数据的获取原始数据的获取和和预处理预处理、特征提取与选择、分类或聚类、后处理特征提取与选择、分类或聚类、后处理四个主要部分。四个主要部分。处理监督模式识别问题的一般步骤：处理监督模式识别问题的一般步骤：分析问题分析问题原始特征获取原始特征获取特征提取与选择特征提取与选择分类器设

13、计分类器设计无已知样本情况：非监督模式识别无已知样本情况：非监督模式识别(unsupervised PR)(unsupervised PR)处理非监督模式识别问题的一般步骤：处理非监督模式识别问题的一般步骤：分析问题分析问题原始特征获取原始特征获取特征提取与选择特征提取与选择聚类分析聚类分析结果解释结果解释 监督模式识别和非监督模式识别的区别监督模式识别和非监督模式识别的区别-训练样本训练样本。监督模式识别需要训练数据，根据训练样本监督模式识别需要训练数据，根据训练样本设计分类器；设计分类器；而非监督模式识别则不需要训练数据，是根据而非监督模式识别则不需要训练数据，是根据样本的相似性来进行分类

14、的。样本的相似性来进行分类的。特征提取与选择、分类器设计和聚类分析，以及分类特征提取与选择、分类器设计和聚类分析，以及分类器和聚类结果的性能评价方法器和聚类结果的性能评价方法等是各种模式识别系统中等是各种模式识别系统中具有共性的步骤，是整个系统的核心，也是模式识别学具有共性的步骤，是整个系统的核心，也是模式识别学科研究的主要内容。科研究的主要内容。模式识别的基本概念模式识别的基本概念 模式模式 模式识别模式识别 模式识别的分类方法模式识别的分类方法 基于知识的方法基于知识的方法 基于数据的方法基于数据的方法 监督模式识别监督模式识别 非监督模式识别非监督模式识别 模式识别系统的经典组成模式识别系统的经典组成 本章结束本章结束