模式识别方法及其比较分析.pdf

《模式识别方法及其比较分析.pdf》由会员分享，可在线阅读，更多相关《模式识别方法及其比较分析.pdf（4页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、第 1 4卷第 3期 2 0 0 4年 9月 信 阳农 业高等专科学校学报 J o u r n a l o f X i n y a n g Ag r i c u l t u r a l C o l l e g e V0 1 1 4 No 3 S e p 2 0 0 4 综 述 模 式识别 方法及其 比较分析 赵喜林，赵喜玲。，江祥奎。(1 北京大学，北京 1 0 0 8 7 1，2 信阳市商业学校，河南 信阳 4 6 4 0 0 0，3 信阳师范学院 河南 信 阳 4 6 4 0 0 0)摘 要：在分析模式识别基本概念的基础上，概述了模式识别中的五种基本方法，并对各种方法进行了分析和 比较。关

2、 键词：模式识别，模式识别方法，统计模式识别，句法模式识别，模糊模式识别 中 图分类 号：T P 1 8 文献标识码：A 文章编 号：1 0 0 8 4 9 1 6(2 0 0 4)0 3 0 0 3 7 0 4 T h e b a s i c me t h o d s i n p a t t e r n r e c o g n i t i o n a n d t h e a n a l y s i s a n d c o mp a r i o n o f t h e m Z HA0 Xi l i n ，ZHA0 Xi-l i n g。，J I ANG Xi a n g-ku i。(1 B e

3、 i j i n g Un i v e r s i t y，B e i j i n g 1 0 0 8 7 1，C h i n a，2 Xi n y a n g C o mme r c i a l S c h o o l，Xi n y a n g 4 6 4 0 0 0，Ch aj 3 X ny a n g No r mal Un i v e r s i t y，Xi n y a n g 4 6 4 0 0 0，Ch i n a)Abs t r a c t：Ba s e d o n t he a n a l y s i s o f t h e f u n d a me n t a l c o

4、n c e p t s o f p a t t e r n r e c o g nit i o n，t h e p a p e r o u t cri e s f i v e b a s i c me t h o d s i n p a t t e r n r e c o g n i t i o n g e n e r all y，a n a l y z e s t h e m an d c o mp a r e s t he m Ke y wor ds：p a t t e r n r e c o g nit i o n，p a t t e r n r e c o g n i t i o n

5、me t h o d j s t a t i s t i c a l p a t t e r n r e c o g nit i o n j s y nt a x p a t t e r n r e c o g n i t i o n，f u z z y p a t t e r n r e c o g n i t i o n j 模 式识别是 一种借助计算 机对 信息进行处 理、判 别 的分类 过程。判决分类 在科 学研究和生产实践 中的 应 用是相 当广泛 的，但往往 因所需处理 的影 响因子过 多，过 于复杂，给 问题 的研究和解决增加 了困难。多 因 子 问题 的 目标(结果 或性 能)

6、与影 响 因子 之 间难 以找 出直 接 的联 系，或是 很难 直接 用理 论 的途 径解决，在 各 因子 之间一 时也 找不到 明显 的关联。计算机模式识 别 的引入 给复杂 问题 的解决带来 了曙光。模式识别使 得人们 在 影响 因素很 多 的情 况 下仍能对 众 多信息进 行方便 的处理，利 用计算 机技 术对 数据 进行 总结，寻 找 目标 与 众 多因子 之间 的某种联 系或 目标 的优化 区 域、优 化方 向，对 实 际问题 的解决 具有 指导意 义和应 用价值，因此 获得广泛应 用，并取得 较大成功。1 模式识别的基本方法 模 式识别 方 法(P a t t e r n Re c

7、 o g n i t i o n Me t h o d)是 一种借 助于计算机对 信息进行处 理、判决分类 的数学 统计方法 1 。应用模式识别 方法的首要步骤是建立 模式空 间。所谓模式空 间是 指在考察 一客观现象 时，影响 目标 的 众多指标构成 的多维空 间。每个指标 代表一个模式参 量。假设一现象有几个 事件(样本)组成，每一个事 件 都有 P个特征参量(X，X X)，则 它就构成 P维 模式空 间，每一个 事件 的特征参量 代表一个模式。模 式识 别就是对 多维空 间 中各 种模式 的分 布特 点进行 分 析，对模 式空 间进 行划 分，识 别各 种模式 的聚类 情 况，从而做 出

8、判断或决策。分析方 法就利用 映射”和 逆映射”技术。映射是指将 多维模 式空间进行数学 变 换 到二维平 面，多维空 间的所有模 式(样本 点)都投 影 在该平 面内。在二维平 面 内，不 同类别 的模式分 布在 不 同的区域 之间有较明显的分界域。由此确定优 化方 向返 回到 多维空 间(原始 空 间)，得 出真实 信息，帮 助 人 们 找 出规 律 或做 出 决策，指 导 实 际工作 或 实 验 研 究。针对不 同的对 象和不同的 目的，可 以用不 同的模 式识别理论、方法，目前主流的技术方法是：统计模式 收 稿 日期：2 0 0 4 0 6 2 0 作 者简 介：赵 喜 林(1 9 6

9、 8 一)，男，河 南郑 州人，北京 大学 政府 管理 学 院硕 士研究 生 维普资讯 http:/ 3 8 信 阳农 业高等 专科 学校 学报 第 1 4卷 识 别、句 法模 式识 别、模 糊模 式识 别、神 经 网络 法、逻 辑 推 理法。1 1 统计 模式识 别 统计模 式识别方 法也称为决 策论 模式识别方法，它是从 被研究 的模式 中选择 能 足够代 表 它 的若 干特 征(设有 d个)，每一个模 式都 由这 d个 特征组成 的在 d维 特征空 间 的一个 d维特征 向量来代 表，于是每一 个 模式 就在 d维特征 空间 占有一个 位置。一个合理 的 假设是 同类 的模 式在特征 空

10、间相距 较近，而不 同类 的 模式 在特征空 间则相距较 远。如果用某种方法来 分割 特征空 间，使 得 同一类 模式大体 上都在特征空 间的 同 一个 区域 中，对 于待分 类 的模 式，就可 根 据它 的特 征 向量位 于特征 空 间 中的哪一 个 区域而 判定 它属于 哪 一类 模式。这类识 别技术 理论 比较完 善。方法也很 多，通常 较 为有效，现 已形成 了完 整 的体系。尽管方法很 多，但 从 根本 上讲，都是 直接 利用 各类 的分 布特征，即利用 各类 的概率分 布函数、后 验概率或 隐含地利用上述概 念进行 分类识别。其 中基本 的技术为 聚类分析、判别 类域 界面法、统计

11、判 决等。1 1 1 聚 类分 析在聚类 分 析 中，利 用待分类 模 式 之 间 的“相 似性”进行 分类，更 相 似 的作 为一类，更 不 相 似 的作为 另外一类。在分类 过程 中不 断地计算所 分 划 的各类 的 中心，下一个 待分类模式 以其与各类 中心 的距离作 为分类 的准则。聚类 准则 的确定，基本上有 两 种方式。一种是试 探方式。凭 直观和经验，针对实 际问题定 义一种相 似性测度 的阈值，然后按最近邻规 则 指定某 些模式样 本属于某 一聚类类另 0。例如欧 氏距 离 测 度，它反 映样 本 间 的近邻性，但 将 一个样本 分 到 两 个类 别 中的一个 时，必须规定一

12、距离测度 的阈值作 为聚类 的判别 准则，按 最近邻 规则 的简单试探法和 最 大最 小聚类算法 就是采 用这种方式。另一种是 聚类 准 则 函数法。定 一种 准则 函数，其 函数值与样 品的划分 有关。当取得 极小值 时，就认 为得到 了最佳 划分。实 际工 作 中采 用得最 多的聚类方法 之一是系统聚类法。它将 模 式样本 按距 离 准则 逐步 聚类，类 别 由多到少，直 到合适 的分 类要求 为止。1 1 2 判 别 类域 界 面法判 别类 域界 面法 中，用 已 知类 别 的训 练样本产 生判别 函数，这 相当于学习或训 练。根 据待分类 模式代人 判别 函数后所 得值 的正负而 确

13、定其 类 别。判 别 函数提 供 了相邻 两类 判决域 的界 面，最 简单、最实用 的判别 函数 是线性判别 函数。线性 判别 函数 的一 般表 达为下述矩 阵式：d(x)一w(x)+w+l 式 中，wo 一(wl，w2，w)，称 为权 向量，x 一(x l，X 2，X )为 12 维特征向量 的样本，w +。为阈值权。d(x)判别 函数是 1 2 维 特征空 间 中某个 X点到 超平 面 的距 离。若 以 X 表示 X到超平 面 H 的投影 向量；r 为 到超 平面 H 的垂直距离；Il w。Il 为权 向量 w。的绝对值；w。Il w。I l 为 w。方 向上 的单 位 向量，则 有 x

14、x +7 d(x)一w1 0(x，+7 )+wn+l 7 ll wo l l 利用线 性判别 函数 进行 决策 就是 用一 个超 平面 对特征 空间进行分 割。超平面 H 的方 向 由权 向量决 定，而位置 由阈值权 的数 值确 定，H 把 特 征空 间分 割 为两 个 决 策 区域。当 d(x)0时，X在 H 的 正 侧；d(x)V P(wj I x)，则 Xwi(i，j 一1，2，1 2；但 i j)，换 言 之，要求最 小错 误率，就是要求 P(w I x)为最大。另一 种是基于最小风 险，对于某个 X取值采取决 策所带来 的风险定义为：R(I x)一E (，w j)一 (，w j)P(

15、w i I x)，其 中(q，wj)表 示对 于某一样 品 Xwj，而采取 决 策 a i 时 的 损 失。基 于 最 小 风 险 的 贝 叶 斯 规 则 为：若 R(I x)=mi n R(I x)，则 a 一。也 就是说，对 于所 有 X取 值 的条件 风险 R(I x)，最小风 险(损失)的决 策是使 R(a；l x)取得 最小值时 的决 策。1 2 句法模式识别 句法模式识别也称 为结构模式识别。在许 多情况 下，对 于较复杂 的对象仅用一些 数值特征 已不 能较充 分地进行描述，这时可采用句 法识别技术。句 法识别 技术将对象分解为 若干个基本单元，这些基本 单元称 为 基元；用 这

16、些 基 元 以及 他们 的 结构 关 系 来 描述 对 象，基 元 以及这些基元 的结 构关系可 以用一 个字符 串 或一个 图来 表示；然后运 用形式语言理论 进行句法分 析，根据其是否符合某类 的文法而决定其 类别。一个 未 知类别 的模式字 符串，当它是属 于 L(Gt)中的一个 句 子，就应属 于 w 类。假如不属于任 何一种语 言，则 它可被拒识，即 X不被接受 为 M 类 中的任一类。3 模 糊模 式识别 在 人们 的实 际生活 中，普遍 存在 着模糊 概念，诸 如“较冷”、“暖和”、“较重”、“较轻”、“长点”、“短点”等 等都是 一些有 区别又有 联系 的无确定分 界 的概念。

17、模 糊 识别技术 运用模 糊数 学 的理 论和方 法解 决 模式识 维普资讯 http:/ 第 3期 赵 喜林，等：模 式识 别方法及其 比较分析 3 9 别 问题，因此适用 于分类识别 对象本 身或要 求的识别 结果具 有模糊 性 的场合。幻 这 类方 法的有效性 主要在 于隶 属函数是 否 良好。目前，模糊识别 方法有很多，大 致 可以分为两 种，即根据最 大隶属原则进行 识别 的直 接 法和根据择 近原则 进行归类 的间接法，分别简介 如 下：1 3 1 根据 最 大隶属 原则进行识 别 的直接 法若 已 知 个类 型 在被 识 别 的全 体对 象 U 上 的隶属 函数，则 可按隶属原

18、则进行 归类。此处介绍 的是针对正态型模 糊集 的情形。对 于正态型模 糊变量 x，其 隶属度为 A(x)一e 一 。其 中 a为均值，b 一2 ，为相应 的方差。按 泰勒级数 展开，取近似值得 A(x)一j 卜()2 X -a b 若 有 n种类 型 m 个指标 的情形，则第 i 种类 型在 第 j 种指 标上 的隶属 函数是 A(x)一 0 卜x-a(1)1 卜x-az)0 x a 5”一b a 6”一b x a 5”a 5”x a 5 a x a +b a +b Ij x 其 中 a ”和 a 6 分别是第 i 类元素第 j 种指标 的 最小值和最大值，b 5 2 一2 ，而 是第 i

19、类元素第 j 种 指标 的方差。1 3 2 根据择 近原则进行 归类 的间接 法若 有 n种 类 型(At，Az，A)，每类 都 有 m 个 指 标，且均 为正 态型模糊变量，相应的参数分别 为，a 5”，a 5，b (i 一 1，2，n；j 一1，2，m)。其中，a 5”=rai n(x )，a 5 -ma x(x )，b 5 一2 ，而 硝 是 x 的方差。待判别对 象 B的 m 个 指标 分别 具 有 参 数 a j，b j(j 一1，2，m)，且 为正态 型模糊变 量，则 B与 各个类型 的贴近度 为：(A，B)=0 a i a 5”一(b j-b )一丢()a 1)-a 5l 1 a

20、 5”a ja 5 1 一 1()a 5z)aj a 52+b)0 a 5 幻+(b j+b )a 记 S j mi n(A，B)，又 有 S i。一ma x(S i)，按 贴 近 1 j m l j 原 则可认 为 B与 A。最 贴近。1 4 神经 网络法 人 工神经 网络是 由大量 简单 的基本 单元 神 经元(n e u r o n)相互 联接而成 的非线性 动态 系统，每个 神经元结 构和功能 比较简单，而 由其 组成 的系统却 可 以非 常复 杂，具有 人 脑 的某 些 特 性，在 自学 习、自组 织、联想及容错 方面具有较强 的能力，能用于联想、识 别 和决策。在模式识别方 面，与

21、前 述方法显著不 同 的 特定 之一 是训练后 的神 经 网络 对待 识模 式特 征提 取 与分类识别 在该 网络可 以一 同完成 3 。神经 网络模 型 有 几十 种，其 中 B P(误 差反传 播算 法)网络模 型是 模 式识 别应用最广泛 的网络 之一。它利用 给定 的样本，在学习过程中不断修正内部连接权重和阈值，使实际 输 出与期望输 出在一定误差 范 围内相等。1 5 逻辑 推理法 逻辑 推理法是 对待 识客体 运 用统 计(或结 构、模 糊)识别技术，或人工 智能技术，获 得客体 的符 号性表 达 即知识 性 事实 后，运 用人 工 智 能技 术对 知识 的获 取、表达、组织、推理

22、 方法，确定 该 客体 所归 属 的模式 类(进 而使用)的方法 5 。它是一 种与统计 模式识 别、句法模 式识别 相并列(又相结 合)的基 于逻 辑推 理 的 智能模式识别方法。它主要包括知 识表示、知识推理 和知识获取三个 环节。2五种 基本 方 法 的 比较 上述 的五类 方法各有特点 及应 用范 围，它们 不能 相互取代，只能共存，相互促进、借鉴、渗透。一个 较完 善 的识 别 系统 很可 能是综合 利 用上 述各 类识别 方 法 的观点、概念和技术而形 成 的。我 们可以 以表格 的方 式，对 它们 做一 比较，见表 1。在 这五种基 本方法 中，模式识别 主要用两类 方法 来进行

23、，即统计模式识别 和句法模式 识别。当然，这两 种识 别方法 是并行 不悖 的，是可 以取 长补 短，互 相 补 充 的。统计方法发展较 早，取得 了不少应用 成果，但是 它 对模 式本 身 的结 构 关 系很 少利 用，而很 多 识 别 问 题，并不 是用简单 的分 类就 能解 决 的，往 往更 重要 的 是要 弄清楚这些模式 的结构关 系。另一方 面，单 纯 的 句法模 式识别方法没有考 虑到模式所受 到的环境、噪 声 的干扰 等不稳定 因素 的影 响。因此，把这 两种方法 结合起来，是研究模式识别问题的一个方向【。在这 方 面，提 出 了随机文法、属性 文法 等一 些新 的研究 方 向，

24、并 取得 了一定 的成果。3 结 语 目前，模式 识 别 理论 和 技 术 已成功 地 应 用 于 工 业、农业、国防、科 研、医疗 卫生、气 象、天 文等各 种领 维普资讯 http:/ 4 0 信 阳农 业高等专科 学校 学报 第 1 4卷 域。如我们 所熟知 的信件分检、指纹识别、遥感 图片的 机 器判 读、具有 视觉 的机 器人、车辆驾 驶 系统 及车 牌 车型识别 系统、生物 医学 中的细胞组织分 析以及 C,-电 图 自动 分析等。在模式识别领 域 中，现在 尚有 许多理 论 问题 和方法、技术 未能很 好地 解决，尚有许 多领 域 有 待应用。尽管现在机 器识别 的技术还远不 如

25、人脑，但随着模式识别理论及 其他相关学科 的发 展，可 以预 言，它的功能会越来越强，应用也会越 来越广泛。表 1 模式 识别 中五种基本 方法 比较 参考 文献：E 1 孙 即祥，王 晓华，钟山，等 模式 识别 中的特 征提取 与计算 机视 觉不变 量 M 北京 t 国 防工业 出版社，2 0 0 1 2 沈清，汤霖 模 式 识别 导论 M 长 沙 t 国防科 技大 学 出版社，1 9 9 1 E 3 3 李金宗 模式识别导论 M 北京t 高等教育出版社，1 9 9 4 E 4 3 蔡云龙 模式识别 M 西安，西北电讯工程学院出版社，1 9 8 6 E s 3 郑 南 宁 计 算 机视 觉 与模式 识别 M 北 京 t 国防 工业 出版社，1 9 9 8 E 6 3 杨 光 正，吴岷，张晓 莉 模 式识 别 M 合肥 t 中国科学 技术 大学 出版社。2 0 0 1 (编辑：夏 新奎)维普资讯 http:/