基于-深-度学习进修地车辆型号识别.doc

《基于-深-度学习进修地车辆型号识别.doc》由会员分享，可在线阅读，更多相关《基于-深-度学习进修地车辆型号识别.doc（28页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、-_基于深度学习的基于深度学习的车辆型号识别车辆型号识别 摘 要 随着智能交通的发展，车辆型号的识别受到越来越广泛的关注，它能够为个 人，企业和政府的车辆使用以及监管提供诸多遍历。因而，如何设计高效算法， 对车辆型号进行识别和分类，受到了学术界和工业界的广泛关注。 本文主要如何利用深度学习的方法进行车辆型号的识别和分类。首先，介绍 了车型识别的应用背景和深度学习的基本理论。之后，为了进行目标识别，我 们介绍了常用算法，分析比较了作为图像特征提取常见的算法，总结归纳了他 们性能，精度以及相互之间的关联。之后，介绍了在目标识别工作中基本算法, 阐明了各种方法的特点和适用场景。之后，我们以深度神经网

2、络为理论依据， 分析比较了深度神经网络不同的特征学习方法，并分析了如何使用卷积神经网 络训练参数。我们分析比较不同特征学习方法的特点选取 k 均值聚类算法作为 本文使用的特征学习方法，利用卷积神经网络结构搭建深度学习模型。 、 本文采用大量实测数据作为仿真数据，以确保实验的有效性。同时，基于相 同的实测数据我们适用改进 SIFT 特征匹配算法和深度学习算法进行车型识别。 实验结果表明，深度学习算法的准确率高达 90%，相对于 SIFT 匹配算法，深度 学习算法的车型识别的准确率大大提高。基于上述仿真结果，我们的到了深度 学习算法适用于车辆型号识别领域的结论。 关键词： k 均值聚类，深度学习，

3、卷积神经网络，尺度不变特征变换, 支撑 向量机 Abstract With the development of intelligent transportation, the recognition of vehicle model is paid more and more attention. It can provide many ergodic for vehicle use and supervision of individual, enterprise and government. Therefore, how to design efficient algorithms t

4、o identify and classify vehicle models has attracted wide attention from both academia and industry. This paper mainly discusses how to use depth learning method to identify and classify vehicle models. First of all, the application background and the basic theory of depth learning -_are introduced.

5、 After that, in order to identify objects, we introduce the common algorithms, analyze and compare the common algorithms for image feature extraction, and summarize their performance, accuracy, and the correlation between them. After that, the basic algorithms in target recognition are introduced, a

6、nd the characteristics and application scenarios of various methods are clarified. Then, we analyze and compare the different feature learning methods of depth neural networks based on the depth neural network, and analyze how to train parameters using the convolutional neural network. We analyze an

7、d compare the characteristics of different feature learning methods, select the K mean clustering algorithm as the feature learning method used in this paper, and build a deep learning model by using the structure of convolutional neural network. In this paper, a large amount of measured data is use

8、d as simulation data to ensure the validity of the experiment. At the same time, based on the same measured data, we apply the improved SIFT feature matching algorithm and depth learning algorithm for vehicle recognition. Experimental results show that the accuracy of the depth learning algorithm is

9、 as high as 90%. Compared with the SIFT matching algorithm, the accuracy of model recognition is greatly improved by depth learning algorithm. Based on the above simulation results, our depth learning algorithm is applicable to the field of vehicle model recognition.-_目录第一章 绪论.1 1.1 课题研究背景及意义.1 1.2

10、深度学习简介.3 1.3 本文主要工作及篇章结构.8 第二章 目标识别算法.9 2.1. 基于机器学习的分类算法 .12 2.2. 神经网络算法 .14 2.3. 卷积神经网络训练算法 .20 第三章 车型识别算法.143.1 SIFT 特征匹配算法.163.1.1 原始算法 3.1.2 改进算法 3.2 深度学习算法.163.2.1 无监督特征学习 3.2.2 基于 SVM 卷积的网络优化算法 3.2.3 车型识别在深度学习中的建模3.2.4 深度学习算法设计 第四章 数值仿真和结果分析.22 4.1 基于 SIFT 特征匹配的车型识别仿真 4.2 基于深度算法的车型识别仿真4.3 结果分析

11、以及算法对比 第六章 结束语.27 致 谢.28 参考文献.29-_1. 绪论 1.1. 研究背景及意义 因此，智能交通系统(Intelligent Transportation System，简称 ITS) 1-3是未来交通系统的发展方向，它是将先进的信息技术、数据通讯传输技术、 电子传感技术、控制技术及计算机技术等有效地集成运用于整个地面交通管理 系统而建立的一种在大范围内、全方位发挥作用的，实时、准确、高效的综合 交通运输管理系统。 车辆身份识别5-6系统是智能交通的重要分支，它需要人工智能、图像处 理、计算机视觉、模式识别等相关技术的综合应用。目前国内的车牌识别技术 已经日益成熟，随着

12、智能交通技术应用的不断加深，工业界迫切希望提取更多 元的车辆信息，除车牌号码外，还需要车辆的厂牌、型号以及颜色等信息特征。 这些特征在停车场无人管理、交通事故处理、交通肇事逃逸、违章车辆自动记 录等领域具有广泛而迫切的应用需求。 机动车厂牌型号识别技术分为多个环节，一般是通过对摄像机采集的数字 图像进行去噪、增强、车标定位、特征提取、识别等分析完成。为了得到较高 的识别率，要求每一个处理步骤要有很高的准确率，而实际背景复杂，四季、 昼夜、晴雨等不同情况的光照以及车辆运动速度的快慢等直接影响车辆图像的 成像环节，造成车辆图像颜色失真、车身及车标区域灰度不均匀、边缘模糊、 粘连等问题，增加了处理难

13、度；反光、逆光、夜晚光照不足、树荫、车身颜色 显著区域分布位置不同等情况又增加车身颜色识别难度；再加上车辆类别繁多 以及车身本身的污损、遮挡、模糊，也为进一步提高识别率带来诸多困难。针 对诸多问题，工业界一般采用了国际先进的人工智能、计算机视觉、图像处理、 模式识别、大数据训练、深度学习等等技术来，通过从视频流中检测车辆、车 头区域的定位、变形和倾斜校正、去除运动和成像造成的模糊、车辆特征的定 位和识别、海量特征的选取和决策等多个环节来实现。在系统的设计和实现过 程中，工业界开发应用了当今国际上最先进的计算机视觉技术，并通过超百万 的大数据学习样本进行训练，大量实地数据的系统调整和测试，还采集

14、了描述 车头、车灯、散热格栅等各个部分的外形轮廓、相对位置、颜色、纹理等多种 特征，组成了海量的辅助分类信息，与厂牌型号识别的结果一起最终通过可在 线学习的特征决策模块，得到综合可信度评价，从而得到最终的识别结果。浩 瀚如海的大数据，结构复杂，种类繁多，单纯依靠人力定义的过程无法处理这 海量数据。于是我们采用基于模仿人类神经网络的人工智能算法，让机器从海 量数据当中自我学。深度学习的实质，就是通过构建具有很多隐层的机器学习 模型和海量的训练数据，来学习更有用的特征，从而最终提升分类或预测的准 确性。我们通过利用大数据来深度学习各类信息、特征，更能够刻画数据的丰 富内在信息。从而得出更多元更精准

15、的厂牌型号及其他信息。-_1.2. 深度学习简介深度学习7-10领域的学术研究可以包含四部分：优化（Optimization），泛 化（Generalization），表达（Representation）以及应（Applications）。 除了应用（Applications）之外每个部分又可以分成实践和理论两个方面。首先我们介绍优化部分。深度学习的问题最后似乎总能变成优化问题，这个时 候数值优化的方法就变得尤其重要。从实践方面来说，现在最为推崇的方法依 旧是随机梯度递减，这样一个极其简单的方法以其强悍的稳定性深受广大研究 者的喜爱，而不同的人还会结合动量（momentum）、伪牛顿方法（Ps

16、eudo- Newton）以及自动步长等各种技巧。此外，深度学习模型优化过程的并行化也 是一个非常热的点，近年在分布式系统的会议上相关论文也逐渐增多。在理论 方面，目前研究的比较清楚的还是凸优化（Convex Optimization），而对于非 凸问题的理论还严重空缺，然而深度学习大多数有效的方法都是非凸的。现在 有一些对深度学习常用模型及其目标函数的特性研究，期待能够发现非凸问题 中局部最优解的相关规律。之后我们介绍泛化过程。一个模型的泛化能力是指它在训练数据集上的误 差是否能够接近所有可能测试数据误差的均值。泛化误差大致可以理解成测试 数据集误差和训练数据集误差之差。在深度学习领域变流行

17、之前，如何控制泛 化误差一直是机器学习领域的主流问题。从实践方面来说，之前许多人担心的 深度神经网络泛化能力较差的问题，在现实使用中并没有表现得很明显。这一 方面源于大数据时代样本巨大的数量，另一方面近年出现了一些新的在实践上 比较有效的控制泛化误差（Regularization）的方法，比如 Dropout 和 DropConnect，以及非常有效的数据扩增（Data Agumentation）技术。是否还 有其它实践中会比较有效的泛化误差控制方法一直是研究者们的好奇点，比如 是否可以通过博弈法避免过拟合，以及是否可以利用无标记（Unlabeled）样本 来辅助泛化误差的控制。从理论方面来说

18、，深度学习的有效性使得 PAC 学习 （Probably Approximately Correct Learning）相关的理论倍受质疑。这些理 论无一例外地属于“上界的上界”的一个证明过程，而其本质无外乎各种集中 不等式（Concentration Inequality）和复杂性度量（Complexity Measurement）的变种，因此它对深度学习模型有相当不切实际的估计。这不应 该是泛函理论已经较为发达的当下出现的状况，因此下一步如何能够从理论上 分析深度学习模型的泛化能力也会是一个有趣的问题。而这个研究可能还会牵 涉表达（Representation，见下）的一些理论。表达主要指

19、的是深度学习模型和它要解决的问题之间的关系，比如给出一 个设计好的深度学习模型，它适合表达什么样的问题，以及给定一个问题是否 存在一个可以进行表达的深度学习模型。这方面的实践主要是两个主流，一方 面那些笃信无监督学习（Unsupervised Learning）可行性的研究者们一直在寻 找更好的无监督学习目标及其评价方法，以使得机器能够自主进行表达学习变 得可能。这实际上包括了受限波尔兹曼模型（Restricted Boltzmann Machine），稀疏编码（Sparse Coding）和自编码器（Auto-encoder）等。另-_一方面，面对实际问题的科学家们一直在凭借直觉设计深度学习

20、模型的结构来 解决这些问题。这方面出现了许多成功的例子，比如用于视觉和语音识别的卷 积神经网络（Convolutional Neural Network），以及能够进行自我演绎的深 度回归神经网络（Recurrent Neural Network）和会自主玩游戏的深度强化学 习（Reinforcement Learning）模型。绝大多数的深度学习研究者都集中在这 方面，而这些也恰恰能够带来最大的学术影响力。然而，有关表达 （Representation）的理论，除了从认知心理学和神经科学借用的一些启发之 外，几乎是空白。这主要是因为是否能够存在表达的理论实际上依赖于具体的 问题，而面对具体问

21、题的时候目前唯一能做的事情就是去类比现实存在的智能 体（人类）是如何解决这一问题的，并设计模型来将它归约为学习算法。我直 觉上认为，终极的表达理论就像是拉普拉斯幽灵（Laplaces Demon）一样，如 果存在它便无所不知，也因此它的存在会产生矛盾，使得这一理论实际上只能 无限逼近。最后，我们介绍深度学习的应用。深度学习应用广泛，主要包括语音识别 和视觉处理。2009 年，Hinton 把深层神经网络介绍给做语音识别的学者们。然 后 2010 年，语音识别就产生了巨大突破。本质上是把传统的混合高斯模型 （GMM）替换成了深度神经网络（DNN）模型，但相对识别错误率一下降低 20% 多，这个改

22、进幅度超过了过去很多年的总和。这里的关键是把原来模型中通过 GMM 建模的手工特征换成了通过 DNN 进行更加复杂的特征学习。在此之后，在 深度学习框架下，人们还在不断利用更好的模型和更多的训练数据进一步改进 结果。现在语音识别已经真正变得比较成熟，并且被广泛商用，且目前所有的 商用语音识别算法没有一个不是基于深度学习的。1.3. 本文主要工作及篇章结构本文研究内容主要包括，1）介绍车辆型号识别现状和深度学习理论，提出改进 方法；2）研究将深度神经网络引入目标识别和分类问题中的具体方法；3）研 究了卷积神经网络的构建方法和训练方法；4）提出针对车型识别的卷积神经网 络模型，并通过实验证实该模型

23、在车辆型号分类上的效果；5）与改进的 SIFT 特征匹配分类方法进行对比本文分为四个章节： 第一章主要介绍了车辆检测和识别的应用背景和目前该领域存在的主要问题 和挑战，阐述了研究车辆型号识别的目的和意义，并对当前现有的智能交通系 统做了介绍，比较各种车型分类识别的方法，介绍深度学习在特征提取和文字 识别上的发展状况，提出车辆分类算法新思路。 第二章对当前的车辆分类特征和算法做了详细的描述。分析各种特征之间的 优势和劣势，并对主流的粉类算法的思想做了描述和总结，分析了每类算法的 优点和缺点，这些理论研究，可以帮助我们设计基于卷积神经网络的车辆识别 算法。 第三章介绍了车型识别算法。我们使用 SI

24、FT 特征匹配算法和深度学习算法 进行车载识别。我们首先介绍了原始 SIFT 特征匹配算法，分析该模型适用场景-_和局限，并给出了改进算法。在改改进算法中，我们使用密集采样保证识别精 度。之后我们介绍了深度学习算法的理论，并给出基于深度算法的车型识别模 型，并设计了算法流程。第四章使用计算机进行仿真。我们采用大量的实测图片和数据作为基准， 分别验证了 SIFT 特征匹配算法和深度学习算法在车型识别中的效果。最后，我 们对比了这两种方法的仿真结果。2. 目标识别算法综述 传统的目标识别主要是利用一种或多种特定的特征去表示图片中目标物体区 域，然后利用分类器对所得的特征向量进行分类，车辆型号的识别

25、其实就是目 标识别的对象为车辆，方法流程基本一致。物体的轮廓线条是可以描述目标特 征的全局特征，但是在尺度变换、旋转变换之后变化很大，从而表达能力发生 变化。而局部特征由于在一定程度上对尺度和旋转的变化具有鲁棒性，所以作 为描述图片的特征更有优势。SIFT 特征的设计及描述方法，并对最常用的机器 学习分类器做简单的阐述。 机器学习的核心问题就是让计算机模拟人类大脑工 作，为此科学家们构建出人工神经网络模型，算法在提供初始条件后自主从数 据学习新知识，不断增强自身的学习和理解能力。深度学习的提出给神经网络 的学习能力带来了飞跃。本章会介绍深度学习相关研究，为后文建立基于卷积 神经网络进行车型识别

26、提供理论依据。 2.1. 基于机器学习的分类算法 在本章中，我们介绍机器学习的相关分类算法，主要包括 K 近邻算法（K nearest neighbor，KNN）11-13和支撑向量机算法（Support Vector Machine, SVM）14-15。K 近邻（K nearest neighbor，KNN）作为数据挖掘的十大经 典算法之一也在图像分类中用的很多，大多数基于特征匹配的分类算法都需要 用到 KNN 或者他的变形。K 近邻是从最近邻算法发展而来的，在最近邻算法中， 计算测试样本到所有训练样本的距离，找到距离最近的样本所属类别作为分类 结果。K 近邻则是寻找 K 个最近邻样本，然

27、后让 K 个样本进行投票决定测 试样本点所属类别。在目标分类领域，关键点特征匹配加上 K 近邻的方式非 常常用，效果也不错，特别是标记样本数据不充足的时候比基于分类的方法可 靠性更高，但是其缺点也很明显，需要存储大量数据，并且计算量也很大。为了优化计算也出现了 K-dtree、VOCtree40, 41等优化算法。 支撑向量机（Support Vector Machine, SVM）使用线性划分的方法。对于不能线性划分的样本，算法寻找映射函数将数据从低维空间映射到一个高维空 间，要求在该高维空间中数据线性可分，最后在高维空间中则可以用超平面进 行样本分类。另外，SVM 还要求最后得到的判决面是

28、最优的，即所得判决面 两侧离判决面最近的样本到超平面距离最大。设训练样本为： ， 表示样本特征向量， 表示样本的标签取值为 若存在超平面： -_(2-10) 则样本线性可分，因此两类的间距可以表示成，因此为了得到最优判决平面就要对类间距进行优化，求解最优判决平面的问题转化为下面这个规划问题： (2-11) 然后用拉格朗日法将上述问题转化为对偶的二次规划问题： (2-12) 优化后求解得到： (2-13) 得到决策函数为： (2-14) 根据判决函数值的正负来确定样本是正样本还是负样本。 当样本线性不可分的时候，有两种方式解决这个问题，第一种方式是采用 非线性 的核函数，将低位空间线性不可分的样

29、本投影到新的空间，使数据在新的空间 中线性可分。因此，判别函数变为： (2-15) 不同的核函数会带来不同的分类效果，但是还没有很好的理论方法去指导核函数的选取，只能通过实验的方式选择合适的核函数。 另一种方法：引入松弛变量解决线性不可分问题，将线性约束变为： (2-16) 当样本分错的时候 大于 0，分正确怎为 0；优化的目标函数变为： (2-17) -_为惩罚因子，取值越大表明样本越重要，因此，该样本被分错会得到更 大的惩罚。 此时优化约束也发生改变，变为： (2-18) 上面讨论可以看到 SVM 是针对二类问题设计的，但是现实中分类往往是多类 问题，利用 SVM 解决多类问题一般有两种方

30、法43, 44。第一种是针对多类问题 中的每两个类都训练一个二类分类器，这样若是一个 k 类问题则需要训练 个分类器，虽然这种方法简单易扩展，但类别很多的时候会需要大 量分类器，会有不可分的区域；另一种方法是针对每一个类跟剩下所有其他类 间训练二类分类器，则 k 类问题则需要训练 k 个分类器，这种方法需要的分 类器少，但对每个类的训练过程复杂类别改变的时候不易扩展，也同样存在不 能区分的区域。虽然 SVM 存在计算复杂以及一些识别能力的局限，但总的来 说与其他机器学习的分类方法相比还是具有明显的优势。本文的车型识别方法 也将会用到 SVM 分类器，并将它与卷积神经网络相结合。 2.1 神经网

31、络算法神经网络（Artificial Neural Network ANN）18-20 是受动物中枢神经系统的启发所设计的一种具有机器学习和模式识别功能的数学模型。一般是由一组互相连通的“神经元”组成。每个“神经元”都有自己的激励函数，它接受其他节点传来的信号，并将信号用自己的激励函数处理后传递给下一级。根据激励函数的形式不同神经元分为：线性神经元、二进制阈值神经元、修正的线性神经元、Sigmoid 函数神经元等，它们的工作原理大同小异，总的归纳起来，神经元工作原理如图 2-5 所示，首先将所有输入进行加权求和，并加上一个偏置并加上一个偏置 b，然后用激励函数处理得到该神经元的输出。 将神经元

32、以一定的方式连接组合就得到了人工神经网络，图 2-6 所示的是最为普遍的前馈神经网络模型。它由一个输入层（input） 、一个隐藏层（hidden）和一个输出层（output）组成，每一层的节点激励值都是由其前一层与之相连的节点计算得到的。除了前馈神经网络，还有循环神经网络，这种网络具有环路，它更贴近-_生物大脑的工作原理但是训练困难；另外还有对称神经网络，它的每个连接都是双向的，包含隐藏层的对称神经网络就是玻尔兹曼机，虽然比不上循环神经网络的学习能力，但是具有简单易学习等优势，因此应用十分广泛。 深度学习就是利用一些方法去构建一个含有多层隐藏层的人工神经网络，网络的每一层都对应着原始数据不同

33、层次的数学抽象，从而达到用特征向量描述图像的目的。在讨论深度学习的具体方法之前，首先要明确两个概念：有监督学习和无监督 学习。 所谓有监督学习，是指给定了训练样本数据（data）的同时也已知样本 经过学习后的目标值，比如我们进行车辆型号分类的时候给出了一组车辆图片， 也给出每张图片对应车辆的型号。一般这些目标值是由人工标记或给出的真值 （Ground Truth） ，也称为样本标签（label） 。常见的有监督学习形式有：回归 和分类。回归就是要对数据及其标签进行拟合，找到使得下面的函数值最小的 函数曲线。 2.3 卷积神经网络算法深度学习有多种学习结构，主要分为三类：第一种是生成型的深度结构

34、，其代 表有深度置信网络（DBN）21：它由一系列限制型玻尔兹曼机组成，主要能 解决多层神经网络在学习的过程中：标签数据需求量大、收敛速度慢和陷入局 部极值等问题。由于其学习的是观测数据和标签的联合概率，所以对先验概率 和后验概率都可以进行估计。第二种是区分型模型，下一章使用的卷积神经网 络就是其代表，其结构不同于第一类模型，只能对后验概率进行估计，适合应 用在识别和分类问题中。生成型结构用于分类问题的时候，可以在后面使用区 分型的结构进行参数优化。因此得到第三类混合型结构，它是将上述两种 结构用合适的方式组合起来。 卷积神经网络在计算机视觉上的应用已经相当广 泛 ，利用卷积神经网络对图像进行

35、特征提取 并且在场景标记 中取得较好的效 果；另外也有把这种方式应用在机器人视觉上的研究 。它根据视觉原理定义局 部视觉感受域，这个感受域是图像的一个个小区域，这些区域作为最底层的输 入，然后在多层网络中逐层做正向传递，得到图片的特征，在同一层的特征图 中位置不同但网络参数共享，这样做能减少需要学习的参数数量，同时能够使 得特征具有变换不变性。因此，最后通过网络学到的数据特征具有平移、旋转、 缩放不变。神经网络算法应用广泛，首先我们介绍特征提取算法。上面已经提到卷积神网-_络作为区分型的深度学习结构在计算机视觉特别是区分性问题中应用广泛，我 们将使用卷积神经网络分析深度学习。我们接下来展现在卷

36、积神经网络，我们 如何提取特征向量。图 2-11 卷积网络特征提取53 上图展示了使用神经网络进行特征提取的流程图。做完卷积运算就得到了 C1，是 8 幅 28 28 的图片，因为边长 32 的图片用边长 5 的卷积核卷积后 图片大小应为：32-5+1=28.为了减小数据并且得到稳定的局部特征，在 C1 的 基础上做 pooling，pooling 有多种方式，常用的有最大/最小值 pooling 和均值 pooling，为了保证整体效果最好，我们采用均值池化。然后为了减少数据维度，在进行特征图的下采样得到下一层 S1，此时数据变为 8 幅 14 14 的 特征图；接着按类似得到第一层的方式，

37、使用 55 卷积核，并将不同特征图卷 积后累加起来得到，操作之后得到 20 幅 1010 特征图，即为 C3 的输出。同 样进行下采样将每幅特征图变为大小 55，即为 S4 的输出。然后，最后一层 C5 也是卷积层，其每一幅图跟上一层所有图都连接，得到个特征图大小为 1 1 的 120 个特征图，拉成一维向量就是学习得到的图片特征。 接下来我们介绍卷积神经网络训练过程卷积神经网络的训练过程就是要对网络的各个参数进行优化，这个过程包括前向传递和后向传播。前向传递的 时候网络中的参数保持不变，根据各层节点的激励函数逐级计算得到网络的输 出；然后将输出值与已知的数据标签进行比较得到两者的差值，再从最

38、后一层 网络一层一层向前根据误差去修改参数，从而达到优化参数的目的。假设一个 多类问题，类别数为 一共有 个训练样本，选取平方误差作为代价函数，则系 统误差计算如下： (2-20) -_表示对应的第 个样本在第 类上应该对应的标签，表示系统预测出来的结果。在传统的全连接网络中，通过优化得到网络中的各个连接的权重，假设当前为第 层，则当前层的输出为： ,其中 (2-21) 为输出激活函数可以根据具体应用选择不同的函数，使得满足一 定的统计特性能够加速训练过程的收敛；是对与当前节点连接的所 有前一层节点输出的加权求，具体参见前面对神经元的阐述。这个向 前传递的过程就叫卷积神经网络的前向传递。 对系

39、统参数的学习过 程就是优化系统误差的过程，因此，每次前向传递后系统的误差会在 网络中做后向传播，这时，定义一个变量：节点的“灵敏度”，它是指 误差随某个参数变化率，单元偏差值（bias）参数为例，根据求导链 式法则定义为： (2-22) 相邻网络层之间的递推关系为： (2-23) 我们使用各个元素一次相乘。然后每一层根据其对应的值用下面的式 子对各个连接的权重进行更新，最终训练得到神经网络。 (2-24) (2-25) 根据上面的表达式，我们可以设计出有效的神经网络训练算法。3 车型识别算法在现实生活中，车型识别有效提高车辆通行效率，增强车辆识别度，减少 人工管理及刷卡停车场系统的管理难度，更

40、减少系统误判，具有高效、安全、 便捷等特点。他无论对于个人，企业以及政府都有非常有效的作用。如何使用 合适的算法，在保证车型识别的精度时，降低开销，如计算复杂度，软硬件实 现成本等，是车型识别理论研究和工程实践的重点。接下来，我们分别介绍了-_两种车型识别算法： SIFT 特征匹配识别算法和深度学习算法。这两种算法可 以有效地识别车型，适用于不同场景。对于 SIFT 特征匹配识别算法，我们在车 型识别的应用中需要更高的要求，因此，我们首先介绍了 SIFT 特征匹配识别原 始算法，之后提出了改进方案，最后分析了算法性能。对于深度学习算法，我 们分别介绍了无监督特征学习和利用 SVM 分类器进行卷

41、积网络优化的背景知识， 之后对车型识别进行建模，我们的模型可以有效地利用深度学习反应车载识别 的特性。最后，我们也对深度学习算法进行了性能分析。在接下来的章节中， 我们详细介绍 SIFT 特征匹配识别算法和深度学习算法在车载识别中的应用。3.1. SIFT 特征匹配识别算法在智能交通中，SIFT 特征匹配算法应用广泛。尺度不变特征转换(Scale- invariant feature transform 或 SIFT)22是一种电脑视觉的算法用来侦测与 描述影像中的局部性特征，它在空间尺度中寻找极值点，并提取出其位置、尺 度、旋转不变量，此算法由 David Lowe 在 1999 年所发表，

42、2004 年完善总结。 其应用范围包含物体辨识、机器人地图感知与导航、影像缝合、3D 模型建立、 手势辨识、影像追踪和动作比对。SIFT 特征是基于物体上的一些局部外观的兴 趣点而与影像的大小和旋转无关。对于光线、噪声、些微视角改变的容忍度也 相当高。基于这些特性，它们是高度显著而且相对容易撷取，在母数庞大的特 征数据库中，很容易辨识物体而且鲜有误认。使用 SIFT 特征描述对于部分物 体遮蔽的侦测率也相当高，甚至只需要 3 个以上的 SIFT 物体特征就足以计算出 位置与方位。在现今的电脑硬件速度下和小型的特征数据库条件下，辨识速度 可接近即时运算。SIFT 特征的信息量大，适合在海量数据库

43、中快速准确匹配。 具体而言，SIFT 特征匹配算法有如下特点： 1. SIFT 特征是图像的局部特征，其对旋转、尺度缩放、亮度变化保持不变性，对视角变化、 仿射变换、噪声也保持一定程度的稳定性； 2. 独特性（Distinctiveness）好，信息量丰富，适用于在海量特征数据库中进行快速、准确 的匹配； 3. 多量性，即使少数的几个物体也可以产生大量的 SIFT 特征向量； 4. 高速性，经优化的 SIFT 匹配算法甚至可以达到实时的要求； 5. 可扩展性，可以很方便的与其他形式的特征向量进行联合。-_由于 SIFT 特征匹配算法适用于各种场合的车载识别，我们也对 SIFT 特征匹 配算法进

44、行了大量实验，说明基于 SIFT 特征匹配算法在车型识别中存在的问 题。 本实验从城市交通车辆监控视频中截取出大量的车辆图片，然后利用 OpenCV 中现有的检测算法配合人工标注的方式得到个常见品牌车头图片，约 有 10000 张图片。基于这些图片进行实验。基于 SIFT 特征匹配算法进行车型识别的流程如图 3-2 所示。 然后将图片与数据库中所有的比对图片进行关键点匹配，具体做法：数据库中 已知标签的图片归一化到相同大小都提取得到关键点，并计算各个关键点处的 SIFT 特征；未知图片归一化到同样的大小并进行相同的操作，然后将未知标签 的图片与数据库中的一张图片逐个计算每两个特征点的特征向量的

45、距离，距离 小于一定阈值且方向满足一定要求的则认为是匹配成功，并记录这两幅图片匹 配特征点的数目。与数据库中所有图片都进行上述的匹配过程，选取匹配特征 点最多的图片，将该图片的标签作为未知图片的标签，就得到了未知图片的类 别。在 SIFT 算法中误判主要来源于：首先，多对特征点集中在车标和车牌这 些区域，因此会得到很多匹配的特有些同品牌不同型号的车存在外观上的相似。 第二个原因是可以接受的，因为长得很像的车人眼也不容易区分，但是第一个 原因值得我们关注，因为特征点过于集中在某些区域实际上就是丢失了一些其 他区域的信息，而且集中在车标区域带来的问题是：即使可以很好的区分不同 品牌的汽车，但同品牌的不同型号就不易进行区分了。 异很大，加上 SIFT 对局部特征描述能力很强所以最后的匹配点明显减少，只需给出匹配线段的一些角度限制还可以抑制掉更多的误匹配。 3.2.1. 算法改进 SIFT