摘 要

机器学习是近几年来被人们广泛关注的一个领域，因为它的发展将会极大的改变我们的生活方式，它是用来模拟和实现人类学习行为来获取知识，并且通过学习来不断改善自己的学科。深度学习是机器学习中非常接近人工智能的领域，主要思路是通过模拟人脑分析学习的神经网络。卷积神经网络是深度学习中的重要内容，是一种引起了人们很大的重视的高效识别方法，成为了科技研究领域的热点内容之一。在使用上减少了图像前期的预处理操作，节约了很大的时间与精力，得到人们广泛的使用。

通常一个卷积神经网络包含两层，第一层为特征提取层，每个神经元与上一层的部分或全部神经元相连接，通过卷积运算实现局部特征提取。第二层为映射层，每个隐藏层由多个映射组成，每个映射上的神经元权值共享。所以特征提取的方法显得尤为重要，从深度学习发展至今，已经出现了很多很好的可以应用到实际上的特征提取的算法，例如FAST，SIFT，ORB等算法的出现，为神经网络的发展奠定了良好的基础。本文旨在通过研究卷积神经网络的推导演算与特征提取算法的研究，来完成图像分类的任务。对卷积神经网络进行深入学习，在此基础上进行扩展优化。

关键词：机器学习；卷积神经网络；特征提取；SIFT；

Abstract

Machine Learning is an area of great concern in recent years beaceuse its development will greatly change our lifestyle.It is used to simuate and realize human learning behavior to acquire knowledge,and through learning to constantly improve themselves of the discipline.Depth learnin is very close to the field of artificial intelligence in machine learning.The main idea is to study tthe neural network by simulating human brain analysis.Convolution neural network is an important part of deep learning.It is one of the hot sports in science and technology research field,which is a kind of high efficiency recongnition method which attracts great attention.In the use of pre-processing to reduce the pre-processing operations,Saving a lot of time and effort,get people widelyused.

Usually a convolution neural network consists of two years layers.The first layer is the feature extraction layer,each neuron is connected with some or all of the neurons of the upper layer,and the local feature extraction is realized by convolution operation.The second layer is the mapping layer,and each hidden layer consists of multiple mappings.And the depth of learning development,there have been many very good algorithms that can be applied to the actual feature extraction,such as FAST,SIFT,ORB and so on.Lay the foundation for the development of neural network a good foundation.The purpose of this paper is to study the task of image classification by studying the derivation of the convolution neural network and the research of feature extraction algorithm.On the convolution neural network in-depth study,on the basis of this expansion optimization.

Key words:machine learning;convolution neural network;feature extraction;SIFT;

目 录

摘 要 3

Abstract 4

目 录 5

1.绪论 7

1.1 研究背景及意义 7

1.2 国内外研究现状 8

2. 神经网络 10

2.1 传统机器学习与现在的对比 10

2.2 神经元 11

2.3卷积神经网络 13

2.3.1反向传播算法 14

2.3.2神经网络的卷积层 17

2.4卷积神经网络功能层 20

2.5卷积网络经典模型 21

2.5.1 AlexNet 21

2.5.2 VGG 22

2.5.3 GoogleNet（多分辨率融合） 23

2.5.4 ResNet 23

2.5.5 Deep Face（结构化图片的特殊处理） 23

2.6 CNN实现手写数字识别 24

2.6.1 数据说明 24

2.6.2 LeNet-5介绍 24

2.6.3 神经网络设计 25

2.6.4 代码实现 26

3.特征提取 29

3.1特征提取算法对比 29

3.1.1 FAST算法 29

3.1.2 SIFT算法 30

3.1.3 SURF算法 31

3.2 SIFT算法介绍 31

3.2.1 SIFT算法提出的目的与意义 31

3.2.2 SIFT算法实现步骤 31

4. 卷积神经网络与SIFT算法结合 36

4.1 程序设计说明 36

4.2 代码实现 37

4.3 结果分析 39

5.总结与展望 40

5.1 总结 40

5.2 研究的展望 40

参考文献 41

致谢 42

1.绪论

本章首先阐述了论文研究的背景及意义，分析了国内外研究情况，然后分析了目前深度学习发展遇到的问题和不足之处。

1.1 研究背景及意义

伴随着智能手机和社交网络的普及，移动互联网出现在人们生活中的每一个细节中，越来越多的人加入到互联网中来，互联网为人们存储了大量信息，其中包括海量的图片信息。由报道知，2013年11月，snapchat这个用来分享图片的应用每天产生的图片和视频数据已经达到了4亿，最近几年来，人工智能，机器学习，大数据等技术的发展不断的出现在新闻上，得到了人们的普遍关注，例如近期被人们常常提起的以深度学习技术为基础产生的电脑程序alphago，不断地挑战人类棋艺的话题。不仅仅是技术人员，从事其他行业的人们也越来越对这些方面产生了极大的兴趣，因为这些技术正在渗透到我们的日常生活中来，将会对未来生活带来极大的改善。

当越来越多的信息存储在互联网中时，随之而来的问题也亟待被解决，普通的信息可以使用文字记录下来，通过关键词搜索我们可以获取到我们想要的内容并做进一步处理，有时图片会成为我们存储信息的主要方式，我们却不容易从图片中的信息进行查找，图片给我们带来了对信息通俗易懂的理解方式，但同时也增加了信息提取的难度，此时，我们通过计算机进行图像特征进行提取就非常有必要了。