卷积神经网络(CNNs)深度学习算法实现与实证分析开题报告
2021-12-30 21:37:18
全文总字数:2204字
1. 研究目的与意义及国内外研究现状
最近几年,深度学习在视觉识别、语音识别和自然语言处理等许多不同的问题上取得了非常好的表现。在许多不同类型的深度神经网络中,卷积神经网络得到了最为广泛的研究。因为早些年训练数据集和计算能力的缺乏,训练一个大型的、高容量的、同时没有过拟合的卷积神经网络是很困难的。随着标注数据量级的快速增长和近来在图形处理单元(GPU)的优势上取得了进步之后,对卷积神经网络的研究迅速涌现,并已在多种任务上得到了当前最佳的结果。因此,仿生物视觉系统的卷积神经网络是深度学习中最先成功的案例,其局部感受野,权值共享和降采样三个特点使之成为智能机器视觉领域的研究热点.
国内外研究现状
卷积神经网络(Convolutional Neural Networks,CNN)是前馈神经网络(BP)的扩展,经历了以下的发展历程:(1)1962年Hubel提出的感受野(Receptive Field)概念;(2)1980年日本学者Fukushima提出神经认知机(Neocognition),是卷积神经网络的第一个实现网络,并将其应用于手写体字符识别;(3)1988年Yann LeCun等提出的反向传播算法,极大地推动了卷积神经网络的发展;(4)1998年Yann LeCun等提出LeNet-5网络结构,并应用于文档识别,该结构为CNN最经典的网络结构;(5)2012年Hinton改进了卷积神经网络的训练方式(ReLU Dropout),并将其应用于ImageNet,取得了最好的分类效果.目前,在计算机视觉领域,卷积神经网络是应用最广的深度学习模型.近年,围绕CNN的卷积层,降采样层及全连接层三部分,各国学者不断探索研究,提出了多种形式的改进.特别是,深度卷积神经网络在图像处理和机器学习领域的应用,取得了突破性的进展,体现了深度CNN处理图像数据的优势.
2. 研究的基本内容
我未来将在这篇毕业论文中就以下几个方向进行研究活动:(1)介绍传统卷积神经网络的基本概念,算法实现以及基于公共数据进行大量实验;(2)对传统卷积神经网络进行改进;(3)卷积神经网络的GPU并行化处理;(4)介绍卷积神经网络最新理论模型,研究成果及其在语音,图像和视频中的应用;(5)对卷积神经网络(CNN)未来的发展潜力和发展方向进行展望和总结.
3. 实施方案、进度安排及预期效果
(1)第一阶段:完成课题任务书时间:2017年12月27日-2017年1月6日 内容:收集相关资料,阅读相关大量论文,按要求撰写任务书.(2)第二阶段:完成开题报告时间:2017年1月7日-2017年1月14日 内容:收集相关资料,阅读大量相关论文,按要求撰写开题报告.(3)第三阶段:完成初稿时间:2017年1月15日-2017年2月20日 内容:撰写初稿,至少每周与指导老师沟通一次,汇报论文写作情况,提交书面写作材料.(4)第四阶段:论文修改阶段时间:2017年2月21日-2017年5月1日 内容:根据指导老师意见,修改论文,继续保持每周与指导老师沟通一次,汇报论文修改情况,提交修改书面材料.(5)第五阶段:定稿时间:2017年5月2日-2017年5月15日 内容:按论文格式要求排版,提交论文最终稿.(6)第六阶段:论文答辩时间:2017年5月16日-2017年5月31日 内容:作答辩前的准备,并进行答辩.
4. 参考文献
最近这段时间中,根据网络介绍,阅读了以下关于卷积神经深度学习网络的代表性论文著作:
[1](1998)gradient-based learning appliedto document recognition. [2](2010_cvpr)deconvolutional networks.[3](2012_nips)lmagenet classification with deep convolutional neural networks.[4](2013_paml)deep hierarchies in the primate visual cortex- what can welearn for computer vision.[5](2013)networkln network.[6](2014)lmagenetlarge scale visual recognition challenge.[7](2014)rich feature hierarchies for accurate objectdetection and semantic segmentation.[8](2014)deepld-net--multi-stage and deformable deep convolutional neural networks for ob1ect detection.[9](2014)goingdeeperwith convolutions.[10](2015_lclr)very deep convolutional networks for large-scalelmage recognition and others.