设为首页 | 加入收藏

  

理解卷积神经网

发布日期:2019-09-08 05:38   来源:未知   阅读:

  通俗地说,卷积神经网络的核心在于卷积核(kernel),又叫滤波器(filter)。卷积神经网络学习的整个过程,实际上是学得一个最好的滤波器,使得经过滤波后的图像更容易进行分类。

  先来看看卷积的过程,以下是一个3*3的卷积核在5*5的图像上得到3*3卷积输出的过程。卷积核(黄色),在图像(绿色)上遍历,每到一个位置就进行逐元素的相乘并相加。例如在第一个位置,1*1+1*0+1*1+0*0+1*1+1*0+0*1+0*0+1*1=4

  知道卷积过程是如何的,接下来通过几张图说明问题,图片来自知乎大神Owl of Minerva。

  当滤波器在某张图像上来到如图2最左侧的区域时,由于卷积操作,可以得到一个很大的响应输出(6600)

  如此一来,当我们完成一次完整的卷积操作(黄色框框遍历整张图像)之后,得到的结果叫特征图,特征图上有着很大的输出的位置就是我们要识别的曲线A,而在其他部位只有很低甚至为0的输出。那我们可以说,我们这个

  举一个例子,当人看到一种陌生的动物的时候,往往不能准确判断其属于什么类别。这时候你拍下一张照片,上网寻找答案。一开始你从它的外形轮廓判断它是一只兔子;你继续搜索资料,然后从它的毛色特点进行判断它应该是鼠兔;你不停查找资料,最终通过它的五官判断得出它原来是一只伊犁鼠兔。这是一个双向的过程,正方向是你不断地基于认识作出判断,反方向是你得到新的反馈并更新你的认识。在卷积神经网络里,不段基于认知进行判断就是正向传播,www.885234.com。而不断通过反馈更新认知就称之为反向传播(back-propagation),正向传播会得到一个分类结果,分类结果与图像真是标签进行比较,得到分类结果与真实标签的差值。我们定义一个损失函数来表征这个差值,然后不断地向网络反馈这个损失,网络不断调整各个卷积核的参数,使得最终得到的损失最小,也就是差值最小。这时候我们的卷积核就相当于学到了图像的大部分特征,使得正向传播分类的结果与真实标签接近一致。

  上面说到人为设计了一个7*7的可识别曲线A的卷积核,如同上面那张“老鼠”图像,显然一个识别曲线A的卷积核是不能够将其识别出来,还需要识别其它形状的卷积核,如耳朵的特征是圆弧,尾巴的特征是与另一种曲线B,还有眼睛嘴巴等等的线条描述,我把这些特征称之为低级特征。即便具备大量能将所有的低级特征识别出来的卷积核,也不一定能判定这是一只老鼠,因为其他动物或许也有类似甚至相同的线条特征。所以这个时候我们需要将低级特征通过组合得到相对高级的特征,以提高图像的区分度。比如耳朵的线条是圆弧,嘴巴的线条特征是尖尖的一个角,眼睛的特征是一个点,将其组合起来能得到一个老鼠的脸的特征。分类时发现有同时具备圆耳朵,尖嘴巴,小眼睛,那么将更有力地判断它是一只老鼠。

  对于卷积神经网络而言,深其实是特征层层表示的需要。比如浅层的特征,例如点、线、面之类的简单几何形状,都是在底层训练出来的,对于这些底层的特征继续进行组合表示,就是后面的若干层的任务。最后把从低级特征组合而来的高级特征在进一步变成语义特征,就可以进行分类了。

  第二层稍稍复杂了一点点,可以包含的不仅仅是一个边缘,可以是几个边缘的组合

  第三层得到了更复杂的特征,浅层特征继续组合,比得到了汽车的车轮,鸟类的脚:

  池化(pooling)很好理解,看下图。这是一个Max pooling的操作,其实只是在每个2*2的区域内选取选取最大的值,从一个4*4的sample得到一个新的2*2的sample。一般经过池化后sample的长与宽都是原来的二分之一。

  池化最大的作用是对图片进行降采样,保留每个区域(2*2)响应最大的信息,减少图像上的冗余信息,减少参数与计算量,却没不会破坏分类的结果。还有average pooling,是算每个区域的均值。

  1.边界检测示例假如你有一张如下的图像,你想让计算机搞清楚图像上有什么物体,你可以做的事情是检测图像的垂直边缘和水平边缘。如下是一个6*6的灰度图像,构造一个3*3的矩阵,在卷积神经网络中通常称之为f...

  卷积神经网络(ConvolutionalNeuralNetwork)是一个专门针对图像识别问题设计的神经网络。它模仿人类识别图像的多层过程:瞳孔摄入像素;大脑皮层某些细胞初步处理,发现形状边缘、方向;...

  本系列文章面向深度学习研发者,希望通过ImageCaptionGeneration,一个有意思的具体任务,深入浅出地介绍深度学习的知识。本系列文章涉及到很多深度学习流行的模型,如CNN,RNN/LST...

  一、卷积神经网络的基本概念    受Hubel和Wiesel对猫视觉皮层电生理研究启发,有人提出卷积神经网络(CNN),YannLecun最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。...

  今天读了一遍谷歌大脑工程师EricJang的一个解答,想把这个知识与大家分享!最近也发现,有很多牛人喜欢在博客中分享DL的相关知识,所以个人感觉有空可以在博客中度阅读一些相关内容,对自己基础和深度了解...

  卷积神经网络(ConvolutionalNeuralNetwork,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。它包括卷积层(convol...

  1、卷积神经网络的概念2、发展过程3、如何利用CNN实现图像识别的任务4、CNN的特征5、CNN的求解6、卷积神经网络注意事项7、CNN发展综合介绍8、LeNet-5结构分析9、AlexNet10、Z...

  卷积神经网络是一种前馈型神经网络,受生物自然视觉认知机制启发而来的.现在,CNN已经成为众多科学领域的研究热点之一,特别是在模式分类领域,由于该网络避免了对图像的复杂前期预处理,可以直接输入原始图像,...

  卷积神经网络(CNN)属于人工神经网络的一种,它的权重共享的网络结构显著降低了模型的复杂度,减少了权值的数量。卷积神经网络可以直接将图片作为网络的输入,自动提取特征,并且对图片的变形(如平移、比例缩放...

  卷积神经网络的训练过程卷积神经网络的训练过程分为两个阶段。第一个阶段是数据由低层次向高层次传播的阶段,即前向传播阶段。另外一个阶段是,当前向传播得出的结果与预期不相符时,将误差从高层次向底层次进行传播...

  一、卷积的定义    1、一维卷积      A信号在B信号上面相乘相加,通常A信号称为滤波器。    2、二维卷积二、卷积神经网    1、卷积结构       局部感受野    2、pooling...

  常用的几种卷积神经网络介绍标签(空格分隔):深度学习这是一篇基础理论的博客,基本手法是抄、删、改、查,毕竟介绍这几个基础网络的博文也挺多的,就算是自己的一个笔记吧,以后忘了多看看。主要是想介绍下常用的...

  1.11【单选题】我国陆地领土面积排名世界第几?(C)A、1B、2C、3D、42【单选题】以下哪个国家不属于金砖五国(BRICS)?(B)A、中国B、日本C、印度D、俄罗斯3【单选题】以下哪位学者主张...

  Windows10操作系统于2015年7月29日正式发布,此后,win10也就成了新上市的笔记本电脑或者台式机电脑的预装操作系统!win10系统给我们带了全新的体验,当然也带来了一定的烦恼!就拿win...

  转载请标明出处:本文出自方志朋的博客错过了这一篇,你可能再也学不会SpringCloud了!Sp...

  问题1.在电脑上观看百度网盘里的学习视频,语速有点慢2.一边观看一边打字做笔记,速度有点跟不上视频的播放PS:没有时间观看罗里吧嗦经过的童鞋可以直接看结果第4点和结论,如果有更好的方法求分享~~经过1...

  2013年年底的时候,我看到了网上流传的一个叫做《Java面试题大全》的东西,认真的阅读了以后发现里面的很多题目是重复且没有价值的题目,还有不少的参考答案也是错误的,于是我花了半个月时间对这个所谓的《...

  中国国防史——秦至两晋南北朝已完成成绩:100.0分1【单选题】中国哪个历史时期的国防是“变法图强,改革军制;奖赏军功,百家论兵”?()A、元朝时期B、先秦时期C、清朝时期D、明朝时期我的答案:B得分...

  现实世界中数据大多都是不完整,不一致的脏数据,无法直接进行数据挖掘,或挖掘结果差强人意。为了提高数据挖掘的质量,我们一般会在对数据建模前对数据进行预处理。数据预处理的过程主要包括:数据质量分析、数据审...

  催经的方法【吐血整理】  1、生姜红糖茶2、益母草颗粒,中成药,很有效。3、乌鸡白凤丸+逍遥丸,艾灸,至少对我这个寒性体质导致的姨妈不来很有效,一周不到姨妈必来.4、 把药膏贴在肚脐眼。气血两虚,...

  一、微服务介绍1.什么是微服务   在介绍微服务时,首先得先理解什么是微服务,顾名思义,微服务得从两个方面去理解,什么是微、什么是服务,微狭义来讲就是体积小、著名的2pizza团队很好的诠...

  Matlab2016a安装包及破解教程百度云分享链接:链接:密码:17ggMatlab安装教程:1、下载文件,得到R2016a_...

  以下面试题为个人在面试过程中所遇到的,仅供参考!如有错误,望指出。技术交流群:365814763 1、servlet执行流程客户端发出http请求,web服务器将请求转发到servlet容器,serv...

  原文出处:韩昊   作者:韩昊知乎:Heinrich微博:@花生油工人知乎专栏:与时间无关的故事 谨以此文献给大连海事大学的吴楠老师,柳晓鸣老师,王新年老师以及张晶泊老师。 转载...

  之前在开发过程中,数据库基本上会使用Litepal和SQlite自己写,最近换新环境,公司原先使用的数据库就是GreenDao,在各种情况的作用下,准备了解下GreenDao,顺便写一篇文章记录下Gr...

  本篇收录了一些面试中经常会遇到的经典面试题以及自己面试过程中遇到的一些问题,并且都给出了我在网上收集的答案。马上就要过春节了,开年就是崭新的一年,相信很多的前端开发者会有一些跳槽的悸动,通过对本篇知识...

  说到图片提取文字,有时候我们还真的会遇到这样的情况。今天我跟大家分享提取文字的好方法,分为手机端、PC端和在线端,大伙儿自个儿看着用吧。一、手机端1、QQ有没有很意外?现在使用QQ的人好像越来越少了,...

  KafkaKafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时...

  目录2.0卷积神经网络简述2.1 二维卷积层2.1.1.二维互相关运算2.1.2.图像中物体边缘检测2.1.3.VGGNet实例边缘检测分析2.0卷积神经网络简述本章将介绍卷积神经网络。它是近年来深度...

  支持向量机通俗导论(理解SVM的三层境界)作者:July。致谢:pluskid、白石、JerryLead。说明:本文最初写于2012年6月,而后不断反反复复修改amp;优化,修改...

  /***$(#table).bootstrapTable({});*看网上有中文版的,但有些就是字面直接译过来了,而且有的就没有翻译,那就打算自己再翻译一遍,每一条会尽*最大可能结合尽可能多资料翻...

  1.WhatisCiteSpace?CiteSpace:引文空间是一款眼着与分析科学分析中蕴含的潜在知识,是在科学计量学、数据可视化背景下逐渐发展起来的一款引文可视化分析软件。由于是通过可视化的手段...

  先描述下公司共享打印机的连接的状况:一台台式机运行XP系统,通过USB连接的惠普(HPLaserJetP2015)打印机,然后共享出来给局域网内其它电脑使用。我包括很多同事安装的win7系统,无法连接...

  前言抖音短视频APP里虽然有保存视频的按钮,但这种方式保存的视频右下角有抖音的水印,并且这种方式不适用于电脑。所以,写这篇文章来分享如何下载没有水印的抖音视频到本地,此方法适用于电脑和手机,且不需要安...

  任务代码:执行情况:知识总结:冒泡排序法:也叫升序排序法,但是相比起二分法查找只能应用于有序数列,二如何将一个无序数列变的有序就可以使用冒泡排序法!!!对上面的过程进行总结:该思想体现在成续上的解法是...

  简单来说内网穿透的目的是:让外网能访问你本地的应用,例如在外网打开你本地指向的Web站点。最近公司的花生壳到期了,要续费,发现价格一直在涨,都是5年以上的老用户,旗舰版...

  虽然新浪微博APP自己没有提供下载微博视频的功能,但我们可以借助第三方工具来下载微博视频。网上很多是要安装软件到电脑上才能用的,但如果我们想在手机上用,就用不了。所以今天分享一个在手机上也能下载微博和...

  一个奇鸽船新版本是一套小奇鸽提供的系统工具集,其中包含了大量超级实的优秀小功能,譬如文字处理、重复名字(王者荣耀)、特殊网名(用于网络昵称)等等,每一个都非常实用,绝对值得你了解、收藏并使用它们。  ...

  电脑显示已连接网络但是无internet访问自己电脑不知道出什么问题了,连接到无限网络但是无法访问,一开始以为是自己双系统的问题,然后自己在ubuntu那边是可以正常上网的。下面是自己的解决方法方法一...

  上篇文章,我们分享了手机上下载微博和秒拍视频的方法。最近,因为今日头条对火山小视频大额补贴,越来越火了。网上有很多火山无水印视频提取软件,但是需要安装到电脑上,很多人觉得很麻烦。今天分享个网页版,无需...

  今天电脑开机出现一个问题,上面显示这样一段文字Windows未能启动,原因可能是最近更改了硬件或软件,解决此问题的步骤,然后自己上网找方法,网上无非就是重装系统,然后就只能自己捣鼓了,然后发现一个...

  百度云的下载链接(永久有效)链接:密码:pfl3Matlab用途:点击打开链接与网盘资源相对应的安装教程1.将网盘中的3个文件下载下来后...

  100个小学生猜字谜大全及答案1.字谜:山上还有山。猜一字,答案是:出2.字谜:十张口,一颗心。猜一字,答案是:思3.字谜:说它小,下边大,说它大,上边小。猜一字,答案是:尖4.字谜:一只黑狗,不叫不...

  Tensorflow作为主流的深度学习框架,初学者们根据教程一步一步的敲代码是十分方便,封装的非常好。但是说实话,这种过度的封装在一定阶段真的让人非常抓狂,尤其是在自己写一个小例子的时候,很多时候会发...

  设样本均值为,样本方差为,总体均值为,总体方差为,那么样本方差有如下公式:  很多人可能都会有疑问,为什么要除以n-1,而不是n,但是翻阅资料,发现很多都是交代到,如果除以n,对样本方差的估计不是无偏...

  【天池大数据竞赛】FashionAI全球挑战赛—服饰属性标签识别【决赛第21名解决方案】阅读数3614

  图像特征提取三宝:HOG特征、LBP特征、Haar-like特征阅读数1030

  aha_777:博主您好,我是服装工程专业的学生,想做小样本的服装样板识别和分类,因为是自己做所以样本量很小,可能1000-1500张左右。 请问这个样本量您觉得用什么图像识别方法比较好呢?曾经咨询过,有人说这个样本量也能用神经网络做,也有人建议SVM即可。 请问关于这个目标,迁移学习可行吗? 感谢您在空闲之余回复!

  少女时代和2PM同台演出。在最后谢幕时,2016管家婆心水报Tiffany和尼坤对看,而泰妍夹在中间无表情。而且,在《Korean Music Wave in BANGKOK》时,刚好也是泰妍、Tiffany和尼坤携手主持,三人同台画面再现。

  可选中1个或多个下面的关键词,搜索相关资料。也可直接点“搜索资料”搜索整个问题。

  脸蛋美的韩国男子组合2PM的成员Nichkhun,最近的人气可谓越涨越高,除了忙碌的组合活动之外,Nichkhun还要回到泰国办办见面会,然后再小编一块在Nichkhun最新的生活私照+机场街拍合辑中,感受“泰国王子”的强大魅力吧!



上一篇:新规来了!快递员未经同意不得将包裹放到智能快递柜…你怎么看? 下一篇:福州顺丰快递包装袋收费1元?顺丰公司回应:为了环保