• UID19586
  • 登录2017-12-08
  • 粉丝0
  • 关注0
  • 发帖103
  • 主页
  • 金币341枚
联璧港 发布于2017-12-04 13:36
0/27

联璧港:深度学习和普通机器学习之间有何区别?

楼层直达
本质上,深度学习提供了一套技术和算法,这些技术和算法可以帮助我们对深层神经网络结构进行参数化——人工神经网络中有很多隐含层数和参数。深度学习背后的一个关键思想是从给定的数据集中提取高层次的特征。因此,深度学习的目标是克服单调乏味的特征工程任务的挑战,并帮助将传统的神经网络进行参数化。
现在,为了引入深度学习,让我们来看看一个更具体的例子,这个例子涉及多层感知器(MLP)
MLP中,感知器这个词可能有点让人困惑,因为我们并不想只在我们的网络中使用线性神经元。利用MLP,我们可以学习复杂的函数来解决非线性问题。因此,我们的网络通常由连接输入和输出层的一个或多个隐藏层组成。这些隐藏的层通常有某种S型的激活函数(logs-s形或双曲正切等)。例如,在我们的网络中,一个逻辑回归单元,返回0-1范围内的连续值。
其中y是最终的类标签,我们返回的是基于输入x的预测,“a”是我们激活的神经元,而“w”是权重系数。现在,如果我们向这个MLP添加多个隐藏层,我们也会把网络称为深度。这种深度网络的问题在于,为这个网络学习的权重变得越来越难。当我们开始训练我们的网络时,我们通常会将随机值赋值为初始权重,这与我们想要找到的最优解决方案很不一样。在训练过程中,我们使用流行的反向传播算法(将其视为反向模式自动微分)来传播从右到左的错误,并计算每一个权重的偏导数,从而向成本(错误”)梯度的相反方向迈进。现在,深度神经网络的问题是所谓的消失梯度”——我们添加的层越多,就越难更新我们的权重,因为信号变得越来越弱。由于我们的网络的权重在开始时可能非常糟糕(随机初始化),因此几乎不可能用反向传播来参数化一个具有深度的神经网络。
这就是深度学习发挥作用的地方。粗略地说,我们可以把深度学习看作是一种聪明的技巧或算法,可以帮助我们训练这种深度神经网络结构。有许多不同的神经网络结构,但是为了继续以MLP为例,让我来介绍卷积神经网络(CNN)的概念。我们可以把它看作是我们的MLP附加组件,它可以帮助我们检测到我们的MLP“的输入。
在一般机器学习的应用中,通常有一个重点放在特征工程部分;算法学习的模型只能是和输入数据一样好。当然,我们的数据集必须要有足够多的、具有辨别能力的信息,然而,当信息被淹没在无意义的特征中,机器学习算法的性能就会受到严重影响。深度学习的目的是从杂乱的数据中自动学习;这是一种算法,它为我们提供了具有意义的深层神经网络结构,使其能够更有效地学习。我们可以把深度学习看作是自动学习特征工程的算法,或者我们也可以简单地称它们为特征探测器,它可以帮助我们克服一系列挑战,并促进神经网络的学习。
让我们在图像分类的背景下考虑一个卷积神经网络。在这里,我们使用所谓的接收域”(将它们想象成窗口”),它们会经过我们的图像。然后,我们将这些接受域”(例如5×5像素的大小)和下一层的1个单元连接起来,这就是所谓的特征图。在这个映射之后,我们构建了一个所谓的卷积层。注意,我们的特征检测器基本上是相互复制的——它们共享相同的权重。它的想法是,如果一个特征检测器在图像的某个部分很有用,它很可能在其他地方也有用,与此同时,它还允许用不同的方式表示图像的各个部分。
联璧港,BD必备信息发布共享平台:www.lbp365.com

0人打赏
您需要登录后才可以回帖
发表回复
极贡献
技术问答
专题荟萃
程序人生
视觉设计
Android开发
iOS开发
编程语言
前端开发
后端开发
服务器架构
软件测试
运维方案
创业路上



最热文章墙

  • 80581/379   【精品推荐】200多种Android动画效果的强悍框架,太全了,不看这个,再有动画的问题,不理你了^@^

  • 45809/191   情人节福利,程序员表白的正确姿势:改几行代码就变成自己的表白了

  • 45498/0   Python爬虫:常用浏览器的useragent

  • 42016/261   【精品推荐】Android版产品级的音乐播放器源码,功能太强大了,最好的产品原型有木有?

  • 39011/145   省时省力的Android组件群来了,非常棒的原型参考

  • 30465/143   2016抢红包软件及源码

  • 29524/71   原创表白APP,以程序员的姿势备战新年后的7夕,持续完善中!

  • 29452/2   超全!整理常用的iOS第三方资源

  • 24784/161   Android版类似UC浏览器:非常赞,产品级的源码

  • 23028/31   麻省理工的一帮疯子,真的实现了随意操控万物!(绝对黑科技)

  • 22730/26   Android工程师面试题大全

  • 22689/27   2016程序员跳槽全攻略

  • 22061/10   GitHub上排名前50的iOS项目:总有一款你用得着

  • 21063/21   码魂:程序员的牛B漫画

  • 19280/74   【持续更新中】Android福利贴(二):资料源码大放送

  • 19279/85   Android小而全的博客源码:非常适合全面掌握开发技巧

  • 19145/43   一个绚丽的loading动效分析与实现!

  • 19102/10   2016年最全的Android面试考题+答案 精编版

  • 18864/3   吐槽那些程序员的搞笑牛逼注释

  • 17848/45   惊艳的App引导页:背景图片切换加各个页面动画效果

  • 17748/104   Android带弹幕的视频播放器源码,来自大名鼎鼎的Bilibili弹幕网站

  • 17731/1   iOS 动画总结

  • 17709/82   仿京东商城客户端Android最新版,不错的原型和学习资料

  • 17363/25   个人收集的Android 各类功能源代码

  • 16888/5   新一代Android渠道打包工具:1000个渠道包只需要5秒

  • 16845/22   Android福利第三波【Android电子书】

  • 16652/1   iOS中文版资源库,非常全

  • 16648/81   【精品推荐】类似360安全卫士安Android源码:非常赞的产品原型

  • 16614/54   基于瀑布流的美女图片浏览App,有注释的源代码

  • 16488/18   用JavaScript 来开发iOS和Android 原生应用:React Native开源框架中文版来啦

  • 16482/10   女程序员的梦,众网友的神回复

  • 16187/11   年会上现场review代码是怎么样的体验!

  • 16185/23   珍藏多年的素材,灵感搜寻网站

  • 15791/19   65条最常用正则表达式,你要的都在这里了

  • 14980/16   基于Android支付宝支付设计和开发方案

  • 14391/11   有木有这样一张酷图帮你集齐所有git命令超实用

  • 14312/18   什么是真正的黑客:收获12200+Stars,人气远超微软开源VS

  • 14130/47   在线音乐播放器完整版(商用级的源码):非常赞,可听免费高品质专辑

  • 13929/62   【技巧一】搭配Android Studio,如何实现App远程真机debug?

  • 13814/0   GitHub iOS 库和框架Top100 

  • 13656/7   用程序员的姿势抢过年的火车票

  • 13625/7   一张图搞定iOS学习路线,非常全面

  • 13260/10   成为Java顶尖程序员 ,看这11本书就够了

  • 13219/10   微信支付终于成功了(安卓,iOS),在此分享

  • 13102/18   一张图搞定Android学习路线,非常全面

  • 12954/29   【持续更新中】Android福利贴(一):资料源码

  • 12857/4   基于Node.js的强大爬虫,能直接发布抓取的文章哦

  • 12661/4   46 个非常有用的 PHP 代码片段

  • 12129/3   即时通信第三方库

  • 11556/9   流媒体视频直播方案

  • 11512/18   八个最优秀的Android Studio插件

  • 11364/9   B站建开源工作组:APP想支持炫酷弹幕的看过来

  • 11191/2   【精品推荐】高质量PHP代码的50个实用技巧:非常值得收藏

  • 11136/9   烧了5亿美金,这家神秘的公司即将颠覆人类未来!

  • 11063/12   中国黑客的隐秘江湖:攻守对立,顶尖高手月入千万美元

  • 10495/1   基于node-webkit跨平台应用案例集之(一)

  • 10315/6   开箱即用!Android四款系统架构工具

  • 10113/11   十大技巧快速提升Android应用开发性能

  • 10098/4   10款GitHub上最火爆的国产开源项目——可以媲美西半球

  • 10055/2   Android性能优化视频,文档以及工具

  • 返回顶部