手机浏览器扫描二维码访问
第14章 一不小心站在了技术发展的最前沿（第1页）
2014年，人工智能领域正处于深度学习的快速发展时期，但在训练深层神经网络时，仍存在一些无法绕过的核心难题，其中“梯度消失”和“梯度爆炸”问题尤其突出。
当马库斯和林枫的对话逐渐转向这些人工智能瓶颈时，他们自然聊到了这个话题。
对于人工智能涉及到的梯度消失和梯度爆炸这个问题，对于前世就从事人工智能方面工作的林枫来说，他自然是不陌生。
梯度消失和梯度爆炸是神经网络训练中常见的问题。
了解梯度消失和梯度爆炸首先要了解神经网络。
简单说，神经网络是一种模仿人脑工作原理的计算模型。
它由很多“神经元”组成，这些神经元分成多层，数据会从一层传到另一层，最终得到一个结果。
训练神经网络的过程就是不断调整这些神经元之间的“连接强度”，让网络的输出越来越接近我们想要的结果。
为了调整神经网络中的这些连接强度，我们需要用到一种叫“梯度”的东西。
简单来说，梯度就是用来指引我们“往哪里走”的方向，就像你爬山时要知道往哪边是上坡、哪边是下坡。
我们通过“梯度”来知道哪些参数需要调整，从而让网络的表现变得更好。
那“梯度消失”和“梯度爆炸”又是什么呢？
假设你在玩一个滑滑梯，当你站在滑梯的最高处，往下滑时，你能很快感受到速度在增加，因为坡度很大。
但是，如果滑到快要到底部的地方，坡度变得很小，你几乎就感觉不到滑动的速度了。
这里的“坡度”就像是“梯度”——当坡度变小，滑动的速度也变小。
在神经网络中，类似的事情也会发生。
如果我们给网络很多层，它们之间的梯度会越来越小，传到前面几层时，梯度几乎“消失”了。这就是“梯度消失”问题。
梯度太小，无法有效调整那些神经元的连接强度，网络的训练就会变得非常困难。
想象你在爬一个大山，山的坡度越来越平，最终你几乎感受不到自己在上升了，这时你很难再判断该怎么继续往上爬。
在神经网络里，梯度消失的问题就是这种感觉，网络不知道该如何继续改进。
而梯度爆炸又是另外的一个极端。
假设这次你站在一座非常陡的悬崖边，一不小心就滚下去了！
因为坡度太陡了，你的速度变得非常快，失控了。
在神经网络中，这种情况也被称为“梯度爆炸”
从火影开始成为技能大师的魔界人 老街杂货铺 综穿带着王者系统当bKing 剑道魔神 绑定签到系统，她让华国崛起了！ 小小领主不好惹！惹急眼了争天下 全民巨鱼求生：我能听到巨鱼心声 穿越后，我被新帝瞄上了 贾二虎的迷乱青春续集 量子的纠缠 从秘密调查开启反腐之路 十倍返现，神豪姐姐在线打赏 妖月悬空，开局觉醒双星核 为妾的职业操守 趣谈老祖宗那些事儿 祁木温年 弹指可灭大帝，却一直苟着不出世 心有灵犀：人狗情未了 豪门中的古代婆媳战争 王凌在明末
我是他爸爸
中午，秦冲去相亲，下午回来之时却多了一个小鼻涕虫，从此，秦冲的身边多了一个跟屁虫，逢人就讲他是我爸爸。...
腹黑爹地酷妈咪夏云熙
主要人物夏云熙，傅少弦夏云熙从未想过有一天她会丢了傅少弦。她本是夏家最受宠的三小姐，一夕巨变，被逼远走他乡。三年后，她携子归来，他依然是高高在上的傅家三少，而她早已不是千金小姐。本以为他们再无机会，他却依然对她如初！新婚之夜，他冷冰冰的掐着她的下巴说，云熙，我们离婚！...
双面总裁爆宠小甜妻全文免费阅读
主角秦怡严易泽新郎出轨闺蜜，秦怡一气之下嫁给了众所周知的严家傻子少爷严易泽，做好了守一辈子活寡的准备，谁知新婚夜，痴痴傻傻的严易泽竟露出了邪魅的笑容，秦怡这才意识到所有人都被他给骗了军婚小说网提供秦怡严易泽最新章节，秦怡严易泽全文免费阅读，秦怡严易泽无弹窗广告清爽在线阅读体验各位书友要是觉得双面总裁爆宠小甜妻全文免费阅读还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦！...
全能神医
...
超甜警报：临时长媳励志史
季薇薇平凡的白领生活，结束于被迫上岗担任绯闻粉碎机！她得消灭顶头上司的绯闻，撇清自己跟腹黑上司的绯闻，万万没想到，总裁的绯闻就像是韭菜一茬一茬割得她心力交瘁，一路被目击自己跟顶头上司，同居，怀孕，当众领证！摔，我要辞职！上司却紧紧拥着她辞职可以，少夫人的位置要即刻上岗！高甜心跳，全程狗粮，平民鲜爱，暖到发烫！打脸无忧，渣男躺枪，反转逆袭只有最爽，亲妈作者来护航！...
神交系武道(李鸿天)全文免费
庆历九年，天下大乱。恰逢人族禁武八百载，神魔妖仙等异族列强打破人族封闭门户，瓜分神州大地。生灵涂炭，民不聊生。方舟获得传武书屋，觉醒移魂神通。降临他人肉身便能提取对方所掌握的武学并且改良升级。你降临了女剑客的肉身，与其神交，提取功法并改良成独孤九剑你降临了小太监的肉身，与其神交，提取功法并改良成葵花宝典你降临了菩萨肉身，与其神交，提取功法并改良成十八镇狱劲你又降临了佛子帝子妖女你改良出了如来神掌他化自在法吞天魔功移魂传武，布道天下。这是一个少年以魂神交天下英豪，一步一步成为人族武道传说的故事！...