已汩医疗器械有限公司

当前位置:已汩医疗器械有限公司 > 工程案例 > >> 浏览文章

原创美国大学研发“早鸟法”训练深度神经网络 可缩短10.7倍能耗

原标题:美国大学研发“早鸟法”训练深度神经网络 可缩短10.7倍能耗

盖世汽车讯 据外媒报道,美国莱斯大学(Rice University)研发了一栽高效节能的深度神经网络(DNN)训练手段——称为“Early Bird”(早鸟法),而深度神经网络是自动驾驶汽车、智能助理、面部识别和各栽高科技行使背后的一栽AI(人工智能)技术方法。

滦平县阴愉装饰设计有限公司

(图片来源:莱斯大学)

莱斯大学和德克萨斯农工大学的钻研人员外示,用Early Bird训练DNN时所消耗的能量可缩短10.7倍,而且精度程度与清淡的训练手段相通,甚至更益。

钻研人员外示:“近来AI技术突破的主要驱动力在于引入了更大、更腾贵的DNN。但是训练此类DNN必要大量的能量。要想推出更众创新产品,必须找到更绿色的训练手段,既要解决环境题目,还必要缩短AI钻研的财务窒碍。”

训练尖端的DNN专门腾贵,而且成本越来越高。2019年的一项钻研发现,2012至2018年间,训练一流深度神经网络的计算需求增补了30万倍。另一项钻研也外明,训练一个精英款DNN的能耗相等于5辆美国SUV一生的二氧化碳排放量。

DNN包含数百万甚至数十亿幼我工神经元,学习实走稀奇义务。异国任何清晰的编程,由人工神经元组成的深度网络能够经由过程“学习”大量先前的例子,学习做出与人类相通的决定,甚至还能够超越人类行家。例如,倘若一个DNN钻研了猫和狗的照片,就会学会识别猫和狗。2015年,一个被训练用于玩棋类比赛的深度神经网络AlphaGo在学习了数万个之前所玩过的棋类游玩后,成功击败了别名做事棋手。

钻研人员外示:“现在,最先辈的 DNN训练手段称为渐进式修整与训练。最先,必要训练一个浓密、重大的神经网络,然后移除望首来不主要的片面,就像给一棵树修整相通。然后,重新训练经过修整的网络,以恢复其性能,工程案例由于修整之后的性能会消极。在实践中,则必要众次进走修整,并重新训练,才能获得卓异的外现。第一步,即训练浓密、重大的网络,是最腾贵的,所以必要在第一步就确定益最后、功能齐全、经过修整的网络,即“early-bird ticket”(早鸟票)。”

经由过程在训练早期追求关键的网络连接模式,钻研人员发现了“早鸟票”的存在,并行使早鸟票简化DNN训练。在各栽相关基准数据荟萃DNN模型的实验中,钻研人员们发现,“Early Bird”在最初训练阶段展现的几率只有相等之一,甚至更少。

钻研人员外示:“吾们的手段能够在训练浓密、重大的网络前,早10%或更早地自动识别出早鸟票。意味着,与训练DNN的传统手段相比,可缩短约10%或行使更少的时间来训练DNN,而且能够达到相通甚至更高的准确度,从而既可撙节计算、又可撙节能耗。”

原标题:中国石化:我国国产化程度最高炼化一体化项目投产

2020年的春招已经进入尾声,疫情下毕业生都觉得好“难”。其实,回顾近几年的大学生就业市场,每一年都被成为“史上最难就业季”。毕业人数逐年增加、科技迭代迅速使得大学生面临着更高的竞争与技能要求。

原标题:网友每天给流浪橘猫喂食,谁知家猫默默在窗口冷望,正宫VS小三?

经济合作与发展组织(经合组织)10日发布经济展望报告,就新冠肺炎疫情得到控制和第二波疫情在今年年底前暴发两种假设,提出不同经济前景预估。

原标题:东北历史(134):渤海国在吉林省的首都,为啥都成了废墟?

 

随机文章

相关站点

友情链接

Powered by 已汩医疗器械有限公司 @2018 RSS地图 html地图

Copyright 站群系统 © 2013-2018 版权所有