范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文

什么是深度学习?什么是类脑计算?

  现如今,谈起人工智能我们都会想到的是"深度学习"(deep learning),无论是战胜李世石的AlphaGo,还是能够随意写出人类水平文章的GPT-3,它们的背后都依托的是这套算法。
  它具有很好的数学解释性,与现有的计算机架构完美匹配,但也存在需要大量数据训练、耗能巨大以及随之而来的产热惊人等问题,为此最前沿的研究者提出了"类脑计算"的概念,想要通过进一步模仿人类大脑的运行方式,重构计算机的底层架构,好让人工智能摆脱这种越好用成本越高的窘境。
  目前,新兴的"类脑计算"还没有大规模应用,但各项研究已经取得了一定的突破,今天首席未来官特意为你梳理了"类脑计算"的底层原理,并通过与"深度学习"算法的对比,让你提前了解这个可能会颠覆未来计算机产业的新技术。
  1. "深度学习"的原理
  "深度学习"算法本质是对人类大脑视觉系统的模仿,因为人的视觉系统由很多层神经网络组成,层与层之间通过学习训练生成连接的通路,所以被称为"深度学习"。
  深度学习算法虽然在层级上模拟了视觉系统,但受限于电脑结构中存储与运算分开的模式,做不到像人类的神经元一样将计算(神经元)和存储(突触)一体化,于是把神经元的运作方式抽象成了一个输入与输出结合的计算过程。
  这就导致了原本一个神经元能够完成的任务,在计算机上需要大量的计算单位才能完成。2021年8月10日,在Neuron上发布的一项研究显示,人脑一个神经元的功能在深度算法中需要1000个以上的计算单元通过5到8层的深度网络实现。
  2. 先天缺陷带来的短板
  由于需要大量计算单元才能实现单个人类神经元的功能,这就直接导致了深度学习要实现与人脑相似的功能复杂程度就会更高。
  如今在语言模型上最强的GPT-3拥有1750亿个参数,做个简单推导也就相当于1.7亿个人类的脑神经元,而人脑的神经元个数在100亿左右,如果把人脑神经网络的复杂连接再算上,要完全模拟一个人脑出来的耗能将难以想象。
  更多的计算单元也就意味着更大的能量消耗,同样拿GPT-3为例,它训练一次消耗的能量可以让一辆车在在地球与月球之间跑完一个来回,而只用来下围棋的Alpha Go仅计算单元的功率也有2000W的水平,与之相对的是坐它对面的李世石的大脑耗能只需要20W左右,是它的百分之一。
  3. 模仿神经元的"类脑计算"
  为了解决深度学习的问题,科学家提出了进一步模拟人脑"神经元—突触"体系的"类脑计算"思路,分别从算法和硬件两方面探索打造"人工大脑"的方法。
  算法层面上,目前的研究重点是"脉冲神经网络"(Spiking Neural Network,简称SNN),顾名思义就是模仿神经脉冲信号传递、运算的人工智能算法,SNN的最大优点在于,相较传统算法中每个计算单元始终处于活跃状态不同,其每个计算单元只有在接受或者发出信号时才被激活,同时它进行的只有加减运算,节省了运算资源也减小了求和量。
  但脉冲本身的不连续性使得传统的人工智能训练模式并不能适用于它,所以其性能尽管理论上可以与深度学习算法相匹配,相应的训练模式还处于研究阶段。
  硬件层面,类脑芯片也开始兴起,不再像传统计算机中的"冯·诺依曼架构",把存储与计算功能分离,使得每次计算都要在内存和CPU上频繁调用数据,导致信息效率差、发热高,而是基于微电子技术和新型神经形态器件的结合,实现存储与计算的深度融合,使芯片能够进行异步、并行、低速和分布式处理信息数据,并具备自主感知、识别和学习的能力。
  4. 4款类脑芯片
  ·IBM TrueNorth(SyNAPSE芯片)
  2014年8月,IBM公司推出了第二代类脑芯片"True North",工艺进化到了28纳米,拥有了100万个可编程神经元和2.56亿个可编程数据传输通道。
  这次最大的进步在于"神经突触内核架构",让其中每个计算核心(神经元)都拥有了本地内存,工作方式已经非常类似人脑中的神经元,总功耗降低到了第一代的1%,体积是第一代的十五分之一。
  ·英特尔Loihi芯片
  Loihi芯片是英特尔的首款自学习神经元芯片,历时十年研究设计,可以像人类大脑一样,通过脉冲或尖峰传递信息,并自动调节突触强度,通过环境中的各种反馈信息,进行自主学习、下达指令。
  据英特尔的数据,该芯片内部包含了128个计算核心,每个核心集成1024个人工神经元,总计13.1万个神经元,彼此之间通过1.3亿个突触相互连接,运算规模和虾脑相当。
  ·高通Zeroth芯片
  Zeroth不需要预编程,通过正向强化的方式,提供了类似人类大脑多巴胺刺激的方式,让芯片具备了从周围环境获取反馈的能力,高通用装载该芯片的机器小车进行演示,使小车在自行启发算法下完成寻路、躲避障碍等任务。
  ·西井科技DeepSouth芯片
  西井科技是一家中国公司,已推出了两款类脑芯片,其中DeepSouth拥有5000 万类脑神经元,总计有 50 亿的"神经突触",可以直接在芯片上完成计算,不需要通过网络连接后台服务器,可在"无网络"情况下使用。

小米MIXvs魅族MIX?小米商标被驳回5月6日,天眼查App显示,小米科技有限责任公司与国家知识产权局一审行政判决书公开,小米申请的MIX商标被驳回。熟悉小米品牌的小伙伴都知道,MIX系列是小米定位高端的旗舰手机,曾经商标已就绪!鸿蒙OS正式版即将推送近日,小知企查查发现,华为于2021年4月22日注册了文字为PoweredbyKunpeng的图形商标,分类为42类设计研究,目前状态为注册申请中。据悉,此商标预计将用于华为鲲鹏台27岁女子400栋楼收租引发巨大争议真正的后浪是什么样子?01hr如果人生可以选择,你想做的职业是什么?医生律师老师警察网红公司老板也有很多年轻人调侃说,我只有一个小目标包租婆。前几天的一个视频在网上火了,让不少人对这个小目标的憧憬更加强刘敏涛酒后登台献唱?表情失控,严肃的人突然逗比,能笑死人这两天的热搜,可以说是被刘敏涛承包了。涛姐本人回应说我真的没醉。小编想说,姐呀,你的表情管理到底怎么了?????但凡有点花生米,也也不至于醉成这样啊!大预言家杨迪曾经说过,刘敏涛有李佳琦团队被挖走,1700万网友急了这才是普通人最好的逆袭前几天,李佳琦突然在直播间里宣布,小助理付鹏正式退出直播。话语一出,网友惊呆一直陪在李佳琦身边的小助理怎么突然要离开了?小助理的离开似乎早有预兆。此前就有传闻说,疑似李佳琦的团队被罗志祥回归第一场节目就被骂街网友想看他回内地的公关如何打由罗志祥主持的娱乐百分百最新一期播出,节目播出后看似并未受其负面新闻缠身的影响。此前,节目组曾表示罗志祥和简恺乐(蝴蝶姐姐)录制好的节目均会照常播出,疑似给出信号,罗志祥在台湾的事伊利股份国内乳业第一品牌,三季报低于预期不改英雄本色选股理由业绩稳定增长短期股价大幅回调证券代码600887评级AAA本文分为六部分一业务与行业二公司治理三财务分析四核心竞争力及投资逻辑五盈利预测及估值六投资观点(快速阅读可只读加粗Nvidia表示DLSS在Windows11上表现更为强劲英伟达正在全方位扩展其深度学习超级采样(DLSS)功能。该公司宣布了28款新游戏,这些游戏将在未来几个月内支持升级技术,以及即将发布的Windows11版本的驱动程序和一项可以使游美国学生竟然没寒暑假作业?1美国中小学生没有寒暑假作业,美国中学学校通常有四个长假期,感恩节,寒假,春假和暑假,此外,还有一些国家的公共假日。2感恩节,11月第四个星期四是感恩节,放假五到七天假期较短。3寒云南白药中药第一品牌,多元化趋势下消费品的增长是关键选股理由营收及净利润稳定增长近期股价创历史新高证券代码00538评级AA本文分为六部分一业务与行业二公司治理三财务分析四核心竞争力及投资逻辑五盈利预测及估值六投资观点(快速阅读可只iQOONeo3火得一塌糊涂,根本原因是偏激到癫狂喜欢打游戏的手机玩家往往都对手机有着特殊的癖好,比如说握着手机用什么姿势声音调到多大屏幕调到多亮等等,有了自己的肌肉记忆,玩游戏的时候才能爆发出全部的力量。实际上,人是如此,手机更
会员,为什么还插广告真想问问爱奇艺,我的会员是假的么,最近很喜欢看的电视剧突围,打开爱奇艺()看了不长时间突然出现唯品会广告,真是烦人会员不是屏蔽广告么,怎么还能出现,真是太烦人了,很影响观看电视剧的解放战争中,四战四平一场改变国共战场命运走向的战役一背景介绍解放战争期间,在1946年6月26日,双方停战期刚过。国民党的军队在中原地区的湖北安徽河南交界大别山区把中原解放区的共产党军队包围在以宣化店为中心的罗山光山商城等的狭小地中国历史上推动中华民族大一统的皇帝出巡(一)在中国历史上许多皇帝喜欢出巡,来巡视自己的国土,以显示自己国家的强盛,和自己的丰功伟绩,比如汉武帝刘彻,喜欢海,经常驾车巡游全国各地,还有康熙和乾隆,都在生前多次南巡。这些帝王通过中国古代皇帝出宫巡游那些事儿(二)康熙皇帝和乾隆皇帝是清朝和我国封建历史上在位时间最长的皇帝,康熙在位六十一年,作为孙子的乾隆,因孝道不超过爷爷康熙六十一年,乾隆在位60年加太上皇四年。两位皇帝把中国的封建王朝的最被薅200万羊毛,元气森林再上热搜,真是操作失误?元气森林又摊上事了。10月26日,有消息称,元气森林淘宝店铺因优惠设置错误,导致价值260元的产品,实付款只有约10元左右,共造成200多万元的损失。6元12瓶3箱36瓶,共需10电动车行业新风向!户外广告亮相全国台铃加速领跑旺季市场近日,台铃电动车继体育营销和综艺营销两大杀手锏领跑旺季后,开启全方位的户外广告刷屏模式。全新的品牌相关覆盖全国各大城市,城市商业中心橱柜门店住宅小区公共交通等随处可见台铃广告,为旺iOS14。5。1版本更新,修复App广告跟踪,苹果建议所有用户更新就在今日凌晨,苹果对外正式发布了iOS14。5第一个子版本iOS14。5。1,这也是在iOS14。5更新以后用户最为迫切更新的版本,因为在之前14。5版本尽管推出了重磅功能限制APiOS14。6Beta2版本正式推送!APP广告追踪依旧无法开启今日凌晨,苹果对外正式推送了iOS14。6的第二个测试版本beta2,距离上一个测试版本beta1正好过了一周时间。此次iOS14。6beta2安装包发现在305。4M左右,如下图我夏天的命是这床冰丝凉席给的现在国内各大城市已经热成蒸炉了。虽然有空调,但是也不能整天开啊,毕竟空调费伤不起啊。家中老人小孩体质差,还要担心着凉或者得空调病。吹风扇身上又黏腻腻的。所以夏天真的太需要凉爽的席子视觉AI构建智慧教育新生态,虹软开放平台亮相教装展4月23日,第79届中国教育装备展示会(以下简称教装展)在厦门国际会展中心正式拉开帷幕。作为智慧教育行业的市场风向标,本届教装展呈现了大量业内最前沿的技术产品和解决方案,超过130最便宜华为nova7曝光40W快充或搭载天玑70012月17日消息,今日据数码闲聊站消息称,nova7SE5G乐活版即将发布,同时放出该机渲染图片,这将是目前定位和定价最低的版本。外观方面,nova7SE5G乐活版与nova7SE