范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文

英伟达发布ChatGPT专用GPU,性能提升10倍

  Pine 发自 凹非寺
  量子位 | 公众号 QbitAI
  "AI的iPhone时刻已至",英伟达或成最大赢家。
  在GTC2023大会上,黄仁勋接连放出大招:
  不仅发布了ChatGPT专用GPU,比之前就能实时处理ChatGPT的HGX A100快了10倍 ;
  还公布了其在芯片领域的进展,推出了新的cuLitho软件库,使光刻计算速度整体提高了40倍 。
  从老黄的言语中也能得知,当下各种爆红的AIGC产品:ChatGPT、Stable Diffusion、DALL-E等都能见到英伟达的身影。
  而去年年末至今,ChatGPT爆火,也顺势拉动了英伟达的股价,年初至今就上涨83%。
  目前,英伟达的市值为6471亿美元。
  会上及会后采访中,老黄的言语之中也是透露着对AI生成内容的褒奖:
  AI是用人类语言编程的新型计算机,未来每个人都将是程序员。
  话不多说,会上具体都有哪些亮点,一起盘点下~发布ChatGPT专用GPU
  会前,网友们对GTC的猜测都集中在ChatGPT上。
  而英伟达,也是毫不吝啬,不止ChatGPT,AIGC方面直接一把推出了四种 针对AI任务的推理平台:L4 Tensor Core GPUL40 GPUH100 NVL GPUGrace Hopper超级芯片
  其中,H100 NVL GPU 是英伟达这次推出的ChatGPT的专用GPU ,它是基于去年已经发布的H100的改进版本:配备双GPU NVLink,将两张拥有94GB HBM3显存的PCIe H100 GPU拼接在一起。
  性能的话,老黄形象地做了个对比:
  相较于目前唯一可以实时处理ChatGPT的HGX A100,一台搭载四对H100和双NVLINK的标准服务器能将速度提升10倍,并且还可以将大语言模型的处理成本降低一个数量级。
  期间,老黄还展示了自己亲自把首款签名版DGX交付给OpenAI的画面。
  然后再来说下其他三个推理平台:
  L4 是专门针对AI生成视频设计的一款通用GPU,它提供的视频性能比CPU高出整整120倍,能效提高了99%。
  L40 则是用在图像生成上的GPU,它能对AI生成2D、3D图像进行优化,相较于英伟达的云推理GPU T4,性能提升了10倍。
  Grace Hopper超级芯片 用在推荐系统和大型语言模型AI数据库上,图推荐模型、向量数据库和图神经网络都可以选择这款芯片。
  更具体一点,通过900GB/s高速芯片对芯片的接口,Grace Hopper超级芯片可连接Grace GPU和Hopper GPU,而Grace和Hopper正是处理大型语言数据集的理想选择。
  到这里,你以为关于ChatGPT的相关产品就没了?
  大NO特NO。
  在ChatGPT这块儿,英伟达还致力于下沉市场 ,联合微软Azure、Google GCP和Oracle OCI三家云厂商合作推出了DGX Cloud。
  普通企业也能训练LLM。
  也就是说,想要训练像ChatGPT的大语言模型,可以直接在网络上租赁DGX云服务,这样一来客户就能将英伟达DGX AI超级计算机实时接入公司。
  英伟达提供的DGX服务器,包含8个H100或A100图形处理器和640GB内存,A100层的价格为每月36999美元。
  而直接购买一个实体DGX服务器,就要花费20万美元,并且微软当时为了训练新必应也是斥资数亿美元 购买了数万块A100芯片。用cuLitho加速芯片创新
  ChatGPT等一众AIGC产品毫无疑问已经成为当前的AI圈的宠儿,不过在英伟达眼中ChatGPT只是一个起点。
  GTC大会上,老黄放出了另一枚重磅级"核弹",把加速计算引入到光刻领域——推出英伟达cuLitho计算光刻库 。
  cuLitho计算光刻库是啥?
  一言以蔽之,cuLitho是一个可以加速光刻基础计算的算法库,能够很大程度上提升光刻计算的速度,并且节省能耗。
  老黄表示,目前计算光刻每年都需要消耗数百亿CPU时间。而运行在GPU上cuLitho,可以将目前光刻技术的性能提升40倍 ,功耗降低至此前的1/9。
  甚至在某种程度上cuLitho还可以为行业2nm工艺奠定基础。
  目前,英伟达已经与台积电、ASML和Synopsys等芯片厂商达成合作,后续芯片生产中,也会引入cuLitho这项AI技术。
  其中,台积电CEO魏哲家称赞,cuLitho为台积电在芯片制造领域部署反向光刻技术和深度学习等光刻解决方案开辟了新的可能性。
  老黄也在会上预告,台积电将在今年6月份的2nm芯片生产中引入cuLitho 。
  ASML首席执行官Peter Wennink也做出计划,让所有的计算光刻软件产品都支持GPU,同时也表示与英伟达在GPU和cuLitho上的合作会给计算光刻带来巨大的好处。
  Synopsys公司这边,在cuLitho平台上运行了Synopsys OPC软件,性能直接得到了从几周到几天的提升。一些其他亮点
  除了上面提到的这些,GTC大会上,英伟达还公布了一些其他合作项目:
  比如说生成式AI方面有Adobe、Getty Images和Shutterstock。
  医学方面,英伟达宣布了新的合作伙伴和Medtronic合作,黄仁勋透露,目前正在一起为构建一个医疗方面的AI平台,涵盖手术引导和机器人辅助手术。
  ……
  如果还想了解更多关于GTC2023的内容,可以戳下面链接查看直播回放。
  直播回放:
  https://www.youtube.com/watch?v=DiGB5uAYKAg
  参考链接
  [1]https://www.theverge.com/23649329/nvidia-dgx-cloud-microsoft-google-oracle-chatgpt-web-browser
  [2]https://nvidianews.nvidia.com/news/nvidia-asml-tsmc-and-synopsys-set-foundation-for-next-generation-chip-manufacturing
  — 完 —
  量子位 QbitAI · 头条号签约
  关注我们,第一时间获知前沿科技动态

关注!教育部最新通知湖北双一流获批重要建设项目,助力国家战略近日,教育部下发教育部关于2022年度教育部工程研究中心建设项目立项的通知,华中师范大学光能利用与减污降碳教育部工程研究中心成功获批建设立项。教育部工程研究中心是我国高等学校科技创程伟赞中国男女团体世乒赛夺冠原创程伟赞中国男女团体世乒赛夺冠题记2022世界乒乓球团体锦标赛(简称成都世乒赛团体赛),第56届国际乒联世界乒乓球团体锦标赛,于2022年9月30日至10月9日在四川省成都市举行细说中超之裁判傅明傅明,相信很多球迷对这张图印象深刻吧,这场比赛在当时引起了很大的争议!2019赛季第二轮山东泰山主场2比2战平河南建业的比赛中,傅明多次判罚引发主队不满,赛后泰山俱乐部和山东足下一个卡鲁索?里弗斯是上赛季的意外收获,管理层又淘到宝同样是落选秀,里弗斯就是下一个卡鲁索!自从引进戴维斯和威少,湖人的年轻球员基本送光了,好在这几年在落选秀淘到了不少宝。卡鲁索算一个,塔克就算了,还有里弗斯和最近上热搜的瑞安。比较之欧冠巴塞罗那VS国际米兰,诺坎普重振雄风?巴塞罗那VS国际米兰巴萨对阵国米的这几个关键点,你可要注意喽。首先,在巴萨主席拉波尔塔公开支持欧超联赛以后,巴萨在欧冠赛场上的判罚就没占到什么便宜。从之前对阵拜仁跟国米的比赛中就可泪目!丁霞袁心玥龚翔宇经典重现,腿部缠着纱布,护具太抢镜中国女排已经结束了2022年世锦赛的全部比赛,四分之一决赛对阵意大利,中国队很遗憾地以13不敌对手,无缘四强。一整届赛事下来,中国女排的成绩是7胜3负,输给过巴西,两度不敌意大利,羽毛球张宁有过一段失败的婚姻,二婚嫁大11岁李昂,47岁显富态28岁首夺世界级金牌,29岁夺得奥运金牌,33岁蝉联奥运金牌,张宁被观众誉为羽坛女皇。2021年,她凭借耀眼的成绩入选世界羽毛球联合会名人堂。张宁在国家运动员中算是大器晚成,运动员商业大佬突发意外去世,运动是元凶?国庆期间,华为公司高管丁耘突发疾病去世。据知情人士悼文透露,丁耘是在跑了28公里后因为心脏问题再没醒过来。上海交通大学医学院附属新华医院心血管内科副主任医师许之民称,从现有已经公布(体育)篮球CBA第一阶段四川金荣实业胜山西汾酒股份当日,在浙江杭州进行的20222023赛季中国男子篮球职业联赛(CBA)第一阶段第一轮比赛中,四川金荣实业队以108比103战胜山西汾酒股份队。10月12日,山西汾酒股份队球员威姆聊聊朱婷之前中国女排史上的几位主攻手中国女排自上世纪八十年代从世界的东方崛起后,一直处于世界一流强队中,在这期间出现了几位主攻重炮手,为中国女排的不断辉煌立下了汗马功劳。现在中国女排的主攻手朱婷排球事业正如日中天,大乒乓球迷有福了!一个月内3场重要赛事,马龙樊振东王楚钦都参加头条创作挑战赛虽然成都世乒赛圆满落幕,但是中国乒乓球队并没有时间去放假休息。在接下来的一个月内还有3场重要的乒乓球赛事,等着马龙樊振东王楚钦梁靖崑孙颖莎陈梦王曼昱王艺迪陈幸同等主力
李鸿章效北宋南明收缩,捐西北据险关而守,偏安东南终将守无可守捐西而肥跪下来的经济巨人终究无法昂起头颅北方秦汉隋唐以将军领国,团结内部力量,将军率先士卒,对现实威胁和潜在威胁实施强力打击及多年连续打击,国穷民贫拓后世子孙发展空间,故名将如天空李亚鹏王菲女儿晒国外美照,李嫣穿透视装画风成熟,眼神略带忧愁11月29日,李亚鹏和前妻王菲的女儿李嫣在社交平台上分享了近照,她只露出了半张脸,挡住了一只眼睛鼻子和嘴巴,或许是因为唇腭裂,依然不太自信。李嫣虽然才只有16岁,但是穿着打扮方面却死亡岛2Amy角色预告明年4月28日发售今日(11月29日),死亡岛2公布最新角色预告Amy,该作将于2023年4月28日发售,登陆PC(Epic),PS5,XboxSeriesXS,PS4和XboxOne,Epic国区OPPO荣耀加入2K机型大乱斗!新机轻薄与实力兼顾,华为顶得住吗?年底将近,不少用户都打算给自己换一部新手机。但因为近几年国产手机发展太快,各个价位能够选择的手机太多,大家在挑选的时候难免眼花缭乱。针对这个问题,今天我们就找来了OPPOA1Pro我国这4款传统糕点,尝过就念念不忘,风味独特,遇到别错过我国这4款传统糕点,尝过就念念不忘,风味独特,遇到别错过如今人们的条件越来越好,在吃的方面也舍得花钱了,各种糕点甜品蛋糕面包这些小食买得也比较频繁,囤放到家中,当早餐煎点下午茶零嘴一条广告,让多少斯普拉遁玩家破防在今年的TGA年度游戏评选榜单中,年度家庭游戏这条经常被玩家们忽视的赛道毫不意外地再一次被任天堂霸榜。除了乐高星战之外,其余游戏全都与任天堂相关任天堂很久之前就在推行游戏人口扩大化奋六世之余烈的大秦帝国,为何只延续了二世就亡了?自公元前359年秦孝公启用商鞅变法,直至公元前221年秦始皇灭六国,历时138年共7位国君,大秦帝国终于统一中华大地,却为何短短15年就灭亡了?公元前246年,秦王嬴政登基,先后灭作为游戏从业者,如何玩一个游戏?本文主要的目标受众应该是游戏策划,或是游戏从业者,也可以是对游戏有研究兴趣的玩家。可能会出于纯粹的娱乐和爱好可能会出于想了解也可能是出于想要理解。为了玩而玩,为了研究而玩,当然完全这些水果蒸着吃,食疗效果加倍!冬天别错过冬天寒冷水果也是冷冰冰的有的人到了冬天干脆不碰水果其实有的水果蒸着吃不仅能减弱水果的寒性还能使食疗效果加倍对付小毛病,堪比良药蒸橙子止咳橙子可理气化痰润肺。橙皮里有两种成分具有止咳气血不足易胖老得快!一篇教你如何挽救中医认为气血是健康的根本,气血充盈则人健康,有的人面色红润,光彩照人有的人面色蜡黄,肥胖,皮肤粗糙这些都和气血不足有关。气血不足的表现1眼睛容易干涩疲劳,内眼角下眼睑色淡2皮肤摸起你掉的不是头发,是气血!一个仙方两味药,补血凉血,生发乌发大家好,我是赵医生。现在很多人明明才过了30岁,就饱受脱发掉发的困扰,头发越来越稀薄,发际线越来越高,特别是洗头的时候,一掉一大把,家里到处都是头发。这到底是怎么回事呢?中医常说肾