手机浏览器扫描二维码访问
感知任务与推理任务的确有着不同的计算特性,但我认为林教授是不是高估了硬件在这种分工中的作用?
目前的深度学习框架可以做到任务的并行化处理,并且大多数高效的推理任务也可以在同一硬件上完成。
不同的计算方式,能否真的改变现有架构?我对此持怀疑态度。”
克里斯的问题让人有些质疑,但并不轻易放弃。
就在他刚说完,人在东京的首席架构师伊利亚·苏茨凯弗立刻回应了他:“你说得没错,现有的框架能处理某些任务的并行化,但这只是对感知任务的部分优化。
但我们都知道,现有的硬件瓶颈存在。
在GPT系列模型的推理过程,大量的推理计算涉及长时间的推理链和符号计算,现在的GPU处理起来其实效率并不高,尤其在模型规模不断增加时。
我们完全可以借鉴林教授的概念,构建一种专门的逻辑推理处理单元,与感知任务处理单元分开。”
伊利亚顿了顿,接着补充道:“而且,我们必须注意,IBM和英特尔在这一方向上已有多年探索。
早在十年前,IBM就提出过多重处理单元架构的概念,旨在通过将计算任务划分为不同的模块来提高AI的推理和感知效率。
英特尔则是在18年的时候提出了神经形态计算芯片的概念,试图模仿大脑的功能,优化感知和推理任务之间的计算交互。
我认为林教授只是把英特尔的做法用一种更通俗易懂的方式总结了出来。
林教授站在IBM和英特尔的基础上,从理论层面论证了,要想把人工智能继续往通用AGI的道路上推,我们需要也必须走这条路。”
研究员安德鲁·卡普兰说道:“没错,我在看完林教授关于人工智能的讲话后,我特意去找了资料来看,英特尔在2017年的时候推出了他们第一款神经拟态芯片Loihi。”
“神经拟态芯片?”
山姆·奥特曼重复了这个词语。
安德鲁点头道:“没错,众所周知我们现在用的芯片只有0和1,它通过二极管模拟0和1的状态,构建起庞大的计算网络,它的内核是二进制。
但是我们人类大脑,不止有两个信号,神经元和神经元之间是通过突触来连接,一个神经元可以同时和很多个神经元连接在一起。
而Loihi则是模拟神经元的芯片。
第一代的Loihi每60平方毫米的芯片就有13万个神经元,他们在2021年推出的第二代Loihi芯片,拥有128个神经形态核心,Loihi2每个核心的神经元是第一代的8倍的神经元。
同时,Loihi2每个神经元可根据模型分配达到4096个状态,第一代的限制只有24个,神经元模型类似FPGA,完全可编程,具有更大灵活性。
简单来说,硅谷已经具备了右脑芯片。
英特尔的Loihi采用了神经形态计算架构,尝试模仿大脑处理感知信息的方式,提出了感知-推理共融的概念。
实际应用中,这些神经形态芯片在某些任务上能够发挥优势,但在复杂推理任务上,效果却并不显著,与传统的逻辑处理单元相比,并没有得到预期的性能提升。
但问题是,现在林教授提出的架构,我们要同时利用右脑和左脑芯片,左脑的GPU已经成熟,右脑的Loihi也已经相对成熟。
我们有充分条件去测试这一技术路线。
我们现在要做的是,把左右脑结合在一起,英伟达的左脑和英特尔的右脑。”
开源团队负责人艾米·张说道:
“我认为这种左右脑分工的理论有些过于理想化了,至少目前它的应用价值不大。
我们能否有一个明确的案例,展示感知任务和推理任务必须分开处理的场景?现阶段的任务几乎都是某些高并行度任务,在同一硬件上优化可以达到足够好的性能。
难道我们要重建整个硬件架构吗?”
伊利亚回应道:“如果只是强化现有硬件架构,我们会始终停留在对大规模并行计算的依赖上。
真正的突破,正是通过左右脑分工,物理隔离不同计算任务,从而达到更高效的能量利用和计算优化。
而且你们有没有认真听林教授的发言,他在发言中透露了一个秘密,那就是胼胝体。
这是人类大脑中的结构,我认为左右脑芯片结合的秘密就藏在胼胝体这一结构中。
简介关于重生我只想撩撩美女赚赚钱从小没有享受到亲情的陈长流在社会上屡遭毒打后,他那颗善良乐观的心已经冰寒。意外重生回到了2oo3年高考后,后妈和父亲一致要求只考上2本的陈长流辍学,去打工供同父异母的弟弟上大学。这一世,陈长流反抗了,被赶出了家门。陈长流悟了!善良多少钱一斤?没钱寸步难行,有钱能使鬼推磨。陈长流从忽悠绝美校花一起摆地摊赚学费开始,开启了自己不一样的人生。本来只想撩撩美女赚赚钱。但不在金融界,金融界有他的传奇。不在创投界,但他成为创投界的神。他是资本家?不不不,他是实业家!事业上披荆斩棘。感情上不做选择题!鱼与熊掌是可以兼得的父亲后妈和同父异母的弟弟以及亲戚找上门劝他大度,嘿嘿,哪凉快哪呆着去!...
日更,更新时间不固定文案姜岁报名了一档离婚综艺。他托着脸,随手翻着桌上的杂志,漫不经心地对镜头说,我觉得我丈夫太死板了。我想离婚。镜头里的人看着年纪不大,眉眼还有几分少年气,语气骄矜又张...
附本作品来自互联网本人不做任何负责内容版权归作者所有☆小萝莉赵琳琅我叫赵琳琅,今年十五岁,是初三(8)班的美术课代表这是赵琳琅小萝莉的自我介绍。恩,以后你就叫我陈老大吧男人的声音低沉冷冽赵琳琅很是乖巧的点点头,不乖不行啊,她还指望他们能带上她。哎,现在已经是末世降临的第六个月了,不算陈老大这支队伍,...
混迹基层,却志存高远,一朝得势,凭着精心布局,一腔热血,一路乘风破浪,且看梁文星在官海之中,如何鲤鱼跃龙门,成就一段精彩的传奇!...
简介关于魔法师?请叫我近战法师6诗死后穿越到魔法世界!什么?居然可以燃烧灵魂提升魔法进度。还可以通过猎杀敌人或魔兽吸回来。那不就是外挂在手,天下我有。一次就觉醒四个系!满上。于是6诗成了白魔法天才。6诗成了全系元素法师。6诗成了次元魔法的怪才。6诗成了黑魔法的执行者。战斗中魔力不足?那就手持大剪刀化身近战法师!无敌的万人迷6诗在魔法世界混的风生水起。杀魔兽,灭邪教,为人类崛起而战!...
乱伦,强奸,np,一个骚浪贱女人的淫乱人生,享受了男人,收获了爱情免费po18eνipщoo18νip本书无三观,无下限,慎入!...