手机浏览器扫描二维码访问
第896章 天问（第2页）
“实验数据收尾大概还要两周。我的计划是八月底之前定稿，投NIPS。”
“好。”
顾屿靠在椅背上，双手交叉放在胸前，
“论文的事你俩盯着，按你们的节奏来就行。但今天我来，是要跟你们说下一步的事。”
他停顿了两秒。
任少卿和安德烈同时看过来。
连角落里的楼天城都终于抬起了头。
“Transformer论文是武器，但不是终点。”
“从今天起，全面转向大语言模型。”
顾屿直接定调，
“方向只有一个。不搞任何花里胡哨的修补，纯靠海量数据硬喂，只让它做一件事：猜下一个词。”
房间里安静了几秒。
任少卿反应极快：
“不搞复杂的理解框架，直接暴力灌文本让它自己学？”
“对。”
“规模准备做多大？”
“第一阶段，一亿五千万。”
顾屿竖起一根手指，
“先证明这条路能走通。等框架和管线成熟了，第二阶段直接拉到十五亿。”
安德烈倒吸了口气。
十五亿参数，按照现在的算力水平，这个数字几乎是在挑战物理极限。
楼天城从他那三块屏幕后面探出半个脑袋，推了推眼镜。
“一亿五千万倒是轻鬆。”
楼天城语速很快，
“就外面那一千两百张K80，如果火力全开，算上分布式通信的损耗，跑一个一亿五千万参数的模型顶多一到两周就能出结果，现有的数据并行完全吃得消。但十五亿这个量级，单卡显存绝对会当场撑爆。我得把张量并行那套东西从论文阶段直接拉到工程化落地，把巨大的矩阵计算硬切分到不同显卡上。”
“你有多久能搞定张量并行？”
顾屿问。
“给我四个月。”
“三个月。”
楼天城嘴唇动了动，最终没反驳。
顾屿看着他紧绷的脸，语气稍缓：
“K80的显存墙确实是物理硬伤，这三个月你权当是用极限环境做系统演习。我已经让人带着现金飞去硅谷，跟黄仁勛签明年Pascal架构超算卡的独家包销协议了。等你框架写完，我保证有更暴力的玩具送到你手上。”
听到下一代超算卡，楼天城镜片后的眼睛亮了一下，但他紧接着提出了另一个问题。
“模型架构不是最难的部分。”
他站起来，走到白板前，抄起一支马克笔画了个简单的流程图，
状元郎总是不及格
状元郎，学霸级人物，穿越到现代之后，没想到居然门门功课不及格，成了个学渣。英语听不懂体育跟不上生物物理政治又是什么东西 学霸不允许自己做学渣，甚至不允许身边的人做学渣，要带着四...
碎玉投珠
完结小说全文阅读TXT下载...
前妻攻略：傅先生偏要宠我
结婚三年的老公连她是谁都不知道，没想到两人第一次会面竟然在床上。一纸离婚协议，她欣然落笔盛眠本以为他们的人生从此再无交集，却不想，这只是刚开始而已某日，帝都传言不近女色的傅氏总裁傅燕城看上一个新晋设计师。几次三番为她撑腰，帮她虐渣，还频频掐断她桃花。有好事者没忍住向另一位当事人求证请问你和傅先生到底是什么关系？盛眠微笑着除了雇主与打工人外，也就前夫和前妻吧。各位书友要是觉得前妻攻略傅先生偏要宠我还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦！...
赤焰
预收文趁夜色吻你，点进专栏可收藏。夏栀刚搬来花枝巷就听闻这儿住了一个顽劣少年，说他放浪形骸，就知道打架斗殴。可夏栀见到的少年却与传闻中截然不同，他的白衬衫永远干净整洁，纵然脸上带伤也挡...
诱引玫瑰入怀+番外
...
哆啦A梦一样的少女
整个娱乐圈都知道，宋随是投资方爸爸中最毒舌的一个，堪称怼天怼地怼空气。流量明星当红花旦都得在他面前让让。但谁叫他在投资方面给钱特痛快大方，眼睛又贼毒，捧谁谁红呢，所以被人背后称呼怼少爷的宋随便继...