太拉了!
卢卡斯一边看代码,一边在脑子里快速计算着分布式训练的可行性。
他提出了一个关于梯度同步的核心疑问。
“岑言先生,在万卡级别的集群上跑这种全并行的模型,反向传播时的梯度同步会成为通信瓶颈。我们怎么保证各个节点之间的参数更新一致性?”
岑言几乎没有停顿,脱口而出。
“采用混合并行策略。在节点内使用张量模型并行,切割多头注意力的矩阵乘法。在节点间使用数据并行和流水线并行。梯度同步阶段我设计了一种环形通信算法,把大块的梯度数据切分成等大小的小块,在节点组成的逻辑环里循环传递和累加。这样可以把每个节点的通信带宽都打满,完美隐藏通信延迟,比传统的参数服务器架构效率高 3倍以上。”
岑言保持着放松的微笑。
卢卡斯这个问题似乎完全难不倒他。
“这样可以把通信带宽打满,完美隐藏通信时间。”
卢卡斯听完,张了张嘴,想说点什么,却说不出口来。
屌。
真fxxk mxthxx的屌!
他和利昂在机场争论的那些优化方案,在这套混合并行策略面前,就跟小孩子过家家一样幼稚。
他现在对岑言可谓是五体投地。
利昂坐在一旁抓耳挠腮。
他太想留下来了。
他太想参与这个注定要改变历史的伟大工程了。
在谷歌,他只是庞大机器里的螺丝钉,每天都在修补那些陈旧架构的补丁。
而在这里......
他有机会成为新纪元的奠基人之一!
可现实问题摆在眼前。
这只是一个初创团队。
虽然老板技术很牛逼,虽然他们还有新建的算力中心。
但初创团队通常意味着资金紧张,福利待遇肯定没法和谷歌那种财大气粗的跨国巨头相比。
利昂在心里快速盘算着自己的小金库。
他在硅谷工作了这么多年,因为平时就喜欢捣鼓些电子产品,也没什么不良嗜好,卡里倒也攒下了大几十万美元的积蓄。
他认为很少有阿美丽卡公民的积蓄能跟自己相比。
这是他的底气。
来中华工作,租房子、吃饭、日常开销。
就算这边一分钱工资都不给,靠着自己的积蓄,也能舒舒服服地撑上好几年。
只要能跟着岑言把这个项目做出来,以后还愁赚不到钱吗?
大不了这段时间就当是带薪进修。
利昂在心里打定了主意。
他搓了搓手,有些不好意思地看着岑言,他那张粗糙的脸上硬生生挤出了一抹娇羞的表情。
让人怀疑他是不是半夜梦见图灵,或者是从成都来的......哦,不,这个逼真是英国人,他们大英绅士就自带基辅的感觉。
丢!
“那个,岑言先生。”
利昂的语气变得有些扭捏。
“我认为我彻底被你征服了,我真的好想好想留下来加入你们的团队。”
利昂清了清嗓子,试探性地问道。
“不知道咱们团队这边的福利待遇是怎么样的?”
坐在对面的卢卡斯也竖起了耳朵。
卢卡斯的想法和利昂出奇的一致。
他也在盘算自己的存款。
他在波兰老家还有农场,在德国读博的时候也攒了些奖学金,在美国这些年虽然花销大,但谷歌工资不低,他也是有底子的。
卢卡斯已经做好了倒贴钱上班的心理准备。
只要能在这个划时代的项目里署名,能亲手把这个架构推向世界,让他自己出钱来租服务器他都愿意!
岑言看着两人那副小心翼翼、生怕要价太高被赶走的样子。
他心里暗自觉得好笑。
这就是技术宅的可爱之处。
在绝对的技术信仰面前,金钱和地位都可以往后排。
岑言微微抬起下巴。
鱼儿自己要往网里跳,那他不收网也不行啊!
“既然大家都有合作的意向,那我们就开诚布公地谈谈待遇。”
岑言看了眼周志云。
周志云心领神会,从公文包里拿出两份准备好的英文版入职意向书,分别推到利昂和卢卡斯面前。
做完这个,老周自己觉得怪怪的。
怎么感觉自己去晨星的时候,自己女儿也是这副做派。
不对?
怎么我们老周家好像都在给这臭小子打这种工啊?
这合理吗?
老周拿完合同在一旁苦思冥想,岑言却没时间去关注他,笑着说道。
“我知道两位在谷歌都是L5级别的高级工程师,算上基本工资、奖金和限制性股票,你们在谷歌的总年薪大概在五十万美元左右。”
利昂和卢卡斯点了点头。
岑言报出的数字很准确。
在2016年,这绝对是行业顶薪。
其他大厂很难拿出更好的待遇来挖人。
甚至他们俩距离L6也就一步之遥,若能年薪百万美元甚至带上核心项目的分红,实现财富自由还真不是什么难事。
“我们晨星虽然是初创团队,但我们从不亏待真正的人才。”
岑言抛出了自己的筹码。
“对于两位,我提供两种薪资方案供你们选择。”
岑言竖起一根手指。
“第一种方案,直接复刻谷歌的待遇,按年薪五十万美元的标准支付给你们,保证你们的生活质量不会有任何下降。”
五十万美元?
谷歌待遇?
两人对视一眼,有些意外。
这可是一个中华的高校初创团队啊!
他们哪来这么多现金流?
不是听说中华的科研经费很紧缺吗?两个人,每年一百万美元,那就是700多万纯开销了。
而且看这架势,似乎这笔钱对他们来说根本不算什么大数目。
利昂刚才还在心里盘算怎么省吃俭用。
现在有些没反应过来。
岑言竖起第二根手指。
“第二种方案。”
岑言笑吟吟道。
“年薪十万美元,但我会在新成立的AI公司里给你们百分之一的股份期权。”
岑言晃了晃手机里的架构图。
“你们应该很清楚这套Transformer架构一旦落地,它在自然语言处理、机器翻译甚至未来多模态领域的商业价值。”
岑言静静地看着他们。
他打算再考验考验他们的眼光和格局。
看看他们是追求眼前的安稳高薪,还是愿意赌一把未来。
但在岑言看来,这两种选择都没有错,只是代表了不同的人生态度。
他甚至准备好了一套说辞,用来安抚选择了高薪方案的人。
可是。
岑言还是低估了他们对技术的狂热和对新架构前景的清晰认知。
利昂几乎是在岑言话音落下的瞬间,就做出了反应。
他猛地往前一个大跳,堪比喷气滑铲,双手猛地按住桌上那份入职意向书,生怕被人抢走。
“我选第二种!我要股份!”
利昂扯着嗓子大喊,脸上满是急切。
“C先生,不,岑言先生。老板!”
利昂摆出一副做祷告的神态。
坏了,难道卢卡斯当神父时,那个小男孩就是他?
岑言一愣,头微微后仰。
这哥们太狂热了。
“我愿意为你打工!五十万年薪算什么?哪怕不给我钱都行!”
利昂指着卢卡斯,开始疯狂拆台。
“老板,你看看我,我比卢卡斯便宜,我吃得少,干活多,我甚至可以住在算力中心这里帮你管理。”
“Free!Free!I m free!”