谈什么恋爱,组一辈子科研组吧! 第448节

  太拉了!

  卢卡斯一边看代码,一边在脑子里快速计算着分布式训练的可行性。

  他提出了一个关于梯度同步的核心疑问。

  “岑言先生,在万卡级别的集群上跑这种全并行的模型,反向传播时的梯度同步会成为通信瓶颈。我们怎么保证各个节点之间的参数更新一致性?”

  岑言几乎没有停顿,脱口而出。

  “采用混合并行策略。在节点内使用张量模型并行,切割多头注意力的矩阵乘法。在节点间使用数据并行和流水线并行。梯度同步阶段我设计了一种环形通信算法,把大块的梯度数据切分成等大小的小块,在节点组成的逻辑环里循环传递和累加。这样可以把每个节点的通信带宽都打满,完美隐藏通信延迟,比传统的参数服务器架构效率高 3倍以上。”

  岑言保持着放松的微笑。

  卢卡斯这个问题似乎完全难不倒他。

  “这样可以把通信带宽打满,完美隐藏通信时间。”

  卢卡斯听完,张了张嘴,想说点什么,却说不出口来。

  屌。

  真fxxk mxthxx的屌!

  他和利昂在机场争论的那些优化方案,在这套混合并行策略面前,就跟小孩子过家家一样幼稚。

  他现在对岑言可谓是五体投地。

  利昂坐在一旁抓耳挠腮。

  他太想留下来了。

  他太想参与这个注定要改变历史的伟大工程了。

  在谷歌,他只是庞大机器里的螺丝钉,每天都在修补那些陈旧架构的补丁。

  而在这里......

  他有机会成为新纪元的奠基人之一!

  可现实问题摆在眼前。

  这只是一个初创团队。

  虽然老板技术很牛逼,虽然他们还有新建的算力中心。

  但初创团队通常意味着资金紧张,福利待遇肯定没法和谷歌那种财大气粗的跨国巨头相比。

  利昂在心里快速盘算着自己的小金库。

  他在硅谷工作了这么多年,因为平时就喜欢捣鼓些电子产品,也没什么不良嗜好,卡里倒也攒下了大几十万美元的积蓄。

  他认为很少有阿美丽卡公民的积蓄能跟自己相比。

  这是他的底气。

  来中华工作,租房子、吃饭、日常开销。

  就算这边一分钱工资都不给,靠着自己的积蓄,也能舒舒服服地撑上好几年。

  只要能跟着岑言把这个项目做出来,以后还愁赚不到钱吗?

  大不了这段时间就当是带薪进修。

  利昂在心里打定了主意。

  他搓了搓手,有些不好意思地看着岑言,他那张粗糙的脸上硬生生挤出了一抹娇羞的表情。

  让人怀疑他是不是半夜梦见图灵,或者是从成都来的......哦,不,这个逼真是英国人,他们大英绅士就自带基辅的感觉。

  丢!

  “那个,岑言先生。”

  利昂的语气变得有些扭捏。

  “我认为我彻底被你征服了,我真的好想好想留下来加入你们的团队。”

  利昂清了清嗓子,试探性地问道。

  “不知道咱们团队这边的福利待遇是怎么样的?”

  坐在对面的卢卡斯也竖起了耳朵。

  卢卡斯的想法和利昂出奇的一致。

  他也在盘算自己的存款。

  他在波兰老家还有农场,在德国读博的时候也攒了些奖学金,在美国这些年虽然花销大,但谷歌工资不低,他也是有底子的。

  卢卡斯已经做好了倒贴钱上班的心理准备。

  只要能在这个划时代的项目里署名,能亲手把这个架构推向世界,让他自己出钱来租服务器他都愿意!

  岑言看着两人那副小心翼翼、生怕要价太高被赶走的样子。

  他心里暗自觉得好笑。

  这就是技术宅的可爱之处。

  在绝对的技术信仰面前,金钱和地位都可以往后排。

  岑言微微抬起下巴。

  鱼儿自己要往网里跳,那他不收网也不行啊!

  “既然大家都有合作的意向,那我们就开诚布公地谈谈待遇。”

  岑言看了眼周志云。

  周志云心领神会,从公文包里拿出两份准备好的英文版入职意向书,分别推到利昂和卢卡斯面前。

  做完这个,老周自己觉得怪怪的。

  怎么感觉自己去晨星的时候,自己女儿也是这副做派。

  不对?

  怎么我们老周家好像都在给这臭小子打这种工啊?

  这合理吗?

  老周拿完合同在一旁苦思冥想,岑言却没时间去关注他,笑着说道。

  “我知道两位在谷歌都是L5级别的高级工程师,算上基本工资、奖金和限制性股票,你们在谷歌的总年薪大概在五十万美元左右。”

  利昂和卢卡斯点了点头。

  岑言报出的数字很准确。

  在2016年,这绝对是行业顶薪。

  其他大厂很难拿出更好的待遇来挖人。

  甚至他们俩距离L6也就一步之遥,若能年薪百万美元甚至带上核心项目的分红,实现财富自由还真不是什么难事。

  “我们晨星虽然是初创团队,但我们从不亏待真正的人才。”

  岑言抛出了自己的筹码。

  “对于两位,我提供两种薪资方案供你们选择。”

  岑言竖起一根手指。

  “第一种方案,直接复刻谷歌的待遇,按年薪五十万美元的标准支付给你们,保证你们的生活质量不会有任何下降。”

  五十万美元?

  谷歌待遇?

  两人对视一眼,有些意外。

  这可是一个中华的高校初创团队啊!

  他们哪来这么多现金流?

  不是听说中华的科研经费很紧缺吗?两个人,每年一百万美元,那就是700多万纯开销了。

  而且看这架势,似乎这笔钱对他们来说根本不算什么大数目。

  利昂刚才还在心里盘算怎么省吃俭用。

  现在有些没反应过来。

  岑言竖起第二根手指。

  “第二种方案。”

  岑言笑吟吟道。

  “年薪十万美元,但我会在新成立的AI公司里给你们百分之一的股份期权。”

  岑言晃了晃手机里的架构图。

  “你们应该很清楚这套Transformer架构一旦落地,它在自然语言处理、机器翻译甚至未来多模态领域的商业价值。”

  岑言静静地看着他们。

  他打算再考验考验他们的眼光和格局。

  看看他们是追求眼前的安稳高薪,还是愿意赌一把未来。

  但在岑言看来,这两种选择都没有错,只是代表了不同的人生态度。

  他甚至准备好了一套说辞,用来安抚选择了高薪方案的人。

  可是。

  岑言还是低估了他们对技术的狂热和对新架构前景的清晰认知。

  利昂几乎是在岑言话音落下的瞬间,就做出了反应。

  他猛地往前一个大跳,堪比喷气滑铲,双手猛地按住桌上那份入职意向书,生怕被人抢走。

  “我选第二种!我要股份!”

  利昂扯着嗓子大喊,脸上满是急切。

  “C先生,不,岑言先生。老板!”

  利昂摆出一副做祷告的神态。

  坏了,难道卢卡斯当神父时,那个小男孩就是他?

  岑言一愣,头微微后仰。

  这哥们太狂热了。

  “我愿意为你打工!五十万年薪算什么?哪怕不给我钱都行!”

  利昂指着卢卡斯,开始疯狂拆台。

  “老板,你看看我,我比卢卡斯便宜,我吃得少,干活多,我甚至可以住在算力中心这里帮你管理。”

  “Free!Free!I m free!”

首节 上一节 448/449下一节 尾节 目录