和To B相比,Anthropic根本不在乎To C那点市场。
医疗正是阿莫迪亲自圈出来的新地盘。
Anthropic今年推出了Claude健康,打着符合HIPAA要求和减少行政负担的旗号,把Claude卖给医疗机构、保险支付方和医疗科技公司。
子午线负责把模型接进电子病历、药房和患者追踪系统,Anthropic提供封闭模型、接口和合规材料。
合同签下以后,两家公司一起收费。
出了问题,医院看到的却只是一层接一层的供应商免责条款。
过去一个月里,关于华国人工智能蒸馏的新闻铺天盖地。
阿莫迪领导的Anthropic公开指控数家华国公司利用数万个虚假账户、近三千万次对话,从Claude模型中系统性地窃取能力。
几乎所有的美国主流科技媒体都在渲染华国大模型的“原罪”。
然而,没过多久华国的月之暗面发布了Kimi K3,2.8万亿参数的开源模型,多项基准测试中直逼美国的前沿闭源产品。
华国的大模型能力,不管美国人愿不愿意承认,已经不是追赶者了。
而今天的发布会,就是在这片暗流涌动之中召开的……
10:00。
市长走上讲台。
“各位,昨晚纽约经历了美国医疗信息史上最严重的系统安全事件。14家医院的信息系统遭受攻击并瘫痪,数万名患者受到影响。”
“我必须向各位通报,在这场危机中,有两名患者不幸去世。他们是林肯医疗中心的一位72岁男性和一位38岁女性。我代表市政府向他们的家属致以最深切的哀悼。”
他停顿了一下。
“但我同时要告诉大家,在这场危机中,纽约也展现出了它的韧性。”
“希望急诊中心,一家位于南布朗克斯的社区急诊机构,在昨晚独立接诊了146名患者,零死亡,零转院。在所有医院系统瘫痪的情况下,他们是全纽约唯一一家从未中断运营的医疗机构。”
“更重要的是,他们的技术团队协助其他医院修复了系统。截至今天凌晨一点,14家受影响的医院中已有11家恢复运行。”
掌声响起。
市长让出了讲台。
道森在九点五十五分到的,此刻已经坐在了议会代表席上。他站起来走到话筒前。
“我补充几点。”
“市议会将对昨晚的事件启动正式审查。”
“我们需要搞清楚,为什么纽约的医疗系统如此脆弱?”
“今天的发布会上,我邀请了希望急诊中心的林恩医生,向各位介绍他们昨晚的应对方案。”
他转向林恩。
“林恩医生,请。”
林恩走到讲台前。
他用最简洁的语言复述了昨晚的经过。
系统崩溃后启用纸质流程维持接诊,院内的人工智能系统因本地部署而未受影响,随后团队使用华国的开源大模型协助修复了其他医院的瘫痪系统。
他刚说出“华国开源大模型”,记者席就开始骚动了。
但第一个开口的不是记者。
“我可以提一个问题吗?”
委员席上,一个六十多岁、头发灰白的男人举起了手。
他就是格兰特提醒过的那个在子午线公司有股份、又替Anthropic推动医疗采购的卫生委员。
市长点头。
在联合发布会上,市议会的委员有权提问。
那个委员站了起来。
“林恩医生,你刚才说你们用来修复纽约医院系统的工具是华国的大模型。我想请你回答,你能保证这些华国的模型在修复过程中没有接触、复制或者传输任何一家纽约医院的患者数据吗?”
林恩回答:“所有修复操作都在各医院的本地隔离环境中完成。患者数据没有离开过院区网络。”
“开源模型的代码完全公开,任何工程师都可以逐行审查,确认它不存在回传数据的功能。”
他看了那个委员一眼。
“但我想反问一句。”
“委员先生,那些每年收取数百万美元费用的闭源系统,您能保证它们没有在未经授权的情况下使用患者数据吗?”
“它们的权重、代码都是完全封闭的,可没有人能进行审计。”
“您信任它们,会不会因为是某些私人原因?”
灰白头发的委员脸涨得通红。
“这和闭源系统没有关系……”
“恰恰有关系。”林恩接过他的话。
“您担心一个权重完全公开、任何人都能审计的系统会泄露数据。但您从不担心一个没有人能看到内部代码的封闭系统。”
“您这是双重标准。”
那个委员不知道该说什么,只能沉默地坐了下来。
紧跟着,另一位女委员举手。
“林恩医生,我承认昨晚你们的表现值得肯定。但你们使用的华国开源模型,通过了美国药监局的审批吗?在美国的医疗系统中使用未经认证的外国技术,是否存在合规风险?”
这个问题林恩早有准备:
“我们使用的开源模型属于临床决策支持软件。根据药监局2022年发布的最终指南,当软件输出仅作为辅助参考、最终决策权由执业医师掌握时,不需要额外审批。”
“这个分类标准对所有模型一视同仁,闭源开源不论,国籍不论。”
“Claude参与的医疗系统用的也是同一套豁免条款。”
“如果您认为开源模型需要单独审批,我建议您同时要求所有闭源供应商也走一遍流程。否则就是选择性执法。”
女委员的问题被原封不动地打了回来。
两个委员两轮提问,都没能得分。
就在此时,最后一排的阿莫迪站起身来……
? 第400章 去你的技术封闭主义
“大家好,我是Anthropic的首席执行官达里奥·阿莫迪。纽约九家大型医院使用的Claude医疗模型由我们提供。作为医疗人工智能行业的一员,我请求就今天讨论的议题发表几点意见。”
“今天的发布会面向所有相关方。阿莫迪先生,请。”
市长心里为林恩捏了一把汗,大家都知道这个人对华的态度。
阿莫迪走到讲台侧面的话筒前。
他看人的眼神很奇怪,总像是在看一个等待他纠正的对象。
他先扫过亮着红灯的摄像机,然后才把目光落到林恩身上。
“市长先生,议长先生,各位。”
“首先,我对昨晚所有医疗工作者的付出表示敬意。包括林恩医生和他的团队。”
“但作为一个研究人工智能风险、并把模型部署进医疗系统的人,我有义务指出一些被忽略的事实。”
“昨晚被用来修复纽约医院系统的所谓‘开源模型’,它们的能力从哪里来的?”
“就在不久前,我们的调查报告确认了一件事。多家华国企业利用数万个虚假账户,从Claude模型中系统性地窃取能力。涉及近三千万次非法调用。”
“这已经超出了贸易争端的范畴。它属于知识产权盗窃。”
“而今天我们被告知,用窃取来的技术修复了美国的医院系统,这应该被当作一个‘成功案例’来宣传。”
“第二。公开权重同样无法自动换来信任,一辆车打开了引擎盖,你能看见零件,但你不知道它时速两百公里的时候会不会散架。”
“Anthropic每年投入两亿美元用于安全研究。有三百人的专职对齐团队,确保模型不会产生有害输出。我们还为医疗客户提供符合HIPAA要求的企业级安全保障。那些华国的开源模型有这样的投入吗?”
“第三。”
“我们正在讨论的是让外国技术进入美国的医疗基础设施。今天是修复系统,明天就是辅助诊断、用药审核、手术规划。”
“各位,我们真的准备好了,把美国病人的生死交给一个我们无法追责的系统吗?”
“开源意味着没有人负责,出了事你找谁?找github代码共享平台上的一个匿名贡献者?”
“谁来负责”在美国的法律文化里有碾压性的重量。
几个记者交换了目光,有些人已经开始想明天的标题了。
阿莫迪打出了一记重拳。
林恩站在讲台后面,没有因为阿莫迪的指摘有任何慌乱:
“阿莫迪先生。”
“我注意到你今天来得很早。昨晚14家医院瘫痪的时候,你的公司的工程师告诉那些医院,请等12到16个小时。”
“你的紧急响应没有这么快,但你来这里堵我的速度倒是很快。”
记者席里有几个人笑了。
“你问我出了事找谁负责。”
“好。那我们来谈谈‘负责’。”
“昨晚,林肯医院有两名病人死了。”
“一位72岁的冠心病男性。他在等待取药的时候发生了急性心肌梗死,因为你们的参与的系统崩溃导致43台自动发药柜同时锁死,抢救用药取不出来。”
“一位38岁的重症哮喘女性,她在走廊里等了五个小时,没人发现她当时正处于呼吸衰竭状态。”
“请问阿莫迪先生,这两条人命,谁来负责?”
“你来吗?”
“你那支三百人的对齐团队来吗?”
“还是你每年两亿美元的安全研究经费来?”
阿莫迪试图解释:
“那次事件的起因是OpenAI的模型失控。我们Anthropic只提供底层模型,院内系统由子午线负责集成,当时他们并没有选择让我们介入,法律责任应当由他们承担。”
林恩马上接过话头:
“推销的时候,Claude属于你们Anthropic,出了人命,它就属于子午线。我知道。这正是我要说的重点。”
“你说出了事要有人负责。可当真的出了事,你第一反应是说‘不关我的事’。”
“这就是你口中‘负责任的技术’?Anthropic负责收钱,合作伙伴负责坐被告席?”