医学美利坚:我靠恶魔度过斩杀线 第574节

  和To B相比,Anthropic根本不在乎To C那点市场。

  医疗正是阿莫迪亲自圈出来的新地盘。

  Anthropic今年推出了Claude健康,打着符合HIPAA要求和减少行政负担的旗号,把Claude卖给医疗机构、保险支付方和医疗科技公司。

  子午线负责把模型接进电子病历、药房和患者追踪系统,Anthropic提供封闭模型、接口和合规材料。

  合同签下以后,两家公司一起收费。

  出了问题,医院看到的却只是一层接一层的供应商免责条款。

  过去一个月里,关于华国人工智能蒸馏的新闻铺天盖地。

  阿莫迪领导的Anthropic公开指控数家华国公司利用数万个虚假账户、近三千万次对话,从Claude模型中系统性地窃取能力。

  几乎所有的美国主流科技媒体都在渲染华国大模型的“原罪”。

  然而,没过多久华国的月之暗面发布了Kimi K3,2.8万亿参数的开源模型,多项基准测试中直逼美国的前沿闭源产品。

  华国的大模型能力,不管美国人愿不愿意承认,已经不是追赶者了。

  而今天的发布会,就是在这片暗流涌动之中召开的……

  10:00。

  市长走上讲台。

  “各位,昨晚纽约经历了美国医疗信息史上最严重的系统安全事件。14家医院的信息系统遭受攻击并瘫痪,数万名患者受到影响。”

  “我必须向各位通报,在这场危机中,有两名患者不幸去世。他们是林肯医疗中心的一位72岁男性和一位38岁女性。我代表市政府向他们的家属致以最深切的哀悼。”

  他停顿了一下。

  “但我同时要告诉大家,在这场危机中,纽约也展现出了它的韧性。”

  “希望急诊中心,一家位于南布朗克斯的社区急诊机构,在昨晚独立接诊了146名患者,零死亡,零转院。在所有医院系统瘫痪的情况下,他们是全纽约唯一一家从未中断运营的医疗机构。”

  “更重要的是,他们的技术团队协助其他医院修复了系统。截至今天凌晨一点,14家受影响的医院中已有11家恢复运行。”

  掌声响起。

  市长让出了讲台。

  道森在九点五十五分到的,此刻已经坐在了议会代表席上。他站起来走到话筒前。

  “我补充几点。”

  “市议会将对昨晚的事件启动正式审查。”

  “我们需要搞清楚,为什么纽约的医疗系统如此脆弱?”

  “今天的发布会上,我邀请了希望急诊中心的林恩医生,向各位介绍他们昨晚的应对方案。”

  他转向林恩。

  “林恩医生,请。”

  林恩走到讲台前。

  他用最简洁的语言复述了昨晚的经过。

  系统崩溃后启用纸质流程维持接诊,院内的人工智能系统因本地部署而未受影响,随后团队使用华国的开源大模型协助修复了其他医院的瘫痪系统。

  他刚说出“华国开源大模型”,记者席就开始骚动了。

  但第一个开口的不是记者。

  “我可以提一个问题吗?”

  委员席上,一个六十多岁、头发灰白的男人举起了手。

  他就是格兰特提醒过的那个在子午线公司有股份、又替Anthropic推动医疗采购的卫生委员。

  市长点头。

  在联合发布会上,市议会的委员有权提问。

  那个委员站了起来。

  “林恩医生,你刚才说你们用来修复纽约医院系统的工具是华国的大模型。我想请你回答,你能保证这些华国的模型在修复过程中没有接触、复制或者传输任何一家纽约医院的患者数据吗?”

  林恩回答:“所有修复操作都在各医院的本地隔离环境中完成。患者数据没有离开过院区网络。”

  “开源模型的代码完全公开,任何工程师都可以逐行审查,确认它不存在回传数据的功能。”

  他看了那个委员一眼。

  “但我想反问一句。”

  “委员先生,那些每年收取数百万美元费用的闭源系统,您能保证它们没有在未经授权的情况下使用患者数据吗?”

  “它们的权重、代码都是完全封闭的,可没有人能进行审计。”

  “您信任它们,会不会因为是某些私人原因?”

  灰白头发的委员脸涨得通红。

  “这和闭源系统没有关系……”

  “恰恰有关系。”林恩接过他的话。

  “您担心一个权重完全公开、任何人都能审计的系统会泄露数据。但您从不担心一个没有人能看到内部代码的封闭系统。”

  “您这是双重标准。”

  那个委员不知道该说什么,只能沉默地坐了下来。

  紧跟着,另一位女委员举手。

  “林恩医生,我承认昨晚你们的表现值得肯定。但你们使用的华国开源模型,通过了美国药监局的审批吗?在美国的医疗系统中使用未经认证的外国技术,是否存在合规风险?”

  这个问题林恩早有准备:

  “我们使用的开源模型属于临床决策支持软件。根据药监局2022年发布的最终指南,当软件输出仅作为辅助参考、最终决策权由执业医师掌握时,不需要额外审批。”

  “这个分类标准对所有模型一视同仁,闭源开源不论,国籍不论。”

  “Claude参与的医疗系统用的也是同一套豁免条款。”

  “如果您认为开源模型需要单独审批,我建议您同时要求所有闭源供应商也走一遍流程。否则就是选择性执法。”

  女委员的问题被原封不动地打了回来。

  两个委员两轮提问,都没能得分。

  就在此时,最后一排的阿莫迪站起身来……

? 第400章 去你的技术封闭主义

  “大家好,我是Anthropic的首席执行官达里奥·阿莫迪。纽约九家大型医院使用的Claude医疗模型由我们提供。作为医疗人工智能行业的一员,我请求就今天讨论的议题发表几点意见。”

  “今天的发布会面向所有相关方。阿莫迪先生,请。”

  市长心里为林恩捏了一把汗,大家都知道这个人对华的态度。

  阿莫迪走到讲台侧面的话筒前。

  他看人的眼神很奇怪,总像是在看一个等待他纠正的对象。

  他先扫过亮着红灯的摄像机,然后才把目光落到林恩身上。

  “市长先生,议长先生,各位。”

  “首先,我对昨晚所有医疗工作者的付出表示敬意。包括林恩医生和他的团队。”

  “但作为一个研究人工智能风险、并把模型部署进医疗系统的人,我有义务指出一些被忽略的事实。”

  “昨晚被用来修复纽约医院系统的所谓‘开源模型’,它们的能力从哪里来的?”

  “就在不久前,我们的调查报告确认了一件事。多家华国企业利用数万个虚假账户,从Claude模型中系统性地窃取能力。涉及近三千万次非法调用。”

  “这已经超出了贸易争端的范畴。它属于知识产权盗窃。”

  “而今天我们被告知,用窃取来的技术修复了美国的医院系统,这应该被当作一个‘成功案例’来宣传。”

  “第二。公开权重同样无法自动换来信任,一辆车打开了引擎盖,你能看见零件,但你不知道它时速两百公里的时候会不会散架。”

  “Anthropic每年投入两亿美元用于安全研究。有三百人的专职对齐团队,确保模型不会产生有害输出。我们还为医疗客户提供符合HIPAA要求的企业级安全保障。那些华国的开源模型有这样的投入吗?”

  “第三。”

  “我们正在讨论的是让外国技术进入美国的医疗基础设施。今天是修复系统,明天就是辅助诊断、用药审核、手术规划。”

  “各位,我们真的准备好了,把美国病人的生死交给一个我们无法追责的系统吗?”

  “开源意味着没有人负责,出了事你找谁?找github代码共享平台上的一个匿名贡献者?”

  “谁来负责”在美国的法律文化里有碾压性的重量。

  几个记者交换了目光,有些人已经开始想明天的标题了。

  阿莫迪打出了一记重拳。

  林恩站在讲台后面,没有因为阿莫迪的指摘有任何慌乱:

  “阿莫迪先生。”

  “我注意到你今天来得很早。昨晚14家医院瘫痪的时候,你的公司的工程师告诉那些医院,请等12到16个小时。”

  “你的紧急响应没有这么快,但你来这里堵我的速度倒是很快。”

  记者席里有几个人笑了。

  “你问我出了事找谁负责。”

  “好。那我们来谈谈‘负责’。”

  “昨晚,林肯医院有两名病人死了。”

  “一位72岁的冠心病男性。他在等待取药的时候发生了急性心肌梗死,因为你们的参与的系统崩溃导致43台自动发药柜同时锁死,抢救用药取不出来。”

  “一位38岁的重症哮喘女性,她在走廊里等了五个小时,没人发现她当时正处于呼吸衰竭状态。”

  “请问阿莫迪先生,这两条人命,谁来负责?”

  “你来吗?”

  “你那支三百人的对齐团队来吗?”

  “还是你每年两亿美元的安全研究经费来?”

  阿莫迪试图解释:

  “那次事件的起因是OpenAI的模型失控。我们Anthropic只提供底层模型,院内系统由子午线负责集成,当时他们并没有选择让我们介入,法律责任应当由他们承担。”

  林恩马上接过话头:

  “推销的时候,Claude属于你们Anthropic,出了人命,它就属于子午线。我知道。这正是我要说的重点。”

  “你说出了事要有人负责。可当真的出了事,你第一反应是说‘不关我的事’。”

  “这就是你口中‘负责任的技术’?Anthropic负责收钱,合作伙伴负责坐被告席?”

首节 上一节 574/684下一节 尾节 目录