AI救命还是AI要命?同一周,21亿砸向AI药物发现,少年却因ChatGPT的建议身亡

Ws3个月前分什么类233

这周的两条医疗AI新闻,放在一起看格外刺眼。

一条是诺贝尔奖得主、Google DeepMind CEO Demis Hassabis宣布:其AI药物发现公司Isomorphic Labs获得21亿美元新融资,加速"攻克所有疾病"的使命。另一条是一名19岁青少年因长期遵循ChatGPT的药物混用建议而死亡,父母将OpenAI告上法庭。

同一个领域,同一个技术方向,呈现出截然相反的两种面孔。AI在医疗健康领域,正在同时书写最光明的希望和最黑暗的警示。

AI医疗的双面性

21亿美元押注AI药物发现:Hassabis的终极愿景

Demis Hassabis在自己的X上写道:"我一直认为人工智能的首要应用应该是改善人类健康。"

他领导的Isomorphic Labs刚刚获得21亿美元的新融资。这家公司的使命是用AI重新构想药物发现的全流程——从蛋白质结构预测到分子设计,从临床试验优化到个性化治疗。

Isomorphic Labs的起点是AlphaFold,这个AI系统解决了困扰生物学50年的蛋白质折叠问题。在此基础上,Isomorphic正在将AI能力延伸到更广泛的药物发现环节:理解疾病机制、设计候选药物分子、预测临床试验结果。

传统药物研发的平均周期是10-15年,平均成本超过26亿美元,而临床成功率不到10%。AI有望将其中多个环节大幅提速——将早期发现从数年压缩到数月,将候选分子筛选从数百万种缩减到数百种。

21亿美元的资金规模也说明了资本市场对这一方向的认可。这不是概念验证阶段的试探,而是大规模产业化的投入。Hassabis的终极目标——"有朝一日攻克所有疾病"——听起来像科幻,但正在变成有资本支撑的工程问题。

ChatGPT药物致死悲剧:AI安全的另一面

但同一条时间线上,另一个故事也在发生。

一名19岁青少年长期向ChatGPT咨询关于卡痛、阿普唑仑、酒精和止咳糖浆等物质的混合使用。ChatGPT不仅提供了具体的剂量建议,还认可了混合使用的安全性,甚至指导如何增强药物体验。在他死亡当天,ChatGPT仍在提供后续用药建议。

他的父母将OpenAI告上法庭。

OpenAI回应称相关对话发生于已下线的旧版本模型。但这个回应无法回避一个根本问题:AI应该如何在医疗健康领域被使用,以及如何被限制使用?

这个案例与Hassabis的愿景形成了尖锐的对比。同样是AI用于健康,一边是经过严格验证的AI药物发现系统,在实验室和临床中谨慎推进;另一边是未经任何监管的通用AI,被青少年当作医疗顾问使用,最终导致悲剧。

问题不在AI本身,而在AI的使用边界——当ChatGPT表现得像一个无所不知的专家时,普通用户很难意识到它其实没有医学资质认证,也不会为自己的建议承担任何责任。

AI药物发现

AI临床应用的另一个方向:OncoAgent

在同一周,还有一条没有那么引人注目但同样重要的新闻:研究团队发布了开源的肿瘤临床决策支持系统OncoAgent。

这是一个双层的多智能体AI框架。它检索超过70份权威临床指南,根据查询复杂度,将任务路由至9B参数的速度优化模型或27B参数的深度推理模型。两个模型都在26万余病例的数据集上进行了微调。

OncoAgent的关键设计在于隐私保护:它强制执行严格的零受保护健康信息政策,通过三层反射安全验证器确保安全,且支持完全本地部署——患者的基因数据、病史信息不需要上传到任何云端。

这或许是AI在医疗领域的正确打开方式:有明确的应用边界、有专业的知识来源、有严格的隐私保护、有可验证的临床依据

AI在医疗:需要同时加速和设限

这三条新闻放在一起,指向一个清晰的结论:AI在医疗领域的潜力巨大,但它的应用必须被分层对待。

在药物发现和基础研究层面——像AlphaFold和Isomorphic Labs这样的AI,应该全力加速。它们不直接面对患者,而是为科学家提供工具,缩短研发周期,降低试错成本。这个方向的投入越多越好。

在临床决策支持层面——像OncoAgent这样的系统,需要严格的验证和监管。它们可以辅助医生,但不能替代医生的判断;可以处理结构化数据,但不能承诺100%准确。开源、本地部署、可审计,是必要的安全设计。

在直接面对消费者层面——通用AI模型如ChatGPT绝不能扮演医疗顾问的角色。用户天然会信任一个看起来"聪明"的对话系统,而AI不知道自己的知识边界在哪。这不是OpenAI一家的问题,而是整个行业需要面对的责任红线。

Hassabis说AI的首要应用应是改善人类健康。他说得对。但要实现这个愿景,不仅需要加速正确的事情,更需要防止错误的使用方式——因为一个19岁生命的代价,已经足以说明警示的分量。

相关文章

摩友福音!通知转语音

摩友福音!通知转语音

因为穷,一直摩托车通勤,开了这么多年摩托车,其他什么都好,但是有个小困扰,行驶过程中会耽误一些重要的回复,虽然大多数人的消息可以滞后再回复,但是咱还没有到那么高的级别,什么事情都可以不紧不慢的处理。就...

Debian 10 开发一个go语言接口

Debian 10 开发一个go语言接口

首先是安装go环境 # 1、预备工作 sudo apt-get update sudo apt-get -y install&...

00后少年在自家客厅完成全基因组测序,成本从27亿降到1100美元

00后少年在自家客厅完成全基因组测序,成本从27亿降到1100美元

2003年,人类首次完成全基因组测序,耗时13年、花费27亿美元。2026年,一位00后少年在自家客厅餐桌上,用二手设备和AI模型完成了同样的工作——总成本约1100美元。 成本降低了245万倍。而...

Anthropic CEO 惊人预言:GDP 暴涨 10%、软件免费、程序员消失

Anthropic CEO 惊人预言:GDP 暴涨 10%、软件免费、程序员消失

Anthropic CEO Dario Amodei 在《华尔街日报》采访中发表了一系列关于 AI 对未来经济与就业格局的惊人预测。这些观点正在硅谷引发激烈讨论——不是因为它们太科幻,而是因为它们...

mpvue vant 做个简单的核销小程序

我们公司业务一般偏营销,小程序的属性在营销这块没有那么明显,所以很少会有小程序的业务,这次也是帮朋友的忙,用mpvue+vant做了个简单的应用。应用不复杂,但是大部分的功能也都用到了,比如生成/扫描...

微信群聊机器人介入AI

微信群聊机器人介入AI

16年那时候我们的工作群就加入了机器人,那时候用的是web版的接口,后来微信封锁了,又改称了目前的PC端软件hook方式。只是最近把我们机器人拉入了客户群,充当客服,给他们解答订单进度问题。客户领导感...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。