EN

AI FOR SCIENCE · 访谈

给 AI 设计的蛋白加水印:能证明来源,不能证明安全

Google DeepMind: The Podcast · 38:10 · 在 YouTube 打开 ↗
嘉宾
Pushmeet KohliGoogle DeepMind 科学副总裁(主持人介绍)人物页:任职与记录 →Jeremy Ratcliff生物安全研究员,SynthID Bio 团队人物页:任职与记录 →
公司
Google DeepMind机构页:融资、人物、研究 →
来源
Google DeepMind: The Podcast ↗发布于 · 38:10
核心信号

DeepMind 说,AI 设计的蛋白可以带着不可见的水印,在实验室里仍然起作用;它要给 DNA 合成公司用来区分 AI 设计的序列和天然序列。

这次新增

论文摘要没说的几件事:它给谁用(DNA 合成公司的订单筛查)、为什么按序列比对的筛查会漏掉 AI 重新设计的蛋白、检测要靠模型方和合成公司共享密钥,以及 DeepMind 的角色是催化而不是运营。

当前边界

实验室测试只涉及结合蛋白;抗蓄意去除的稳健性被说成是风险;没有哪家合成公司被说成已经在用。

01

访谈里说了什么

  1. 分类器会失效,所以要在生成时就写入信号

    Kohli 说,早期用机器学习区分 AI 内容的做法,随着生成模型变好而越来越不准;水印则在生成时加入一个不可感知、难以去除的偏置。他给好水印定了三条:不降低质量、抗变换、易集成易检测。

  2. 同一个想法从文字搬到蛋白:在“等价的选项”里藏信号

    文字水印靠一把密钥,在几个同样合适的词里偏向某些词;蛋白序列水印则在能保持结构和功能的氨基酸之间做选择(比如亮氨酸和异亮氨酸)。序列版本建在第三方的 ProteinMPNN 上,结构版本建在 AlphaFold 3 上,微调原子位置。

  3. 目标用户是 DNA 合成公司的订单筛查

    合成公司核实买家身份,再把订单和已知危险序列库比对。Ratcliff 说风险在于:AI 能做出序列上离数据库很远、却折叠成同样东西的蛋白,还可以拼进一份正常订单里。水印不判断是否有害,只让筛查者知道这条序列来自一个他们信任的 AI 系统。

    “you can make something that in sequence space is very different than something that's present in that pathogen database but might fold into the thing that is of concern.”Jeremy Ratcliff
  4. 他们做了结合蛋白并在实验室里测了

    Ratcliff 说,加了水印的结合蛋白(两种方案)和没加的相比,命中率、结合的定量指标几乎一样。他自己事先怀疑过。他们还说,据他们所知,这是第一个同时展示不可感知和保持功能、并有体外实验的水印工作,这是作者自己的优先权说法。

    “near identical hit rates, near identical quantitative measures of binding.”Jeremy Ratcliff
  5. DeepMind 的角色是催化,不是运营

    代码会开源,别人不必和 DeepMind 协调就能集成;但要真正起作用,模型方要接入,合成公司要和模型方交换密钥。DeepMind 没有蛋白设计服务,也不认为标准该由它来定。公开的检测器会促使人去绕过,Kohli 把“猫鼠游戏”称为真实风险。

02

改变了什么

  • 此前的公开记录

    论文的时间线条目(2026-09-30)记录:蛋白序列和 AlphaFold 3 结构都加了水印;在 VEGF-A、SARS-CoV-2 RBD 和 PD-L1 三个靶点上,加水印的结合蛋白与未加的命中率和亲和力相当。

    这次访谈新增

    访谈点明了使用者(核对订单的 DNA 合成公司)和威胁(AI 重新设计出序列上离已知序列很远、却折叠成同样东西的蛋白,再拼进正常订单)。

  • 此前的公开记录

    同一条目写明 DeepMind 把抗蓄意篡改的稳健性列为未解决。

    这次访谈新增

    两位嘉宾补充:公开的检测器会促使人去绕过它,Kohli 把“猫鼠游戏”称为真实风险;他们的理想是去掉水印就必须改变蛋白功能,但这是目标,不是结果。

  • 此前的公开记录

    论文建立了一种水印方法,并报告了实验室里功能得以保留。

    这次访谈新增

    作者把部署明确说成概念验证:还需要模型开发者、合成公司和共享的密钥基础设施;DeepMind 把自己的角色说成催化,而不是自己来运营。

03

为什么重要

来源信号不能替代危害筛查

按 Ratcliff 的说法,水印只回答一件事:这条序列来自一个筛查者信任的 AI 系统。核实买家身份、把订单和已知危险序列库比对,仍是筛查的另外两步。没有水印的序列只是没带标记,不等于有害,带水印也不等于安全;这是我们的读法,访谈没有这样说。

给 DNA 合成筛查多一道来源信号

现在的筛查把订单和已知危险序列库比对;水印不判断是否有害,只告诉筛查者这条序列来自一个受信任的 AI 系统。按 Ratcliff 的说法,它补的是比对看不到的那一类序列。

能不能用起来,取决于密钥和谁来集成

水印由运行设计工具的一方写入,哪怕工具是第三方的(ProteinMPNN);检测则要靠模型方和合成公司交换密钥。DeepMind 没有蛋白设计服务,所以采用的门槛是协调,而不是技术。

04

主张与边界

主张谁的口径目前状态

SynthID 文字和图像水印已被其他 AI 公司采用,Gemini 应用里可以直接检测。

公司自述

Kohli 的说法,点名了 Nvidia;其他公司名字的字幕不清。

加了水印的结合蛋白(两种方案)与未加水印的相比,命中率和结合的定量指标几乎相同。

公司自述

嘉宾对自家实验的概括;具体数字和靶点没有在访谈里给出,见论文。

据他们所知,这是第一个同时展示不可感知和保持功能、含体外实验的水印工作。

公司自述

作者的优先权说法,没有对照文献。

合成公司靠身份核实加数据库比对筛查,AI 重新设计的序列可能绕过比对。

行业背景

Ratcliff 引用其他学者的发现,没有点名。

代码将开源;模型方要集成,合成公司要和模型方交换密钥。

目标

计划与前提,没有给时间表;DeepMind 自己没有蛋白设计服务。

抗蓄意去除的稳健性,以及公开检测器招致绕过的风险。

尚未闭环

嘉宾把它们当作风险和后续工程空间,没有给出攻击测试结果。

还没有 DNA 合成公司被说成已在使用或试点。

尚未闭环

Ratcliff 说谈过的人都很兴奋,但这只是兴趣。

05

接下来看什么

  1. 代码开源之后,有没有第三方的蛋白设计工具或模型方集成它。

    会表现为 一个模型方或工具方公告加入水印。
  2. 有没有 DNA 合成公司或联盟公开试点检测,并说明密钥怎么交换。

    会表现为 合成公司或行业组织的公告。
  3. 有没有独立团队尝试去掉水印,同时保留结合功能。

    会表现为 一篇独立的攻击或复现论文。
  4. 结果是否超出结合蛋白,延伸到酶等其他功能。

    会表现为 论文或后续预印本里的新功能类型。
来源与读法

读于 2026.10.01 YouTube 完整自动字幕;姓名以时间线条目的署名为准。 打开原访谈 ↗