EN

论文与基准· 科学证据 · Frontier

AI 为什么容易认错分子结构图?论文里的结构图比专利基准难得多

上海人工智能实验室 OpenDataLab 的出发点是:OCSR 在 USPTO 等专利基准上早已拿到高分,论文里的结构图却同时考验视觉识别和化学表达,图像再清楚,常用的分子表示也未必装得下图里的化学语义。

更新于 9分钟阅读编辑 Dekun Sun

真实论文基准 + 技术报告评测

当前边界:验证仍局限于一个经过挑选的真实论文基准,对专利、老旧扫描件和复杂 Markush 结构覆盖不足

这项工作推进的是:从真实论文图像恢复分子结构

  1. MODEL理解 / 预测
  2. DECIDE选择下一步
  3. INTERACT测试现实
  4. UPDATE改变下一轮
本篇证据海报(A4 竖版):四个答案、五个章节与按困难分组的准确率图

系列导读

MinerU.Chem 系列|从化学 PDF 到机器可用的反应数据

PDF化学区域分子结构反应关系结构化数据
核心结果

该基准的结构图把机器读图识分子的难处分成两类:看清图像,以及用某种表示装下图中的化学。

认知更新
USPTO、UOB 等专利基准上超过 90% 的精确匹配高估了 OCSR:这里 18 个模型写对分子式字符串最高只有 41.05%。
最强证据
18 个模型在同一套人工标注的图上实测,比法越严分数越低:SMILES > 简化分子图 > 完整分子图。
关键限制
样本按困难均衡挑选,各类困难的占比不是论文中的真实比例;也没覆盖所有年代、专利和子领域。

01发生了什么

任务
把二维结构图还原成机器可读的分子图,即光学化学结构识别(OCSR)。
方法
MOSAIC 分视觉、化学语义两维;GTR-VL 先还原分子图,再出 SMILES。
交互对象
只有文档:模型读论文里的结构图,有扫描噪声、拥挤排版、简写和非标准键,不接触实验。
结果
93.29% 的图至少带一种困难,42% 两类兼具。

5,029论文中的分子结构图

820来源化学论文

18 + 19视觉 + 化学语义困难类别

上一篇跟着一份化学 PDF 走完了 MinerU.Chem 的整条流水线。这一篇只看其中最难的一环:把二维分子结构图还原成机器可读的分子图,也就是光学化学结构识别(Optical Chemical Structure Recognition,OCSR)。[S4]

论文举的例子是 MolGrapher 和 MolParser:它们在 USPTO、UOB 等基准上的精确匹配准确率都超过 90%,只看排行榜,很容易以为这个任务快做完了。作者指出,DECIMER、CLEF、Staker、USPTO、JPO 这类常用基准大多取自专利或自动生成的图像,画法标准、背景干净、分辨率高、噪声少。论文里的结构图不是这样:扫描噪声、模糊键线和拥挤排版,还只是第一类困难。[S1]

第二类困难性质完全不同:图片很清楚,模型照样会错,因为图里画的是非标准键、特殊价态、自由基、配位结构、Markush 结构、聚合物重复单元,或者简写成 Ph 的基团。一张结构图可能难在视觉,可能难在化学语义,也可能两样都难。[S1]

02改变了什么

评测更新架构更新
之前

对比的基准多是干净的专利或生成图;不少 VLM 直接看图写 SMILES。

之后

基准改用论文里的结构图,把视觉困难与化学语义困难分开;GTR-VL 先还原可检查的分子图,再输出 SMILES。

把两种“难”分开来看

MolRecBench-Wild 的 MOSAIC 框架把 OCSR 的困难拆成两个维度。视觉一侧包括低分辨率、扫描噪声、拥挤排版、文字压在结构图上,以及模糊或断开的键线,考的是模型能不能稳定地“看清”。[S1]

化学语义一侧的困难,像素再清楚也照样存在:特殊价态、自由基、配位结构、缩写、Markush 与聚合物的表示。问题从“看没看清”变成了“用什么表示来表达看到的化学”。[S1]

数据来自 7 种化学期刊约 820 篇 CC BY 4.0 论文。团队先从候选图中初筛出约 6,548 张,人工标注 MOSAIC 困难,再按标注挑出 5,029 张,让样本在“视觉困难数 × 化学困难数”的二维空间里分布均匀。37 类困难中 18 类属视觉,19 类属化学语义;该基准收集的结构图中 93.29% 至少带一种困难,42% 两类兼具。因为是按困难均衡挑选的,这两个比例描述的是这套基准,不是化学论文里结构图的真实比例。[S1]

在这套图上,论文评测了 18 个能做 OCSR 的模型,所有类别都明显下降:SMILES 准确率最高的是 MolScribe(41.05%),GTR-Mol-VLM 为 40.43%;更严的完整分子图指标上,最好的是 Gemini 2.5 Pro,只有 13.04%。每个模型都是 SMILES 高于简化分子图、简化分子图高于完整分子图,评测的严格程度本身就改变了分数。[S1]

直接看图写 SMILES,为什么会出错

GTR-VL 论文把现有方法分成两类。ChemVLM、ChemDFM-X、OCSU 等把 OCSR 当成给图片配说明文字(image captioning):输入一张分子图,直接生成一串 SMILES。MolGrapher、MolScribe、MolNexTR 等图解析方法则先预测原子、再预测化学键,拼出分子图。直接生成 SMILES 的问题在于:SMILES 是高度序列化的表达,一个原子、一根键或一处立体化学判断错,后面整串字符都可能跟着变;只给出最终字符串,也很难定位到底哪里看错了。[S3]

GTR-VL 也输出分子图,但不像以往图解析方法那样分两步:它沿着分子图交替生成原子和化学键,再走向下一个原子,中间明确经过一张分子图。这张中间图可以检查:结果错了,能定位到某个原子、某根键,甚至对回原图坐标。对要进数据库的数据来说,这比只知道“整串 SMILES 不匹配”有用得多。[S3][S4]

图里写的是 Ph,标准答案里为什么冒出一个苯环?

GTR-VL 论文指出,MolScribe、MolNexTR 的专利训练数据取自 MOL 文件,标准答案里的 Ph 已被完整展开成苯环。化学上这完全等价,展开本身不是错误;问题在于是否忠实保留原图的写法:图上只写了“Ph”,没画六元环,答案却要求模型输出一个。监督目标与图上画的东西对不上,模型会在该写缩写的地方去猜展开式。[S3]

GTR-VL 把这条原则概括为“看见什么,就如实识别什么”(Faithfully Recognize What You've Seen):原图写 Ph,就先把它作为超原子(superatom)保留,等到后续标准化时再展开。团队按这个思路整理了约 130 万条训练数据。这个标注细节背后是一条更普遍的数据原则:抽取和归一化不该挤在第一步一起做。[S3][S4]

03为什么重要

在数据入口处,拿什么做基准?以哪种表示判定“正确”?

  • 评估读图识分子要覆盖论文里真会遇到的困难,而不只看干净专利图的排行榜。
  • 选表示(SMILES / 分子图 / CARBON),就是在选“什么算正确”,评测方式也得跟着改。

这里要先分清版本:5,029 是 MolRecBench-Wild 原论文里基准的一个版本;5,024 是 MinerU.Chem 技术报告所用修订版中带分子图标注的集合;2,392 是其中能转成有效 SMILES、可按 SMILES 评测的子集。其余结构含 Markush、非常规缩写或违反价态规则的键,转不成有效 SMILES。三个数分母不同,不能混用。[S1][S4]

MolRecBench-Wild 的用意不是为难而出难题,而是把考场搬到模型真正要干活的地方。如果实际数据里满是 Markush、聚合物、缩写、扫描专利和拥挤的补充材料插图,测试集却只有画法标准、背景干净的图,那么 90% 以上的准确率也回答不了能不能用的问题。

OCSR 又恰好卡在化学数据流水线的入口。一根立体键看错,后面的反应解析、数据库构建、性质关联和模型训练都可能继承这个错误。最危险的往往不是非法的 SMILES,而是那些合法、看着正常、却和原图对不上的分子。

04证据状态与边界

证据等级 2 / 5 · 算出来了 · 回顾性或模拟

证据状态

已证实

  • 每张图的困难按视觉、化学语义两个维度分开标注
  • 完整分子图准确率,18 个模型中最高只有 13.04%
  • 5,029 是一个版本;5,024 是修订标注集;2,392 是可转 SMILES 的子集

边界

有迹象

  • 图上写 Ph 就存 Ph,答案才与图一致(展开后同一分子)
  • 字符串不同也可能是同一分子:原始串、规范化、分子图等价要分开比
  • 规范化 SMILES 一致,不能证明简写和二维坐标得到保留

未知

  • 跨出版年代、专利、扫描质量与化学子领域的泛化
  • 放进实际生产流程后的可用性,以及还要多少人工修正
  • MOSAIC 标注和标准答案靠 47 名标注员人工判断,论文未报告标注者间一致性
  • GTR-VL 的训练数据与测试集是否隔离(报告未说明)

主张视觉困难拉低分数,化学语义困难拉得更低,两个系统都是如此。

修订版按困难分组的分子图准确率(%,MinerU.Chem 报告 Table 4)

GTR-VL · A 视觉困难少(1,987)92.15
GTR-VL · B 视觉困难多(1,976)80.11
GTR-VL · C 含化学语义困难(1,061)55.42
GPT-5.6-Sol · A44.44
GPT-5.6-Sol · B28.14
GPT-5.6-Sol · C18.57

读法A、B 不含指定的化学语义困难,C 含;GTR-VL 是作者自己的系统,GPT-5.6-Sol 是其最强对比系统。

连评测的尺子也可能把“对”判成“错”

同一个分子可以写成多条不同的 SMILES,所以要分清三种比法:原始字符串精确匹配、规范化(canonicalization)之后再比、以及直接比分子图是否等价。模型还原的分子图可能与标准答案完全相同,却因为遍历顺序、缩写展开方式或规范化不同,生成的原始字符串不一样,按字符串精确匹配就被判错;GTR-VL 论文还指出,MolScribe、MolNexTR 的评测把缩写替换成星号(*),这些部分等于没评。MolRecBench-Wild 的 SMILES 赛道比的是规范化后的序列,而且为了能比较,把标签里的非标准键简化成了普通键。反过来,两条规范化后的 SMILES 相同,也不代表模型如实保留了缩写、二维坐标和非标准语义。[S1][S3]

按困难分组看分数

MinerU.Chem 技术报告按 MOSAIC 标注把修订版基准分成三个互不重叠的子集:A 不含指定的化学语义困难、视觉困难也较少(1,987 张);B 同样不含化学语义困难,但视觉困难更多(1,976 张);C 含指定的化学语义困难(1,061 张)。报告里自家的 GTR-VL-1.4.13 分子图准确率依次为 92.15%、80.11%、55.42%;SMILES 最好的对比系统 GPT-5.6-Sol 为 44.44%、28.14%、18.57%。两类困难各自拉低分数,化学语义那一类拉得更多。注意 GTR-VL 的训练数据含按 MolRecBench-Wild 规程人工标注的论文结构图,报告没有说明与测试集是否隔离。[S4]

所以 MolRecBench-Wild 同时保留 CARBON、分子图层面的表示和 SMILES。当模型逼近 USPTO 这类旧基准的上限,要改的未必只有模型,有时连“什么叫正确”也得重新定义。[S1]

基准更真实,也不等于经过了实际生产的检验

取自论文的基准比专利基准更接近论文里实际会遇到的困难,但仍不是化学文献的全貌,更不是其中各类图的真实比例。5,029 张图来自 7 种期刊约 820 篇近期 CC BY 论文,又按困难均衡挑选,代表不了所有出版商、年代、扫描质量、专利和化学子领域;MOSAIC 标注和复杂结构的标准答案由 47 名化学背景的标注员完成,论文没有报告标注者间一致性。[S1]

该得出的结论不是“终于知道 OCSR 的真实准确率了”,而是:USPTO 这类专利基准很可能让这个任务显得比实际容易,现在有了一把更贴近论文场景的尺子。

MolRecBench-Wild 难度分布图:视觉困难 × 化学困难
MolRecBench-Wild 难度分布图:视觉困难 × 化学困难

官方仓库的难度分布图:以往基准的样本集中在视觉、化学困难都少的一角,MolRecBench-Wild 沿两条轴铺开;这是按困难均衡挑选的结果,不是论文中各类图的真实比例。MolRecBench-Wild 官方仓库(OpenDataLab),整图未作修改;仓库的 Apache 2.0 许可针对代码,不涵盖图片。 [S2]

05我从中学到什么

可迁移的洞见
科学表示不是中性的文件格式:SMILES、分子图和 CARBON 保存的信息不同,这决定了什么算“正确”。
设计启发
抽取与归一化分开做:先如实记下看到的(图里是 Ph 就存 Ph),标准化放到后面。
阅读启发
看到 OCSR 准确率很高,先问测试集里有没有可变基团结构、聚合物、扫描专利这类真实困难。
接下来看
在真实论文分布上改用分子图层面或 CARBON 评测,OCSR 的准确率会掉到多少。

基准应当像模型真正要工作的地方

将来的数据里有 Markush,测试集却从来没有,排行榜再好看也不够。

科学表示不是中性的文件格式

SMILES、分子图与 CARBON 保存的信息不一样,什么结果能算“正确”也随之改变。

标注上的错位,可能比模型大小更根本

图片写的是 Ph,标准答案却要求完整苯环,这种监督错位不会因为模型变大就自动消失。

能找到“哪里错了”很重要

一张可以检查的分子图,往往比黑盒式的最终字符串更适合放进数据生产流程。

长图版本方便保存转发

资料来源

文中事实尽量链接至原始公告、项目清单、试验登记或同行评审论文;研究计划与已完成结果分开记录。

  1. S1MolRecBench-Wild: A Real-World Benchmark for Optical Chemical Structure RecognitionOpenDataLab / arXiv · 2026.05.07 · 论文与数据集
  2. S2MolRecBench-Wild 官方仓库OpenDataLab · 2026 · 代码与数据说明
  1. S3GTR-VL: Graph Traversal as Visual Chain of Thought for Molecular Structure RecognitionOpenDataLab / arXiv · 2025.06.09 · 预印本
  2. S4MinerU.Chem 技术报告OpenDataLab / arXiv · 2026.08.04 · 技术报告