斯坦福的 James Zou：模型会回答问题，不会提出问题；下一步要扩展的是一起工作的智能体数量

模型会答题，不会出题

他说预训练、后训练和强化学习奖励的都是把问题答好，没有奖励提出好问题，所以 AI 在提问上的进展少得多。决定问什么还要靠人的创造力和品味，不同研究者对什么问题有意思判断不同。他希望人仍然负责、做监督，每位研究者背后有一个“虚拟实验室”：查文献、找想法、检查结果能否复现、分析是否稳健。

“But answering questions is only half of the puzzle in science. The other half is figuring out what questions to ask.”James Zou

模型的答案太集中，类比推理把搜索推到别的领域

让模型反复给一个科学问题出方案，前一两个很合理，之后多是同一批标准答案的小变体；他认为这和训练目标有关，模型因复现已有知识而得到奖励。他组的办法是让模型明确跳到很远的领域（物理、经济、社会科学），找关系结构相同的问题，再把那边已有的解法映射回来。他说这样得到的方案明显更多样，实际实现的几个也有很强的定量结果。

多样性和新颖性只是创造力的代理指标

他说多样性和新颖性好量化，但只是代理：很多疯狂的想法里，有的疯狂而好，有的只是疯狂，分辨它们要靠判断，现有的评测和模型都抓不住。他提出的另一个办法是改训练目标：不看模型生成的一批方案平均多好，而看其中最好的一个多好，很多想法失败也可以接受。他说这一小改动在多个科学问题上得到更好的方案，有几处达到新的最好水平。

新的扩展方向是智能体的数量

他说过去扩展的是单个模型的大小，现在可以扩展一起协作的智能体数量：从五到十个，到成千上万，最终可能上百万。他把自己实验室的路线排成这样：Virtual Lab 只有少数几个智能体，Virtual Biotech 有几十个，Physics of Agents 用统计物理去预测大批智能体互动时的群体行为。他认为新的集体智能和创造力会从这种互动里出现。

“Rather than only increasing the size of an individual model, we can increase the number of agents collaborating with one another.”James Zou

智能体之间的社会动力学和单个智能体的能力一样重要

提问者概括 Physics of Agents 的发现：反复互动会让智能体更坚定、走向共识，在数学题上提高准确率，在主观的政治表述上会放大偏见。Zou 说药物研发里很多好项目不是因为科学不成立才被砍，而是因为商业、专利、竞争格局或人的盲点。所以他测了团队里“怀疑者”的作用：在 Virtual Lab 里拿掉它，同一个团队犯的错明显更多。他也说前沿模型天生不擅长团队协作。

“We found that a team without the skeptic often makes substantially more mistakes than the same team when the skeptic is added back.”James Zou

审稿分工：AI 查客观错误，人判断重要性

他说投稿量暴增，现有审稿体系已难以为继。AI 擅长找技术错误、前后不一致和数字对不上；论文有多重要、多有创意、方向值不值得做，还是人类专家更强。Agents4Science 里，用同一套指令让 OpenAI、Anthropic 和 Google 的模型审同一批论文，OpenAI 的最挑剔、打分最低，Gemini 最正面，Claude 居中。他说现在很多人在私下用 AI 写稿审稿，有时还刻意隐瞒，需要公开透明的规范。

“The OpenAI model tended to be the most critical and skeptical, and often gave the lowest scores.”James Zou