五个核心问题与回答
为什么在 AI 大会上反过来谈 Science for AI？
AI for Science 已经足够热门，为什么还要让数学和物理改造 AI？
AI 可以帮助科学，但现有 AI 仍有结构、因果、能效和安全边界。数学提供可组合、可证明的结构，物理提供世界规律与新的计算范式，脑科学提供低能耗和可塑性启发。它们不是应用对象，也可能成为下一代 AI 的来源。
“Scale insight”想替代什么？
算力和数据增长真的接近极限了吗？
刘子明提出从扩大计算与数据转向扩大理解：建立关于训练行为的模型，在昂贵训练前预测结果。它不是否定规模，而是试图减少盲目试验，让研究者理解网络为什么工作。
科研多 Agent 怎样避免制造一份漂亮幻觉？
Brain Pilot 会检索、分析、建模和提出假设，可信度从哪里来？
平台引入 trace 与 auditor，让每个 Agent 的数据、代码和中间结果可视化、可复现。真正科研系统的交付物不是最终文字，而是完整证据与计算链。
为什么“工具型 AI”与“替代型 AI”必须区分？
更通用、更自主不是自然演进方向吗？
Max Tegmark 主张优先发展服务人类明确需要、可被控制的工具型 AI；Stuart Russell 则从助理博弈出发，让机器对人类偏好保持不确定，从而产生最小干预和可关机行为。两者都反对把替代人类控制当默认目标。
AI 的能源争论应该怎么看？
数据中心是否正在成为不可承受的环境负担？
David Patterson 试图区分总体占比、增长趋势与局部资源压力，并展示低碳能源、冷却优化和 AI 减排案例。不能用单一全球比例否定局部水电约束，也不能忽略 AI 本身帮助优化系统的可能。
沿着对话，回到问题如何展开
姚期智与 Gilles Brassard：量子密码学源自物理、计算机与密码学交汇，最初没有明确商业目标，几十年后形成可运行的通信技术。
纪要：这为上午论坛确立基调：基础研究的长期价值无法用短期产品路线完全预测。
袁勇：用拓扑、函数式编程和 Monad 描述复杂世界，可以把系统分解后再胶合，并为软件与知识构造提供可证明结构。
纪要：对 Agent 的启发不是照搬数学名词，而是让任务分解与组合规则显式化，避免多个模块只靠自然语言临时协调。
刘子明：下一趋势是扩大洞察和理解，目标是在真正训练前预测训练结果。
纪要：如果训练规律可以被建模，AI 研发就从经验性“大力出奇迹”走向更可解释的实验科学。
米璐：瓶颈不一定是数据，而可能是人的注意力。AI 可以成为脑科学发现的重要仪器，形成脑科学与 AI 的双向闭环。
纪要：多 Agent 负责检索、分析和建模，人把注意力放到问题与证据。trace 和 auditor 决定这种分工是否可信。
Max Tegmark：应把 AI 引向有益、工具型、可信的用途，并探索形式化验证帮助系统给出可证明结果。
纪要：可证明性适合边界清楚的代码、协议和控制条件，开放世界任务仍需要外部评估与社会治理。
Stuart Russell：如果机器对人类真正目标保持不确定，就有理由继续询问、允许纠正并接受关闭。
纪要：这与“模型先假定一个固定目标再最大化”形成根本区别，也为高自主 Agent 提供了一条行为设计思路。
纪要：无论量子、数学、脑科学或安全，价值都指向同一件事：让 AI 的结构、证据、资源与控制边界更可理解，而不是只让输出更像智能。
现场画面
