五个核心问题与回答
为什么今天就要讨论尚未完全出现的风险？
按当前模型能力评估风险，不是更符合证据原则吗？
Bengio 的核心判断是，前沿能力增长快于治理建设，等危险能力被大规模验证后再行动可能已经太迟。网络攻击和生物能力一旦降低到更多行为者可及，社会面对的不是普通产品缺陷，而是高后果事件。因此，部署前测试、阈值和应急机制必须在能力成熟前建立，同时也要避免把所有假设风险都当成确定事实。
“降低门槛、抬高上限”描述了怎样的威胁？
AI 只是给已有恶意行为者提供更好工具吗？
他把影响分成两条曲线：一方面，过去缺乏专业能力的人可能借助模型发起攻击，作恶门槛下降；另一方面，已有能力的行为者可以扩大规模和破坏程度，风险上限提高。评价一个可自主执行的系统，不能只问正常用户得到多少效率，也要问它把哪些危险能力开放给了谁。
为什么开放权重模型需要不同治理方式？
开放研究和创新的价值，是否被安全讨论低估了？
Bengio 强调不可逆性：开放权重一旦分发，无法召回、统一打补丁或收回访问权限，因此双重用途能力需要更高的发布门槛。这个立场与开放生态存在真实张力，不能简化成“开源有害”。关键是根据能力风险、可替代性和防护水平分级，而不是对所有模型使用同一规则。
网络风险和生物风险应如何排序？
为什么演讲把网络风险放在更短期的位置？
网络攻击拥有现成工具链、远程执行和快速迭代条件，前沿模型已可能降低攻击门槛；生物风险的现实执行仍需要实验条件与专业资源，但后果可能更高。这个排序会影响测试和治理资源，应通过公开事件、能力评测和专业机构判断持续修正，而不能成为永久假设。
全球合作如何从原则变成执行？
在技术竞争和地缘政治环境下，跨国治理是否过于理想化？
Bengio 认为 AI 能力跨越国界，任何单一国家都难以独自承担外溢风险，因此政治与技术合作不可避免。但演讲没有给出完整执行机制。现实路径可能从共享风险定义、互认部分评测、事故通报和科研合作开始；是否能够形成有约束力的共同标准，仍是最大的未决问题之一。
沿着对话，回到问题如何展开
Yoshua Bengio：前沿模型在网络安全和生物能力上的进步，可能让今天无法实施高后果攻击的行为者获得新的手段。如果只依据当前能力制定规则，制度很容易在下一轮模型出现时失效。
Yoshua Bengio：默认姿态应从事后反应转为事前准备。部署前测试、危险阈值和延迟发布，需要在能力完全显现之前建立，而不是事故发生后再寻找补丁。
Yoshua Bengio：AI 对恶意使用有两种放大作用：降低谁能够造成伤害的门槛，也抬高单个行为者能够造成多大伤害的上限。这两种变化需要不同防护——前者关注访问和滥用检测，后者关注高能力系统的隔离与限制。
纪要：演讲主要讨论恶意行为，对非恶意错误、系统偏差和复杂系统事故展开较少。产品治理不能因此忽略那些更常见但同样会积累损失的风险。
Yoshua Bengio：专有模型仍可通过访问控制、更新和下线降低风险；开放权重一旦广泛分发，就无法统一召回或修补。具有显著双重用途能力的模型，应在发布前接受不同于普通模型的评估和阈值。
纪要：这并不自动得出全面限制开放模型的结论。开放研究也提供透明度、竞争和安全创新。真正需要建立的是能力分级与证据标准，让限制与可验证风险相匹配。
Yoshua Bengio：网络风险是更直接的短期问题，需要更好的部署前测试，并在模型越过危险能力阈值时推迟发布。生物风险同样需要评估危险能力，并确保相关能力不向恶意行为者开放。
Yoshua Bengio：风险评估不能停留在模型回答了什么，还要观察它是否能规划、调用工具并完成现实行动。自主性提高后，模型、运行环境和访问权限必须一起进入测试。
Yoshua Bengio：机器智能的增长意味着权力增长。如果决策鲁莽，或只服务少数人的利益，这种权力会转化为危险。AI 的影响跨越国界，因此各国需要承认这是共同威胁，并从政治和技术层面持续合作。
纪要：全球合作是必要方向，却不是已经解决的问题。下一步应关注有哪些评测、通报和协调机制真正落地，而不仅是会议声明是否表达共识。
现场画面
