AI 能解百年数学题，也能主动找漏洞：Greg Brockman 为什么仍把最后一票留给人

导读

当 AI 能解决人难以独立完成的问题、也能主动操作系统时，人怎样继续判断结果并掌握方向？OpenAI 的 Greg Brockman 认为，模型能力越强，验证和控制方式越要随之改变，让关键分歧回到人能裁决的尺度。他以数学为例：面对人没时间从头检查的任务，可以让另一个 AI 挑出具体错误，再由人核对原始证据；领域专家也在逐项检查 AI 给出的数学结果，追问推理为何成立。在安全工作中，OpenAI 曾暂停约四分之一生产工程师的项目，用当时最强模型寻找并修复漏洞，保留工具，准备在下一代模型出现后重做。不同领域的验证条件并不相同：药物研发仍需要实验和长期人体观察，模型预测还不能代替临床试验；主动助手进入企业，也要面对权限和管理控制问题。