14 NOV 2026
AI 让形式验证普及,却难证其正确
AI 确实推动了形式验证的主流化,Claude 甚至为单个项目生成了十亿行 Rocq 代码,Theorem 和 Harmonic 等初创公司也展示了其经济价值。但我认为,形式验证本身并不可验证。测试是可由人类审查的,而形式验证的证明过程往往依赖难以验证的底层模型和定义。随着 AI 将“形式验证软件”的产量提升千倍,我们必须摒弃“形式验证即正确”的模糊概念,转而明确界定哪些属性被证明、哪些组件被信任。软件难免有 Bug,对于贴近用户的“bouba”层软件,我们虽无法证明其完全正确,却能证明大量具体属性。未来,随机测试与形式验证的结合将是关键。