Demo 与生产的鸿沟

Demo 只需在理想输入下跑通一次；生产系统必须应对超时、幻觉、无限循环与恶意输入。前者是演示，后者是工程。

护栏设计

  • 限制单次任务的最大步数与总 token 预算。
  • 对工具调用参数做严格的模式校验。
  • 为每个副作用操作设置人类可介入的确认点。

可观测性

记录每一次工具调用的输入输出、耗时与决策依据。没有 trace，你就是在黑箱里调试一个不确定系统。