What would you like to be added?
针对 Agent 的事实核验行为,建议五条增强(可通过内置 system prompt 引导或可选的"严格核验模式"实现):
- 先验证再下结论:对数据/状态作结论时,优先查真实数据源(DB/API)取实证;仅靠代码推断的结论必须显式标注"未验证"
- 全链条验证:验证任务要枚举完整因果链、逐环确认,单一必要条件成立不等于结论成立
- transcript 分级对待:历史对话/AI 自己的原话只当线索,不当事实;事实性断言必须回源头重新查证
- 排障顺序:先查自身近期变更 → 再查文档/已知问题 → 最后才怀疑外部依赖
- 审查 100% 证据制:审查/复盘场景下没有证据就不输出结论,每条断言附可核查证据(文件位置/查询结果/日志)
Why is this needed?
我们在生产环境运行多 Agent 协作的线上销售系统,对真实失误复盘后统计出以下高频失误模式:
| 失误模式 |
出现次数 |
| 代码推断代替 DB 实证 |
2 |
| 必要条件当充分条件 |
1 |
| transcript 原话当事实 |
1 |
| 排障先怀疑外部 |
1 |
| 审查张口就来(无证据断言) |
多次 |
这类"自信但错误"的输出在生产中排查和决策成本很高,增强核验行为能直接提升 Agent 结论可信度。
Additional context
建议面向通用 Agent 行为,不针对特定模型或场景。
What would you like to be added?
针对 Agent 的事实核验行为,建议五条增强(可通过内置 system prompt 引导或可选的"严格核验模式"实现):
Why is this needed?
我们在生产环境运行多 Agent 协作的线上销售系统,对真实失误复盘后统计出以下高频失误模式:
这类"自信但错误"的输出在生产中排查和决策成本很高,增强核验行为能直接提升 Agent 结论可信度。
Additional context
建议面向通用 Agent 行为,不针对特定模型或场景。