Skip to content

[Feature] 增强 Agent 事实核验行为:结论必须以数据源实证为准 #8701

Description

@Dmatut7

What would you like to be added?

针对 Agent 的事实核验行为,建议五条增强(可通过内置 system prompt 引导或可选的"严格核验模式"实现):

  1. 先验证再下结论:对数据/状态作结论时,优先查真实数据源(DB/API)取实证;仅靠代码推断的结论必须显式标注"未验证"
  2. 全链条验证:验证任务要枚举完整因果链、逐环确认,单一必要条件成立不等于结论成立
  3. transcript 分级对待:历史对话/AI 自己的原话只当线索,不当事实;事实性断言必须回源头重新查证
  4. 排障顺序:先查自身近期变更 → 再查文档/已知问题 → 最后才怀疑外部依赖
  5. 审查 100% 证据制:审查/复盘场景下没有证据就不输出结论,每条断言附可核查证据(文件位置/查询结果/日志)

Why is this needed?

我们在生产环境运行多 Agent 协作的线上销售系统,对真实失误复盘后统计出以下高频失误模式:

失误模式 出现次数
代码推断代替 DB 实证 2
必要条件当充分条件 1
transcript 原话当事实 1
排障先怀疑外部 1
审查张口就来(无证据断言) 多次

这类"自信但错误"的输出在生产中排查和决策成本很高,增强核验行为能直接提升 Agent 结论可信度。

Additional context

建议面向通用 Agent 行为,不针对特定模型或场景。

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions