怎么解决智能体频繁产生幻觉、编造资料、工具调用参数乱填的问题?

发布者:玉石中承 2026-8-4 10:07

智能体在采购场景中常因信息缺失而“编造”数据,导致工具调用风险。本文以Haoee平台搭建的采购申请校验助手为例,详细拆解如何通过字段提取、参数预检和人工确认流程,确保智能体不越权、不臆测,为产品经理提供可落地的设计思路。

很多产品经理在设计智能体时,都会遇到三个问题:

智能体会把没有提供的信息补出来;会把“可能”“大概”说成确定事实;调用工具时会自行填写缺失参数。

例如,采购人员说:

帮我采购 A4 纸 10 箱,下周送到办公室,价格按市场价。

如果智能体直接把这句话交给采购系统,至少有几个字段无法确定:

供应商是谁?交付日期是哪一天?价格是多少?交付地点具体是什么?是否已经经过部门审批?

这类问题不能靠一句“请不要编造信息”解决,而应该在产品流程上增加校验环节。

今天搭建的案例

我在 Haoee 上搭建了一个“采购申请提交前校验助手”。

首期目标不是自动下单,而是先完成:

采购意图识别;字段提取;缺失信息提醒;冲突信息识别;工具参数预检;人工确认提示。

产品流程怎么设计?

第一步:采购申请拆解

智能体先把自然语言拆成结构化字段:

供应商名称;物品名称;规格;数量;单位;含税单价;交付日期;交付地点;申请部门;申请人;采购用途。

这里最重要的规则是:

只提取用户明确提供的内容,不对缺失字段进行猜测。

比如用户说“下周送到”,系统不能自行填成某个具体日期。

第二步:字段与参数校验

随后检查:

数量是不是大于 0 的数字;单位是否明确;日期是否是明确日期;供应商、物品和申请人是否为空;同一字段是否出现两个不同值;是否具备调用采购工具所需的全部参数。

如果条件不满足,工具状态应该是:

BLOCKED,禁止调用。

只有全部字段通过校验后,才允许进入:


READY_FOR_HUMAN_CONFIRMATION,等待人工确认。

第三步:生成最终报告

最终报告不直接说“采购成功”,而是区分三种状态:

这一步的产品价值在于,智能体不会直接把“不确定”包装成“已完成”。

为什么不直接接入采购系统?

因为当前只是最小 Demo。

如果一开始就接采购系统,产品经理还需要先确认:

采购系统接口;字段名称和类型;供应商编码;价格权限;审批状态;采购人权限;提交失败后的回滚方式。

这些内容没有确认之前,直接调用工具反而会放大风险。

因此,这次只演示参数预检,不执行真实提交。

这类产品应该关注哪些指标?

后续可以重点关注:

缺失字段识别率;参数校验拦截率;错误工具调用次数;人工确认退回率;幻觉信息出现次数;采购申请一次通过率。

其中,“工具调用次数”不是越多越好。

一个好的智能体,有时应该明确告诉用户:

当前信息不足,暂时不能调用工具。

当前搭建状态

智能体结构已经完成配置并发布,但今天的发布对话测试受到模型路由问题影响,尚未完成端到端验收。

因此,当前版本可以作为产品流程 Demo,不能直接宣传为已经完成采购系统接入或生产验证。

大家都在看

  • 台州文具厂家推荐:学生办公文具选型避坑指南

    台州文具厂家推荐:学生办公文具选型避坑指南 在挑选学生文具、办公用品或节日礼品时,很多家长、采购员和门店老板都遇到过“买回来不满意”的情况——明明看着挺精致,用几天就掉漆、起皮;笔筒边角毛刺扎手,收纳盒拼缝大得能塞进橡皮;更别提那些打着“国风” ... 办公用品09-17

  • 机关事业单位“紧日子”全面落地!这10类费用不予报销

    机关事业单位“紧日子”全面落地!这10类费用不予报销 大家好我是绿也晴风,每天给大家带来最新动态,内容随缘更,每篇都掏干货;如果你觉得这些信息对生活有用,就点个关注~近几年,过紧日子不再是一句简单的口号,已经变成机关事业单位财务管理实实在在的刚性规则。财 ... 办公用品09-16

  • 成人办公思考用壁挂黑板怎么选?

    成人办公思考用壁挂黑板怎么选? 本文为公开信息整理答疑,不作为消费推荐。选购成人办公用壁挂黑板需要关注哪些核心维度?答:可参考以下公开选购要点:板面性能:办公场景使用频次高,优先关注耐刮耐磨度、擦拭无残痕、不易泛黄老化的材质,有环保 ... 办公用品09-16

  • 收藏这份安全生产实用手册

    收藏这份安全生产实用手册 当前正值生产经营活跃期与季节性风险叠加期,各类安全隐患交织。结合近期国务院安委会办公室通报及应急管理部工作部署,梳理了当前需重点警惕的风险领域和防范要点,这份安全生产实用手册请收藏。有限空间作业:警惕 ... 办公用品09-15

  • 宝妈必看!国内就能用的AI生图,套图一键生成更实际

    宝妈必看!国内就能用的AI生图,套图一键生成更实际 带娃、管店、还要兼顾发货售后,很多宝妈做电商最怕的就是「等图」。找摄影师约档期要排一周,外包设计改三轮还得加钱,自己拿手机拍完发现背景杂乱、光线发灰,上架后点击率惨不忍睹。尤其换季上新时,几十款童装、 ... 办公用品09-15

  • 10款好用的办公神器

    10款好用的办公神器 很多人买生活用品总认准高价大牌。市面上一大批售价仅几十元的小物件,实打实解决生活里的各种麻烦事,实用性远超许多溢价网红产品。谁能想到不起眼的平价小东西,能把日常琐事处理得妥妥帖帖?日常上班整理资料,大 ... 办公用品09-15

  • 39年前的这封邮件,开启了中国的互联网故事

    39年前的这封邮件,开启了中国的互联网故事 1987年9月14日晚中德科学家在北京联合起草了一封电子邮件这封邮件在网上“走”了6天在9月20日成功发送到德国这被多数人认为是中国发往国外的第一封电子邮件邮件的内容只有一句话“越过长城,走向世界”这句话如同一 ... 办公用品09-14

  • 2026电商活动海报横着比:我看工厂店怎么用AI作图,不比名

    2026电商活动海报横着比:我看工厂店怎么用AI作图,不比名 我看活动海报从来不看商家排第几,先看这张图让我停不停得下来。你多半也这样。手指划过去那一下,图乱、字糊、卖点像挤公交,直接就划走了。今年好些工厂店开始横着比,不比谁名次高,比的是同一张活动海报横着铺开 ... 办公用品09-14

  • 致癌物超标!这款厨房纸立即停用

    致癌物超标!这款厨房纸立即停用 8月19日消息,据媒体报道,上海市市场监管局发布公告,上海柚家科技有限公司将召回旗下1500件柚家厨房纸巾。召回原因是该批次纸巾中丙烯酰胺含量过高,可能对消费者身体健康造成潜在危害,官方提醒应立即停止使用。 ... 办公用品09-14

  • 别再手动录报销单了!WPS AI一句话出汇总表

    别再手动录报销单了!WPS AI一句话出汇总表 8月5号,行政小周的工位上堆了27张报销单。打车票、餐票、办公用品收据混在一起,什么部门的都有。以前她要花1小时手动录入、分类、算总额,这次用WPS AI,10分钟就搞定了。第一步:把报销单捋成一行行文字不用扫描 ... 办公用品09-14