智能客服 Agent

这是一个嵌入客服工作流的 AI 协作系统：客服人员仍在原有工作台处理会话，AI 以侧栏形式提供回复建议、上下文解释和处理状态。目标不是做一个脱离业务的问答机器人，而是让模型在订单事实、知识依据、策略权限和人工运营之间受控协作。

项目要解决的问题

客服场景中，一句看似自然的回答也可能带来业务风险：关联错订单、引用过期商品资料、越权承诺退款或改价，都会使“回答得好”失去意义。

因此，项目的核心原则是：LLM 负责理解与生成，规则系统负责事实、权限与安全边界。

客服消息 / 商品卡 / 订单卡
        ↓
会话上下文构建与相关订单选择
        ↓
知识检索与可回答性判断
        ↓
回复策略 → 受控能力 → 安全检查
        ↓
AI 草稿 / 自动发送 / 人工接管
        ↓
审计记录、知识回流与持续优化

三层受控机制

层级	负责什么	不负责什么
业务事实	订单关联、商品资料、会话上下文	生成对用户的自然语言表达
策略与能力	意图路由、权限范围、可调用工具	自行放宽业务规则
模型与安全检查	理解问题、生成建议、拦截风险结果	自行决定高风险动作或跳过人工

这种分工让 AI 可以提升效率，但不会因为一次模型判断就获得业务执行权限。

三种明确结果

• AI 草稿：生成可编辑建议，由客服确认发送。
• 自动发送：仅当订单、知识、策略、工具和安全检查全部通过时创建发送任务。
• 人工接管：涉及高风险、事实不明确、用户要求人工或连续知识缺失时停止自动处理。

默认以 AI 草稿为主。退款、改价、取消订单、改地址等高风险动作不由 Agent 直接执行，只能形成待人工处理的信息。

关键工程设计

多订单时先确定对象

订单号、商品名与 SKU 等强证据可以唯一关联订单；多笔同级候选且缺少证据时，系统请求澄清，不会因为某笔订单付款时间更近就自动选中。

RAG 命中不等于可以回答

知识检索结果需要经过可信度、生命周期与冲突检查。资料不足时，系统输出安全草稿或转人工，而不是让模型自行补全事实。

人工接管是正式状态

系统会记录 AI 建议、接管原因、人工修改和最终发送结果；处理完毕后，会话可以按规则恢复 AI 协助。这使审计、复盘和知识优化有完整链路。

技术与验证范围

后端以 FastAPI 与 SQLite 提供会话、知识、策略、审计和发送队列能力；前端以 React/Vite 提供 AI 侧栏与运营页面；客户端与客服工作台协作。

测试与评测使用隔离环境，不读取或写入正式会话数据；公开资料不包含客户会话、订单、商品、账号凭据或内部策略原文。

延伸阅读

• 从“能回复”到“能上线”：企业智能客服 Agent 的安全闭环
• 多订单场景下，为什么 AI 客服不能靠最近订单猜答案
• AI 草稿、自动发送与人工接管：客服 Agent 的状态机实践