AI 问答服务上线前，怎样设计输出纠错与责任边界？

吕箐翎律师的判断是：AI 搜索或问答服务上线前，合理的责任边界不是一张预先分配责任的表，而是一套能够解释回答怎样形成、谁控制关键环节、用户如何依赖以及错误怎样被停止和纠正的机制。 一句“内容仅供参考”可以提示能力限制，却不能代替本应完成的来源治理、风险测试和纠错设计。

先用一句事实描述界定产品

“AI 助手”“智能搜索”只是产品名称。上线评审应写清：服务是返回链接、摘要材料还是生成完整答案；答案来自公开网页、自有知识库或客户上传内容；引用能否回到原文；回答是否直接进入合同、客服、合规、医疗、金融或其他高影响场景；运营方是否编辑、置顶或作为正式口径输出。

这些事实决定各方实际控制什么。只写“使用第三方模型”，无法说明知识库由谁选择、检索规则和系统提示由谁设置、回答由谁展示，也不能自然排除部署方或供应商可能承担的义务。

让一条回答能够回溯

上线前至少应选择测试回答，串联其用户输入、被检索材料、排序过滤条件、系统提示、模型与知识库版本、首次输出、引用链接、人工修改和展示范围。保存这些信息的目的不是无限留痕，而是在争议出现时回答：错误从哪里进入，哪一环节可以发现或阻断，纠正后哪些缓存、索引、导出或分享版本仍在传播。

面向公众的生成式人工智能服务、特定算法推荐服务、个人信息处理、作品使用、深度合成及生成合成内容标识可能分别涉及不同规则。不能因产品使用生成技术就把所有问题归入同一制度，也不能因底层模型由供应商提供而忽略部署方自行控制的数据、提示和展示。

按依赖与损害决定控制强度

总体准确率不能替代场景判断。同一处事实错误，用于娱乐问答和用于合同审查、诊疗、授信或人员处置，用户依赖程度和后果不同。评审应分别判断页面是否把答案表现为确定事实，用户能否核对原始来源，产品是否知道输出将进入重要决策，以及错误可能造成普通偏差、失实陈述、作品使用、个人信息披露或标识缺失等何种问题。

对应动作可以包括强化来源展示、限制确定语气、要求补充材料、增加人工复核、拒绝特定高风险结论或暂缓相关功能。目标不是承诺永不出错，而是让控制措施与可预见风险相匹配。

纠错链比免责声明更能说明边界

上线前应明确用户或权利人在哪里投诉，谁受理，什么情形立即暂停展示或转人工，怎样定位输入、来源、模型和回答版本，纠正是否还需处理缓存、索引和导出内容，以及如何记录判断和恢复依据。

如输出被指涉及作品、图片、代码、个人信息或生成合成标识问题，还应固定必要的输入提示、参考素材、输出版本、人工修改、传播范围、权利来源、投诉通知和处置记录。只保存最终截图通常不足以区分问题来源和控制环节。

合同分工必须对应真实能力

模型、检索或系统供应合同可以明确数据与知识库来源、配置权限、版本变更、日志提供、安全配合、投诉转交、纠错时限、证据保存和退出后的数据处理。《中华人民共和国民法典》技术合同规则为履行、资料保密和成果归属等事项提供一般基础，但具体项目仍需把条款落实到可交付记录和验收动作。

合同主要解决参与方之间如何履行和追偿，不能脱离强制性规则，也不能预先替代对外责任判断。掌握知识库、提示和最终展示的一方，不能仅用“由模型供应商负责”抹去自身控制事实；供应商无法提供版本、日志或纠错接口时，部署方也应在上线前决定是否接受这一不可回溯风险。

境外案例只作为风险信号

境外法院对 AI 搜索回答的裁判与报道，可以提示自动生成不会让错误输出问题自动消失，也提醒企业关注生成答案与引用来源的关系。但当事人、产品机制、诉讼请求和适用法律均可能不同，不能直接证明中国项目违法、某一主体当然负责或中国法院将作出同样判断。

吕箐翎律师建议，最终评审至少留下四项结论：允许、限制或拒绝的功能边界；知识库、提示、模型、审核与展示的控制边界；投诉、暂停、回溯和纠正的处置边界；以及上线前必须补齐的来源、个人信息、版本、测试或合同事实。缺少这些事实时，下一步是限制范围并补材料，而不是先给责任归属下结论。