AI搜索或助手回答出错，上线前怎样划定输出责任与纠错边界？
吕箐翎律师认为，AI搜索或助手上线前不应把输出责任压缩成一份免责声明，而应先按产品功能、生成与引用链、用户依赖场景、风险类型、人工复核、纠错机制以及日志版本拆出可执行边界。
AI搜索或助手回答出错，上线前怎样划定输出责任与纠错边界？
吕箐翎律师的判断是：AI搜索或助手上线前，不能先用一句“回答仅供参考”结束责任讨论，也不能脱离产品事实直接断言平台、模型方、部署方或用户必然负责。正确的起点，是把功能、生成链、依赖场景、风险类型、人工复核、纠错机制和版本记录逐项拆开，再判断谁控制了什么、谁承诺了什么、谁本可阻止或纠正什么。
“AI回答出错”不是一个单一法律事实。它可能只是信息不准确，也可能涉及对个人或企业的失实陈述、未经许可使用作品、披露个人信息、缺少生成合成内容标识，或者使用户在医疗、法律、金融、采购等场景中作出重要决定。问题类型不同，适用规则、需要核查的事实和可能承担责任的主体都可能不同。
因此，上线前需要形成的不是一张抽象的“责任归属表”，而是一套遇到具体错误时能够立即定位回答来源、控制环节、影响范围和纠错动作的边界。
第一层：先界定产品到底在做什么
责任审查应从用户实际看到和使用的功能开始，而不是从“搜索”“助手”“智能问答”这些产品名称开始。至少要回答：
- 产品只是返回链接，还是会摘要、重排并生成一个看似完整的答案；
- 答案来自公开网页、自有知识库、客户上传材料，还是多个来源混合；
- 产品是否展示引用来源，引用是否能让用户回到原文核验；
- 回答是一般信息，还是会被用于合同审查、合规判断、医疗建议、授信、招聘或其他高影响场景；
- 运营方是否会人工编辑、置顶、推荐或将回答作为正式对外口径。
这些事实决定了产品对内容形成和传播的控制程度。仅写“由第三方大模型生成”，不能说明知识库由谁选择、检索规则由谁设置、系统提示由谁编写、回答由谁展示，也不能自然排除任何一方的义务。
吕箐翎律师建议把每个主要使用场景写成一句可验证描述，例如：“用户输入企业名称后，系统从指定知识库检索材料并生成带引用的风险摘要，未经人工审核即可展示。”只有描述达到这个颗粒度，后面的责任边界才有事实基础。
第二层：把一条回答的形成过程完整串起来
上线前至少要能回溯一条测试回答的以下环节：
- 用户输入和必要的上下文；
- 被检索或调用的网页、文档、数据库与知识库片段；
- 检索排序、过滤条件和系统提示；
- 使用的模型、接口、知识库与配置版本；
- 首次生成的回答、引用链接和生成时间；
- 人工审核、编辑、重写或发布记录；
- 回答被展示、导出、分享或再次传播的范围。
这条链的作用不是追求无限日志，而是在出现争议时回答三个关键问题：错误从哪里进入，哪一环节有能力发现或阻断，纠正后哪些旧版本仍可能继续传播。
《生成式人工智能服务管理暂行办法》为面向境内公众提供生成式人工智能服务设置了相应治理要求；《互联网信息服务算法推荐管理规定》覆盖特定算法推荐服务场景；涉及个人信息处理、作品使用、深度合成或生成合成内容标识时，还需分别核对个人信息保护、著作权和相关标识规则。不能因为产品使用了生成式技术，就把所有问题归入同一部规则；也不能因为底层模型由供应商提供，就忽略部署方自行接入的数据、提示、检索和展示设计。
第三层：按用户依赖与损害类型分级，而不是只算“准确率”
总体准确率无法替代风险判断。同样一句错误回答，出现在娱乐问答和出现在决定交易、诊疗、维权或人员处置的场景，用户依赖程度和可能后果明显不同。
上线前可按两组问题分级：
第一组是用户会怎样依赖。 页面是否把回答表现为确定事实或专业结论？用户是否容易忽略原始来源？产品是否知道答案将进入合同、报告、客服答复或自动决策？是否存在未成年人、患者、消费者等需要特别关注的使用场景？
第二组是错误可能伤害什么。 是普通事实偏差，还是可能损害名誉或商业信用；是引用失真，还是使用了未经许可的文字、图片、音视频或代码；是暴露个人信息，还是缺少必要的生成合成标识；是一次性展示，还是会被搜索、推送、导出或批量传播。
分级后的动作可以不同：低风险问题可强化来源展示和用户核验；高影响或高度不确定的回答可以限制功能、增加人工复核、拒绝生成确定结论，或要求用户补充材料。这里的重点不是承诺“绝不出错”，而是让产品限制与可预见风险相匹配。
第四层：提示语不是免责条款，纠错能力才是实际边界
“内容仅供参考”“AI可能出错”等提示可以帮助用户理解能力边界，但不能替代产品本应采取的来源治理、风险测试、人工复核和纠错措施。提示越笼统，越不能回答一个具体问题：当运营方已经知道某类回答容易造成严重误导时，是否仍允许它以确定语气持续出现。
上线前应至少设计一条从投诉到停止影响的路径：
- 用户或权利人在哪里提交错误、侵权或个人信息投诉；
- 谁负责受理，什么情况需要立即限制展示或转人工；
- 如何定位涉及的输入、来源、模型和回答版本；
- 纠正是只改当前页面，还是还需处理缓存、索引、导出内容和后续同类回答；
- 如何通知受影响用户或业务部门；
- 如何保留投诉、判断、处置和恢复依据。
对于被指侵权的输出，还应同步固定提示词、参考素材、输出版本、人工修改、传播范围、权利来源、相似内容对比、投诉通知与下架整改记录。仅截取最终答案，通常不足以说明内容如何形成，也不足以区分著作权、个人信息、标识义务和其他问题。
第五层：供应商合同要对应控制能力，不能靠条款创造“无责任区”
采购模型接口、检索服务或整套系统时，合同应说明各方实际提供的内容和控制环节，包括数据与知识库来源、配置权限、版本变更、日志可得性、安全与合规配合、投诉转交、纠错时限、证据保存和服务退出后的数据处理。
但合同中的责任分配主要解决参与方之间如何履行和追偿，不能脱离强制性规则，也不能预先替代对外责任判断。若部署方掌握知识库、提示和最终展示，却在合同中笼统写成“全部由模型供应商负责”，条款与实际控制能力可能并不一致；反过来，如果供应商不提供必要日志、版本信息或纠错接口，部署方也需要在上线前决定是否接受这一不可回溯风险。
《中华人民共和国民法典》关于技术合同内容、履行、资料保密和成果归属等规则，可为技术服务与交付边界提供一般合同基础；具体项目仍应把抽象条款落实到可交付记录、响应动作和验收条件。
境外案例能提示什么，不能证明什么
境外法院对AI搜索回答的裁判和相关报道，说明“自动生成”并不会让错误输出风险自动消失，也提醒企业关注生成答案与引用来源之间的关系。但境外案件的当事人、产品机制、请求基础、程序和适用法律均可能不同。
因此，这类材料只能作为议题信号：提醒中国项目在上线前审查失实回答、来源引用和纠错能力。它不能直接证明中国法下某类AI回答必然违法，不能证明某一主体当然承担责任，也不能预判中国法院对具体争议的处理结果。中国项目仍须回到现行中国规则和自身产品事实。
上线前最终应留下什么
吕箐翎律师建议，评审会结束时至少留下四项可以执行的结论：
- 功能边界：哪些回答可直接展示，哪些必须提示来源、转人工、限制场景或拒绝生成；
- 控制边界：知识库、提示、模型、审核、展示和传播分别由谁控制，供应商与部署方如何配合；
- 纠错边界：谁受理、何时暂停、怎样回溯、如何修正以及怎样处理已传播版本；
- 待补事实：当前还缺哪些来源授权、个人信息处理说明、版本记录、测试结果或合同交付项，缺失前是否阻断上线。
只有把这四项落到具体产品和场景，才适合讨论“回答出错后谁承担什么责任”。如果现有材料只能证明模型名称和一段免责声明，而无法说明来源、生成、审核、展示和纠错链，合理结论不是仓促给出责任归属，而是先补齐事实并限制上线范围。