发布信息

AI 不只是软件公司的事:企业开发、采购或使用 AI,会遇到哪些法律风险?

作者:本站编辑      2026-07-16 11:28:06     0
AI 不只是软件公司的事:企业开发、采购或使用 AI,会遇到哪些法律风险?

从数据、产品上线、合同交易到中韩出海,一张图看懂企业 AI 业务的全生命周期风险。

企业 AI 业务从研发、数据、产品、合同走向跨境市场的全生命周期主视觉(图片由AI生成)

你的公司可能不研发大模型,也不把自己称为“AI 公司”。

但员工已经在用生成式 AI 写方案、改代码、审合同;客服系统接入了第三方模型;市场部门用 AI 生成图片和视频;企业知识库里装着客户资料、内部制度和研发文档。

这时,AI 已经进入企业的数据、产品、合同、人员和决策链条

到了 2026 年,企业要回答的问题已不再只是“能不能用 AI”,而是:

  • 数据是怎么进入模型的?
  • 生成结果由谁复核?
  • 第三方模型会不会留存数据或用于训练?
  • 产品要不要备案、登记或者添加标识?
  • AI 输出错误、侵权或泄密,责任由谁承担?

核心判断:AI 法律风险不跟着“AI 公司”的标签走,而是跟着数据、功能和决策走。

截至 2026 年 6 月 30 日,国内已有 988 款生成式人工智能服务完成备案、598 款应用或功能完成登记。2026 年开展的“清朗·整治 AI 应用乱象”专项行动,第一阶段累计处置违规 AI 产品 1.4 万余款。备案登记、生成内容标识、训练语料安全和平台审核能力,已经从纸面要求走向实际治理。〔1〕〔2〕

因此,这篇文章讨论的对象,不只是大模型公司或 AI 软件开发商,而是所有开发、采购、部署或实际使用 AI 的企业


一、第一步不是罗列法条,而是先认清企业角色

同一项 AI 功能,链条上可能同时存在三类主体。

第一类:模型或 AI 服务提供者。

它们提供基础模型、生成式 AI 服务或 API 能力,重点关注训练数据、备案、安全评估、内容安全、生成内容标识和用户权益。

第二类:应用开发者或系统集成商。

它们调用第三方模型,把 AI 嵌入 App、SaaS、智能客服、数字人或企业解决方案,重点关注模型选择、接口调用、产品设计、数据流向以及与底层模型厂商的责任分配。

第三类:AI 采购和使用企业。

它们不一定对外提供 AI 服务,却会让员工或业务部门使用 AI 处理客户资料、员工信息、合同、代码和经营数据,重点关注输入数据、供应商管理、人工复核和最终决策责任。

一家企业还可能同时扮演多种角色。例如,它采购基础模型,却又面向客户提供二次开发后的智能客服。这时,不能只把自己理解为“买方”,也要评估自己作为应用提供者应承担的责任。

企业 AI 业务风险地图:三类角色、六个业务阶段与五类治理动作(图片由AI生成)

图 1|先认角色,再沿业务阶段识别风险,最后落到数据、产品、合同、人员和跨境治理。


二、2026 年,为什么企业需要重新检查 AI 风险地图?

过去一年,至少出现了五个值得企业注意的变化。

1. AI 正式进入网络安全基础法律框架

修订后的《网络安全法》已于 2026 年 1 月 1 日起施行。新增内容明确支持人工智能研发和基础设施建设,同时强调完善人工智能伦理规范、加强风险监测评估和安全监管。〔3〕

这意味着,AI 不再只是生成式 AI、算法推荐等专项规则中的问题,也进入了网络安全基础法律的制度框架。

2. 生成内容标识从“有规则”走向“实际检查”

《人工智能生成合成内容标识办法》及配套强制性国家标准已自 2025 年 9 月 1 日起施行,区分显式标识与隐式标识。2026 年的专项治理已将标识不到位列为重点问题。〔2〕〔4〕

企业需要检查的,不只是在页面上写一句“由 AI 生成”,还包括文件元数据、传播平台核验、用户声明和不得恶意删除标识等要求。

3. 拟人化互动服务出现新的专项规则

《人工智能拟人化互动服务管理暂行办法》自 2026 年 7 月 15 日起施行,重点涉及情感陪伴、虚拟伴侣等持续性情感互动服务,要求关注未成年人模式、过度依赖提醒、交互数据、敏感个人信息训练、安全评估和退出机制。〔5〕

需要注意的是:普通智能客服、知识问答、工作助手、学习教育等服务,如果不涉及持续性情感互动,并不当然适用该办法。 企业应先判断具体功能,而不是看到“拟人化”就一概套用。

4. 数据安全管理正在从制度文件走向风险评估

《网络数据安全管理条例》已于 2025 年 1 月 1 日起施行。《网络数据安全风险评估办法》已经公布,并将于 2026 年 8 月 20 日起施行。后者进一步细化网络数据安全风险识别、分析和评价机制。〔6〕〔7〕

这传递出一个清晰信号:企业不能只证明“有制度”,还要能够说明风险在哪里、风险有多大、采取了什么整改措施。

5. 韩国 AI 监管也已进入实施阶段

韩国《人工智能发展与信赖基础建设基本法》及其施行令已于 2026 年 1 月 22 日起施行,涉及生成式 AI、高影响 AI、透明度和经营者义务等问题。韩国个人信息保护委员会也已发布生成式 AI 开发与应用的个人信息处理指南。〔8〕〔9〕

因此,面向韩国用户或客户提供 AI、SaaS 和数字化服务,已经不能只翻译一份隐私政策。


三、设立、研发和融资:企业是否真正拥有核心资产?

AI 和数字科技企业最早出现的风险,往往不是行政处罚,而是核心技术和数据资产权属不清。

早期产品可能由创始人、技术合伙人、兼职人员和外包团队共同开发。源代码、模型参数、提示词方案、产品原型、训练数据、域名账号和软件著作权,未必都已经归属于公司。

融资、接受大客户尽调或发生团队分裂时,企业通常会被追问:

  • 核心代码由谁开发?
  • 外包成果是否已经书面转让?
  • 员工入职前的技术是否与公司产品混同?
  • 使用了哪些开源模型和软件组件?
  • 开源许可证是否允许商业化、修改和闭源分发?
  • 训练数据和测试数据能否说明来源?
  • 公司是否有权对技术成果许可、销售和再开发?

如果这些问题无法回答,企业即使有产品、有客户、有收入,也未必真正拥有完整、稳定和可处分的核心资产。

所以,AI 企业的融资前检查不能只看股权和章程,还要同时检查代码、模型、数据、开源组件、知识产权和研发人员协议


四、数据和知识库:能被技术获取,不等于能被合法使用

企业常见的误区包括:

  • 公开网页的数据可以随意抓取;
  • 客户上传到系统的数据可以用于模型优化;
  • 购买的数据一定具有合法来源;
  • 内部资料用于知识库,不需要再审查授权;
  • 简单脱敏后就不再涉及个人信息。

实际上,训练数据和知识库资料可能同时包含个人信息、敏感个人信息、商业秘密、版权作品、客户资料、数据库内容和受平台规则限制的信息。

企业至少需要连续回答七个问题:

  1. 数据最初如何收集?
  2. 数据提供方是否有权授权?
  3. 授权是否覆盖 AI 训练、检索增强和模型优化?
  4. 数据能否用于商业化输出?
  5. 是否含有敏感个人信息或未成年人信息?
  6. 模型是否可能复现个人信息、作品或商业秘密?
  7. 使用目的改变后,原有授权是否仍然有效?

更容易被忽视的是:企业即使不训练模型,员工也可能把合同、客户名单、财务材料、源代码和会议记录输入外部 AI 工具。

员工将企业文件、客户资料和代码输入外部 AI 工具所形成的数据与商业秘密风险(图片由AI生成)

图 2|AI 数据治理既包括训练数据,也包括员工日常使用 AI 时的输入数据。

此时,风险可能同时落在个人信息保护、商业秘密、客户合同、数据跨境和内部管理上。

因此,企业至少应建立:批准使用的 AI 工具清单、禁止输入信息目录、企业账号管理、权限控制、输出复核和日志留痕机制。


五、产品上线与系统部署:接入一个模型,不只是增加一个功能

企业在网站、App、小程序或 SaaS 系统中增加 AI 客服、AI 写作、智能推荐、数字人或智能体,看起来只是产品升级,却可能触发多项义务。

上线前至少要判断:

  • 服务是否直接面向境内公众?
  • 使用自研模型,还是调用第三方已备案模型?
  • 企业提供底层模型,还是通过 API 提供应用功能?
  • 服务是否具有舆论属性或社会动员能力?
  • 是否需要备案、登记并公示模型名称及相关编号?
  • 文本、图片、音频、视频是否需要显式和隐式标识?
  • 是否建立违法内容识别、投诉、申诉和纠错机制?
  • 是否处理未成年人、老年人或其他特殊群体的信息?
  • 是否用于金融、医疗、招聘、教育等重要场景?

真正有效的法律工作,应当在产品需求、数据流和技术架构阶段介入,而不是上线前几天只修改一份用户协议。

对于高风险业务,还应保留合理的人工复核、结果解释、纠错和退出机制。AI 可以辅助判断,但企业通常不能把最终决策责任简单推给模型。


六、AI 采购与商业化合同:买方和卖方都要划清四类责任

AI 合同真正需要划分的,不只是“软件能做什么”,而是四类责任:

数据责任: 谁收集、谁提供、能否用于训练、保存多久、发生泄露如何通知?

模型责任: 使用哪个模型、是否调用第三方、模型变更如何通知、备案与安全义务由谁完成?

输出责任: 准确率如何表述、是否构成专业意见、侵权投诉由谁处理、损失如何分担?

决策责任: 哪些结果必须人工复核、哪些场景禁止使用、最终决定由谁作出?

卖方需要避免过度承诺“绝对准确”“完全替代人工”,并在服务范围、SLA、验收、责任上限和第三方模型依赖中设置清晰边界。

买方则应重点审查:

  • 供应商是否有权处理企业数据?
  • 企业数据是否会被用于训练公共模型?
  • 数据存储在境内还是境外?
  • 合同终止后能否导出、返还和删除?
  • 供应商是否承担安全事件通知义务?
  • 输出错误、侵权或系统中断时,责任上限是否合理?

没有数据处理协议、模型使用说明和责任分配条款的 AI 合同,很容易在出现问题时把风险留给最靠近终端客户的一方。


七、AI 生成内容:输入、输出和传播都可能侵权

AI 可以生成图片、文字、音乐、声音、视频、代码和虚拟人物,但“由 AI 生成”不等于企业当然取得没有瑕疵的商业使用权。

企业应分别审查三个环节。

输入端: 训练素材、参考图片、人物声音、品牌标识和上传文档是否获得合法授权?

输出端: 生成内容是否可能与他人作品实质性相似,或者侵犯著作权、商标权、肖像权、声音权益、名誉权和商业秘密?

传播与交付端: 能否将内容用于广告、电商、游戏、直播、影视或客户项目?发生第三方投诉时,平台、生成服务商、用户和客户如何分责?

因此,企业需要建立素材授权清单、内容审查流程、生成内容标识、客户交付条款和侵权投诉处理机制。

发生争议后,工作也不只是判断“侵不侵权”,还包括证据固定、平台下架或反通知、权利人沟通、和解谈判与诉讼应对。


八、网络与数据安全:合规正在变成持续运行的能力

AI 系统会处理大量客户数据、交互数据、日志和模型运行数据。风险既可能来自外部攻击,也可能来自内部越权、数据投毒、接口滥用、模型记忆和敏感信息输出。

企业需要的,不只是一份隐私政策,还包括:

  • 网络安全责任和账号权限体系;
  • 数据分类分级与重要数据识别;
  • 日志留存、异常监测与漏洞修复;
  • 数据备份、加密和容灾措施;
  • 安全事件应急预案;
  • 供应商、开源组件和第三方接口管理;
  • 定期风险评估与整改闭环。

这一部分很难由法务或技术部门单独完成。有效的 AI 风险治理,需要业务、产品、法务、合规、信息安全、运维和采购共同参与。


九、中韩跨境与出海:先画数据流,再谈法律结论

企业向韩国、欧盟或其他海外市场提供 AI 和数字化服务时,最先要做的不是翻译隐私政策,而是画清数据流:

  • 谁收集用户数据?
  • 数据存储在哪里?
  • 中国团队能否访问?
  • 是否调用境外模型、云服务或分析工具?
  • 境外客户数据是否回传中国?
  • 是否用于模型训练或产品优化?

在中国一侧,企业需要判断数据出境安全评估、个人信息出境标准合同、认证或免予申报情形是否适用。〔10〕

在韩国一侧,则要关注韩国《个人信息保护法》、AI 基本法及实施规则。韩国个人信息保护委员会已经明确,外国经营者在向韩国信息主体提供商品或服务、其处理活动对韩国信息主体产生直接且重大影响等情形下,可能适用韩国 PIPA。〔11〕

AI 服务通过数据流、合同和治理检查点跨境部署(图片由AI生成)

图 3|跨境 AI 项目不是一条“数据传输线”,而是供应商、合同、模型、数据和本地规则共同组成的责任链。

所以,中韩 AI 业务不是翻译一份文件,而是重新审查产品角色、数据流向、用户告知、供应商关系、跨境路径和客户合同


十、企业真正需要的,是一套 AI 业务风险治理顺序

面对复杂规则,企业不必一开始就做一套厚重的制度文件。更现实的顺序是:

第一步:列清角色和供应商

明确企业是模型提供者、应用集成者还是采购使用方;同时列出底层模型、云服务、API、插件和外包供应商。

第二步:画清数据流

从数据来源、输入、存储、调用、输出、共享、出境到删除,画出完整流向,并标记个人信息、敏感数据、客户资料和商业秘密。

第三步:检查产品与合同缺口

判断备案、登记、标识、用户告知、人工复核、投诉机制是否到位;同步检查采购合同、SaaS 协议、DPA、SLA 和责任上限。

第四步:按风险等级整改

优先处理可能阻断上线、融资、客户尽调或造成重大责任的事项,再建设员工使用规则、培训、日志和持续评估机制。

企业 AI 业务 8 问自测(图片由AI生成)

图 4|若其中 3 项以上无法明确回答,建议先做一次 AI 业务法律风险初筛。


十一、法律服务的价值,不是“告诉企业不能做”

对企业而言,真正有价值的法律服务,是帮助业务回答三个现实问题:

哪些数据可以用?哪些功能可以上线?出了问题,责任如何控制?

一个可落地的 AI 业务风险初筛,至少应形成四项成果:

  1. 角色与数据流图: 说明企业、模型厂商、客户和其他供应商之间的关系;
  2. 重点风险清单: 按上线、交易、数据、知识产权、人员和跨境分类;
  3. 整改优先级: 区分必须立即处理、上线前处理和持续建设事项;
  4. 文件修改清单: 明确用户协议、隐私政策、DPA、SLA、员工制度和供应商合同需要怎样调整。

如果一家企业正在上线 AI 功能、采购企业级 AI 工具、用客户数据建设知识库、接受融资或大客户尽调,或者准备进入韩国等海外市场,越早把这些问题梳理清楚,后续补救成本通常越低。

合规不是让企业停止使用 AI,而是让产品可以上线、合同可以签、客户愿意信任、数据能够在清晰边界内流动。


参考资料

〔1〕国家互联网信息办公室:《关于发布生成式人工智能服务已备案信息的公告(2026 年 5 月至 6 月)》

〔2〕中央网信办:《“清朗·整治 AI 应用乱象”专项行动第一阶段工作》

〔3〕国家法律法规数据库:《中华人民共和国网络安全法(2025 年修正)》

〔4〕国家互联网信息办公室:《四部门联合发布〈人工智能生成合成内容标识办法〉》

〔5〕国家互联网信息办公室:《人工智能拟人化互动服务管理暂行办法》

〔6〕国务院:《网络数据安全管理条例》

〔7〕国家互联网信息办公室等:《网络数据安全风险评估办法》

〔8〕韩国国家法律信息中心:《人工智能发展与信赖基础建设基本法》及《施行令》

〔9〕韩国个人信息保护委员会:《生成式人工智能开发与应用个人信息处理指南》

〔10〕国家互联网信息办公室:《促进和规范数据跨境流动规定》

〔11〕韩国个人信息保护委员会:《外国经营者适用个人信息保护法指南(英文官方页)》


本文仅作一般信息交流,不构成对任何具体项目的正式法律意见。具体义务需结合企业角色、服务对象、数据类型、部署方式和行业场景判断。

相关内容 查看全部