作者：礼丰律师事务所

引言

人工智能发展除了与我们作为个体的权益息息相关，对企业的经营发展及生产方式也产生了深刻影响。多维度的价值权益冲突，也为人工智能的监管和治理提出了新课题。

人工智能发展对企业而言，有哪些暗流风险涌动？

人工智能的发展给企业在数据与商业秘密保护、信息网络安全、市场竞争和知识产权等方面带来了新挑战。尤其是生成式AI工具引发的复杂知识产权利益冲突，热议不断。

1. 人工智能发展将加速企业数据和商业秘密泄露

AI已广泛进入办公场景，企业数据资产和商业秘密的保护，是企业利用AI工具最为关切的核心问题。为此，在Chat GPT掀起热潮后，出于数据隐私保护及安全考虑，全球多家金融机构宣布禁止员工在工作中使用该工具。

与此同时，如何管理、引导员工对AI工具进行合理利用，也是一大课题。以三星半导体机密资料泄露案件为典型，内部人员不当利用AI工具导致泄露企业机密的案例已有发生，而不只是一种预警。

有关监管机构已经关注到这一系列问题。例如，香港个人资料隐私专员公署在最近发布了《雇员使用生成式AI的指引清单》，为企业员工合理利用工具提供指导。

此外，AI模型企业也通过多种解决方案以增强用户信心。例如，不少模型厂商承诺不会收集、使用企业用户的数据进行训练。铺天盖地的DeepSeek开源模型及其私有化部署方案，似乎为解决企业数据安全问题提供了万无一失的“解药”。

但需要注意的是，针对数据和商业秘密保护的痛点，大模型本地化部署或许是有效的手段，但绝对安全是伪命题。

2. 人工智能发展将颠覆企业信息网络安全传统思路

AI技术与工具可能会被不法分子用于增强攻击手段，使各类安全威胁发生质变，包括提升攻击的智能化程度、攻击规模与效率。同时还能够模仿用户行为模式，使攻击行为更具有隐蔽性，悄然渗透至目标企业网络。

为此，企业不妨用“模法”打败“模法”，合理利用AI的力量，例如，构建AI驱动的威胁检测系统、强化数据安全“AI屏障”、建立“红蓝对抗”训练机制等。建立更为坚固的信息安全防线，确保业务连续性和数据安全。

3. 人工智能发展将严重减损企业竞争利益

AI驱动的商业模式可能通过多种方式减损企业竞争利益。在礼丰统计的人工智能相关行政执法案件中，我们认为大部分案件与AI技术本身的关联性其实并不强。但AI作为热点话题和技术工具的属性明显，也因此成为企业间进行不正当竞争的工具。

其中，最为典型与高频的行为是虚假宣传，既有在名义上“蹭”AI话题热度对自身服务内容进行虚假、夸大包装，也有利用AI工具生成不当内容进行虚假宣传以牟利。

此外，还有不少企业滥用算法干扰其他竞争者正常提供商品与服务的权利。例如，通过生成、操控虚假数据，试图干扰、控制平台算法的推荐和自动化决策机制。

还需注意的是，有案例显示，企业在明知客户侵权的情形下为其提供AI工具或相关服务，作为“侵权帮凶”也难逃处罚。

尽管当前产业还在发展变化之中，相关案例也尚未呈现爆发趋势。但通过已有案例中，我们期待看到AI技术与应用发展本身的潜力和价值，以及如何一点点渗透、影响商业市场业态的发展。

4. 人工智能发展为知识产权保护带来新挑战

礼丰统计了2023至2025年初中美AI相关知识产权诉讼，发现多集中在生成式AI领域，争议焦点主要是训练数据的版权侵权与生成内容的版权问题。具体表现为以下三大核心问题：

（1）训练数据侵权争议。实务来看，训练数据是否侵权的判断关键点在于是否构成“合理使用”。当前，中美法院在已有的司法判决中，对于“合理使用”的认定存在差异。

（2）AI生成物是否可能构成版权侵权的问题上，中国当前的司法判决倾向于认为输出物构成“实质性相似”则构成版权侵权，更进一步地，在平台责任方面，认定仅提供服务的平台方需要承担未尽合理义务的相应责任。

（3）AI生成物是否可以获得版权保护的问题是其商业利用的关键。这一问题上，中美已有的个案判决似乎呈现出截然不同的结果与思路。

在报告中，我们对相关典型案例进行了整理，并挑选典型案例及已有判决结果进行简要说明与对比。随着越来越多“第一案”“第二案”等典型案例的涌现，将一步步勾勒出问题的本来面貌和不同司法体系下选择的解决路径。

此外，我们在报告中，还进一步探讨AI工具带来的伦理问题以及对社会、国家的影响。

例如，此前一张被压废墟下的小男孩的图片被广泛传播并错误地与西藏地震关联。经核实，该图片实则由AI生成，并非真实灾情现场图片。此类虚假灾情等不当虚假内容的泛滥与传播可能被用于操控与影响社会舆论，导致社会公共秩序损害，甚至引发社会信任危机。当今时代，“有图却不一定有真相”。

AI还可能引发群体性的社会公平事件。就业歧视是常被探讨的典型场景之一；另一典型场景是金融机构利用AI工具进行信用评分，可能存在对部分地区或特点特征人群的歧视性评价，造成不公结果。

国家层面，围绕AI技术及产业生态的大国竞争也愈演愈烈，牵动着世界的目光。

如何应对AI治理新课题？

AI监管与治理正是需要有效解决对个人、企业、国家及社会的权益侵害挑战，与此同时，其面临个体与社会、发展与安全、自由与公平等多方面价值与权益的平衡。

由于AI技术的飞速发展与监管法律的滞后性，观察世界范围内对AI的治理和监管路径，不难发现AI企业自治一直在路上，企业更期待主动掌握“游戏规则”。

我们从全球AI治理相关的文件中随机抽样观察，发现了大量共识性的基本原则，但各国似乎仍在以“柔性”规则和创新监管手段（例如，监管沙盒、工具和指南等），尝试如何使这些抽象的原则转化为更为具体、实操的监管规则。

尽管全球治理存在竞争与价值观差异，但世界也在积极寻求交流与合作，共同面对这一复杂的全新挑战。

欢迎大家与我们共同开启、持续探索AI侵权挑战与治理之旅。我们也十分期待聆听各界的声音与见解。

如您对报告详情感兴趣，请联系如下邮箱：

inquiry@lifenglaw.com

我们将就该报告的内容举办分享活动，欢迎关注并报名活动！

本文主要由礼丰律师事务所合规部、知识产权部撰写。