作者：礼丰律师事务所
引言
人工智能（AI）的爆发式发展，在点燃整个社会热情的同时，也引发了多维利益冲突与重构，对个人、企业和国家都产生了重大冲击：
对个人而言，数据隐私失控将带来信任危机，肖像权等人格权益受侵害事件频发，财产与身心安全也面临AI威胁；
对企业而言，数据与商业秘密的保护决定AI工具能否落地应用，知识产权归属（如AIGC作品）与市场竞争规则将决定商业护城河；
对国家而言，AI滥用或引发社会秩序混乱（如虚假信息传播），而技术“卡脖子”、产业生态建设及国际话语权争夺，使AI成为大国博弈的战略焦点；
当前的监管规则如何应对这些权益冲突？——尽管公私营部门都在探索创新治理，全球监管仍陷于“原则共识、规则割裂”的困局。
礼丰律师事务所（“礼丰”）联合上海企业合规研究中心（“合规中心”），基于统计数据及各方典型事件，以个人、企业、国家及社会各主体维度权益的影响与合规挑战，结合在人工智能行业项目中的实践经验，起草了《人工智能侵权法律报告：问题、事件和挑战》（“报告”）。
近期，我们将会发布该报告，并就其内容举办分享活动，欢迎关注并报名，报名方式请见文末。
人机交互时代，围绕人工智能发展的个人权益担忧
1. 人工智能快速发展，但用户数据到底如何利用与保护始终成“谜”
当前备受关注的典型问题是，生成式人工智能（“Gen AI”）模型对数据的依赖，让“使用用户数据训练模型”成为许多企业的默认做法。
我国目前暂未有针对性执法，但域外已有多家企业陷入相关争议甚至处罚，例如LinkedIn, X, Meta, Open AI等。
为此，我们选取了中美10家模型厂商在实践中对这一问题所采取的策略，发现企业在实践中对用户权益保护措施仍有一定差距（详见后文表1）。主要体现在以下方面：
明确告知：有1家企业未明确披露；另有3家企业采取了“优化服务”等笼统、间接性的表达话术。
使用数据种类：均表达为“输入和输出内容”，仅有1家企业对使用数据的具体种类做了进一步说明。
脱敏处理：8家企业均声明采取了“去标识化”措施，1家企业声称达到“匿名化”，但并不清楚具体采取了哪些措施、能达到何种效果。
实现机制：仅4家企业提供了交互按钮。
可见，“脱敏处理”已成为企业的通行做法，为其利用用户数据添加一层“合理” 的保护。但我们仍建议，企业进一步提高透明度、为用户提供便捷的行权机制。
表1 – 企业使用用户数据相关实践调研
2. 人格权益纠纷将因人工智能的发展而显著增多
Deepfake技术让个人生物特征易被“复制”，引发人格权侵害问题。这样的事例在过去的一年频繁上演，引起了广泛的关注和讨论。
“三只羊”的“录音门”事件，其中的音频正式通过AI制作；此外，知名演员、科学家、企业家、医生等公众人物的形象与其背后的流量、商业价值紧密相连，成为主要“受害者”，网络上充斥着各类换脸带货视频或声音模仿素材，并具有惊人的相似度，这些内容通常用于广告宣传或其他商业目的，严重侵犯了其人格权益。
礼丰业对当前发生的司法纠纷及相关法院判决观点进行了检索与整理。2023年至2025年2月，因AI技术引发的民事纠纷有39起，其中超25%涉及人格权侵权纠纷，包括肖像、名誉、声音等各类人格权益。从判决结果看，未获得自然人合法授权，法院多认可构成侵权。
3. 人工智能的发展将对个人身心健康与安全造成难以估计的影响
除了个人的形象，AI的智能决策还可能会导致我们的身心健康与安全受到实质性的影响。自动驾驶是相关权益侵害最典型的AI应用场景之一。根据我们对美国官方数据的统计，2022至2025年美国共发生2,927起自动驾驶相关事故，造成47人死亡。2025年3月，广受大众关注与喜爱的小米SU7在高速发生交通事故，又将智驾安全问题推上了风口浪尖。
除了身体健康，“AI伴侣”等应用日益流行，对个人心理健康的影响也不容忽视，尤其是其用户和受众可能包括心理脆弱者、老年人、未成年人等群体。因AI聊天诱发心理疾病与自我伤害的极端案例也已有发生，14岁美国少年因沉迷AI而自杀身亡的悲剧事件，为行业敲响了警钟。
除了相关安全评估原则性要求，我们在报告中，以典型的医疗行业与自动驾驶行业为例，进一步探讨了行业安全要求的探索规则。鉴于AI在垂类产业应用广泛且具有较大差异性，还需结合不同产业应用实际情况，尽快制定具体规则。
4. 消费者权益与财产权益将可能被人工智能控制和削减
从“大数据杀熟”到“意图经济”，人类越来越多的行为数据被获知和预测。AI工具被应用在虚假宣传、算法操控等领域，为消费者设置了真假难辨的“消费陷阱”。
以“人工智能”和“算法”为关键词，礼丰在专业法律数据库中，对过去两年（2023年和2024年）公开的行政执法案例及司法案例进行了全面检索，并进行了初步的人工筛查。统计发现，最为常见的案例类型涉及利用算法技术侵害消费者或用户权益的行为，典型行为例如，操纵虚假流量、隐匿用户评价等【3】。
同时，AI工具也降低了犯罪门槛，以“换脸诈骗”为代表的危害个人财产权益的犯罪案件频发。
我们在报告中进一步讨论了应对这一挑战的针对性监管规则与执法趋势。例如，针对人脸识别技术应用的专门规定《人脸识别技术应用安全管理办法》，以及《人工智能生成合成内容标识办法》及相关强制性标准等，欢迎大家在本文章及后续报告活动中共同关注及讨论。
注：
[1] 用户交互设计是指，用户可以在相关产品的使用界面，通过点击按钮等方式直接管理相关权限。
[2] 行权联系是指，可以通过向企业给定的联系方式发送特定行权要求。此外，即使企业未有针对性告知，用户理论上可行使一般撤回权或删除权实现相应拒绝目的。
[3] 在“威科先行”“北大法宝”行政处罚数据库中，我们以“算法”和“人工智能”作为关键词进行检索，发现了超1700个相关案例。其中包含了部分重叠的案例，并未做去重处理。为了深入分析这些案例，我们在尽量确保准确性、一致性的情况下，进行了人工筛选与分类，但我们的数据分析仍可能存在一定的误差。我们会在本报告相关活动中分享案例的相关发现，希望能激发更多相关行业人士的讨论与研究。
本文主要由礼丰律师事务所合规部、知识产权部撰写。
