观韬视点 | 人工智能应用合规治理系列文章——AI生图应用于广告场景的合规问题探讨

作者：王渝伟 杨欣如

引言：广告向来是企业面对的关键议题。随着人工智能技术的快速发展和工具的持续迭代，AI图片生成技术在广告行业的应用展现出巨大潜力，能够提升图像制作的效率，降低企业的宣传成本。

然而，AI生图在广告领域的应用也不可避免地伴随着合规风险，与传统广告相比，AI技术的性质可能会使相关风险更为凸显。本文作为人工智能应用合规治理系列文章的首篇，旨在通过探讨AI生图在广告领域的合规风险与防范，为相关企业提供指导与建议。

需要明确的是，本文探讨的是对既有人工智能应用服务或模型的使用场景，不含对模型微调或者本地部署后应用的讨论。

一、概念与背景

在探讨合规风险之前，首先，让我们了解一些与AI生图相关的概念。

（一）开源模型、闭源模型与常见AI生图工具

“开源模型”是指源代码对所有人开放，用户可以自由查看、修改和分发代码的模型。与之相对，“闭源模型”是指源代码私有，用户可以通过购买许可或订阅的方式使用的模型。二者之间的区别主要在算法透明度、用户参与度、安全性等方面。

在AI生图方面，基于“闭源模型”的工具以Midjourney为代表。Midjourney目前需要搭载于即时通讯平台“discord”使用，其运行生态类似于微信中的小程序，在discord的聊天窗口中，用户通过输入相关提示词与Midjourney bot进行互动，从而生成图像。而基于“开源模型”的工具则以Stable Diffusion（或“SD”）为代表，其代码在Github网站上完全公开，任何人都可以免费拷贝、使用。同时，此类开源模型的出现也衍生出了一些模型分享社区，例如Civitai（或“C站”）是目前全球最大的SD模型分享社区，用户可以在C站上传自己微调后的模型，或是下载他人上传的模型后进行使用。

国内的AI产品中，除了像百度“文心一言”这类的通用大模型可以实现AI生图外，还有专门用于AI生图的工具例如Printidea、意间AI等，而像美图秀秀等传统美图软件也逐步上线了AI生图功能。

（二）Checkpoint、LoRA

我们访问C站时，在模型类型部分经常会出现Checkpoint、LoRA等术语，这些术语又代表什么意思呢？

首先，“Checkpoint”可以理解为模型训练过程中在某个特定点保存的模型的状态，类似于Photoshop的PSD文件。除了可以随时恢复训练的优点外，以Checkpoint状态保存有助于实现模型共享，便于他人在此基础上继续使用或训练。对Checkpoint再进行纵向划分，还可能包括Checkpoint merge、Checkpoint trained等模型类型，前者是指将多个Checkpoint合并后形成的模型，而后者是指预训练完成后的模型。这些模型的模型参数、权重等数据一般都是预先设置完成的，因此，其生成图片的风格也相对固定。如想要进行进一步的微调较为复杂，此时，可以通过LoRA等技术进行微调，以达到期望的图像效果。

而“LoRA（low-rank adaptation）”是一种微调技术，可以用于微调预训练的AI生图模型，在不改变基础模型的情况下，能够生成具有特定画风或特定人物特征的图像。比如，市面上有一款使用大量图像数据完成预训练的图像生成模型，现在希望通过这个模型生成一幅梵高风格的画像，在没有使用Lora的情况下，我们可能需要从头开始训练一个全新的模型，或者对整个预训练模型进行微调，这将需要大量的计算资源和数据。但如果使用了LoRA，我们只需要对模型参数的一小部分进行微调。对于训练者而言，相较于重新训练整个模型，使用LoRA可以大大减少定制的成本，提高生图的个性化定制效率。

（三）Prompt（提示词）

Prompt是指用户输入模型的、用于指示的提示词，是AI生图过程中的核心工具，它允许用户通过输入文本描述的方式来精确引导图像生成的方向和内容。用户输入的提示词不仅包括艺术风格、图像细节描述、氛围等元素，还可以指定技术参数，如分辨率和图像质量。这些提示词共同塑造了最终生成图像的视觉和情感效果。

除了用于指定期望特征的正面提示词，用户还可以使用负面提示词来排除不希望出现在图像中的元素或特征。例如，如果用户不希望图像中出现过于明亮的光线或特定的物体，可以通过负面提示词来指导模型避免这些情况。此外，提示词的精确度和创造性对于生成图像的质量起着决定性作用，一个明确、详细且富有想象力的提示词，可以显著提升模型生成的图像与用户期望之间的匹配程度。

二、合规义务

AI生图在广告场景的应用问题涉及多重合规领域的交叉，其中主要包括了生成式人工智能监管、广告监管、发布平台要求、合同义务履行等。对此，我们梳理了本场景下企业合规需关注与遵守的主要合规义务，如下图所示：

同时，在本文第三部分，我们将以合规风险为导向，对前述提到的法律法规、监管要求或行业约定进行进一步梳理和分析，提供具体的合规策略和操作建议，帮助企业在利用AI生图技术的同时，有效规避合规风险。

三、合规风险、困境及建议

企业将AI生成图片应用于广告场景时，通常包含两个阶段，一是使用、生图阶段，二是广告发布阶段。在这两个阶段中，企业侧重关注的合规重点并不相同。在使用、生图阶段，企业应侧重考察数据来源的合法合规性、使用协议义务的遵守情况等问题，而在广告发布阶段，企业应侧重考虑广告内容的合规性、发布平台监管要求、人工智能应用监管要求等问题。

（一）使用、生图阶段

· 输入内容侵权、商业秘密泄漏等风险

如前所述，企业在使用AI工具生成图片时，通常需要输入Prompt（提示词）或者导入参考图片以协助生成或者调整输出成果。比如，一家汽车机构的设计人员希望使用AI工具来辅助生成汽车设计概念图，达到快速迭代和优化设计方案的目的，由此减少制作物理原型的时间和成本，提高设计效率。那么，企业在输入提示词或导入参考图片时，应当关注和防范哪些合规风险？

首先，在上传图片或文字内容之前，企业应充分了解上传内容的数据来源，防止出现未经他人授权使用内容、侵犯他人合法权益的情况。比如，在前述假设场景下，企业在生成图片时使用的是未经目标网站授权爬虫获取的数据，并要求AI生成类似设计图，可能会构成对参考图片所有权人的侵权。又如在未经授权的前提下，要求AI生成某个现实人物的图片用于商业宣传，可能涉嫌侵犯他人肖像权等。

其次，如企业选择在线方式生成图片，还应特别考虑是否存在商业秘密泄漏风险。例如前文提到的“Midjourney”，目前并无独立的客户端，需要搭载在discord上使用，而根据Midjourney官网发布的《使用规则》[1]，如用户通过discord聊天室使用Midjourney，在线聊天室的用户均可以看到交互的内容。因此，如选择此种方式，应在上传相关内容之前审核评估是否存在泄漏商业秘密的风险，特别是意图通过此种方式生成未发布产品的广告宣传图的场景。

【建议】

- 在输入内容之前，应审核来源是否合规（无论在线或离线）

- 如采取在线生成方式，应避免泄漏企业商业秘密

· 违反使用协议/技术许可协议的风险

服务提供者或技术支持者通常会发布使用协议、技术许可协议或许可证（以下统称为“许可条款”）以表明其对于模型的应用限制要求。

首先，应当如何确认此类许可条款？一般而言，开源模型和闭源模型的许可条款发布方式并不相同，这也是我们在文章开头介绍这两种模型概念的原因。如使用的是Midjourney等闭源模型，通常而言，参照其官网发布的使用规则即可，例如Midjourney在官网发布了《使用协议》、《隐私政策》、《商标许可》等一系列声明文件，其中尤其是《使用协议》，对于用户年龄限制、内容权属、免责声明等进行了约定。而对于开源模型而言，如涉及创作者的二次加工，则用户在使用时除了遵守开源者的开源许可授权外，还应遵守创作者的许可授权。C站的页面会上传相关License作为对应模型的许可声明，即便是均基于SD基础模型微调后的两款模型，由于创作者的授权不同，导致二者最终的许可授权内容也会存在差异。

那么，在了解许可条款如何查看后，本场景下在确认许可条款内容时，应重点关注哪些方面呢？

其一，应提前确认协议中是否说明商用许可情况。例如Midjourney在其《使用条款》中声明，如企业的年收入达到一百万美元以上，需要在订阅‘Pro’或‘Meta’会员后方可获得全部权益。Stable Diffusion的基础模型以及C站上传的SD微调模型一般不作任何商用限制。而例如“美图秀秀”的《AI使用规则》中明确了“禁止进行商用”。从中，我们也不难发现，通常开源模型的许可范围比闭源模型更为广泛。其二，需要关注一般使用条款，特别是限制或禁止软件应用方式的内容。例如Stability的许可授权中明确禁止将模型用于“提供医疗建议和医疗结果解释”。

【建议】

- 主动查阅目标软件/模型的使用协议或技术许可协议，了解商用许可情况及一般使用限制。

（二）广告发布阶段

· 违反平台发布协议的风险

在带来高效产能的同时，AI绘画也不可避免地对社媒平台发布内容的真实性带来冲击。目前，国内几家头部社媒平台均发布了关于AI生成发布的倡议或规定。根据我们的检索，目前可查阅的文本有以下： 

以小红书为例，在发布时可以通过“高级设置”勾选“发文助手：自主声明”，并勾选“内容由算法生成”。基于此，相关内容将会在左上方显示“疑似包含AI创作信息，请注意甄别真实度”的标识。

因此，如企业涉及在第三方平台发布AI广告宣传内容，需要明确该平台是否对AI内容的发布存在特别要求，否则可能因违反平台规则而被下架或受相应处罚。

【建议】

- 主动查阅平台关于AI的发布规则，落实相关义务

· 广告合规风险

相较于传统广告，AI生图在广告领域的商用可能存在更为突出的广告法风险。基于AI的技术特性，AI生成内容并非基于纯粹的事实知识，而是基于模型的算法、训练数据集进行系统生成的结果，在生成图片时虽然更具有创意性，但也难以避免地会发生“捏造事实”、夸大实际效果的现象，例如，AI可能生成一些看起来非常真实的图像，但实质上并不符合真实产品或服务的特征，对消费者造成误导。

对此，如企业未能事前尽到合理审核义务，可能会违反广告法第四条“广告不得含有虚假或者引人误解的内容，不得欺骗、误导消费者”的规定，被判定构成虚假广告而引发合规风险。其中，尤其是在使用国外的预训练模型时，应注意提示词是否能够与国内法律法规规定相匹配，特别是广告中涉及消费者权益保护的内容应尤为关注。

【建议】

- 结合企业所涉行业领域，核查是否存在违反广告法的风险

· 标识义务相关合规风险

从国内的监管现状来看，《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》中均提到了标注义务，但就适用范围而言，前者适用于“应用深度合成技术提供互联网信息服务”的主体，后者适用于“研发、利用生成式AI软件面向社会公众提供服务”的主体，二者均强调了“提供服务”这一限制。我们理解，如仅是使用生成式AI软件生成图片后商用，应属于“服务使用者”而非“服务提供者”，不受前述规制约束。需要注意的是，《深度合成管理规定》第十七条提出“提供非上述深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识”，在此处可见对服务使用者的标识要求，但采取的措辞是“可以”而非“必须”。可以理解为，在本场景下企业作为服务使用者的身份，并无强制性的标识义务。

除此之外，还需要了解相关软件是否有强制标识要求或者在标识方面有何要求。例如Stable Diffusion并未要求进行任何的标识，而Midjourney虽然也未要求强制标识，但根据其《商标许可》[2]中的声明，如使用者主动选择加上Midjourney相关标识的，不得使用户产生混淆，应当使用其要求的方式进行真实准确的指代。

【建议】

- 主动查阅目标软件/模型关于发布标识的要求，关注国内监管要求变化

· 输出物权益保护的困境

对于企业而言，AI生成的图片如何成为企业的一项可保护性权益，也是需要考虑的问题。这可能会涉及两方面的问题。其一，涉及企业与模型提供者或技术提供者之间的约定，需要考虑模型提供者或技术开发者在使用协议或许可协议中是否有相关约定，例如模型提供者是否保留相关权利，或是否转让相关权利至使用者，例如Civitai网站中发布的基于SD模型的微调模型，基本也明确了技术开发者不会对模型产物（output）主张权利。而Midjourney采取的则是“付费权益”模式，同时，其在《使用协议》中明确了“通过使用服务，您授予Midjourney及其继任者，并转让永久的、全球性的、非排他性的、可分许可的、免版税的、不可撤销的版权许可，以复制、准备衍生作品、公开展示、公开表演、分许可和分发您输入服务的文本和图像提示，以及您通过服务产生的任何资产。本许可证在任何一方以任何理由终止本协议后仍然有效。”因此，对于希望保有完整权益的企业而言，在模型选择方面应予以考虑。

其二，涉及企业与第三方使用主体之间的关系，即如果第三方未经授权使用了企业的AI生图，企业是否能够主张相关权利？关于AI作品著作权的探讨，也是最近司法实践中备受关注的问题，例如北京互联网法院（2023）判决中认为，用户使用Stable Diffusion模型生成的图片属于美术作品，应受著作权法保护。但我们认为，该判例并无法印证AI作品必然具有著作权，本案中的作者通过输入提示词、设置相关参数，并不断调整修正后获得最终的图片，因此，应当视具体案例的具体情况而定。对于企业而言，如想要将AI生成作品作为一项权益进行保护，则应当提高作品质量，体现独有的原创性和智力成果。

【建议】

- 确认许可协议中是否主张相关权益

- 尽可能提高作品的独创性，提高被认定为受著作权法保护的作品的可能性

· 舆论与披露问题

低质的AI生图作品可能会引发用户的反感。例如此前深圳地铁站中的AI生图，粗看时非常接近真实的照片，但仔细观察时，一些不寻常的光影效果、不协调的面部表情甚至是比例失衡的肢体，都可能引起消费者的不适，也被称为“恐怖谷”效应。因此，对于企业而言，在使用AI生图作为广告宣传时，自身的品牌形象以及用户的接受程度也将成为考量因素。

【建议】

· 尽可能提高AI生图的质量

· 结合企业形象考虑，及时收集消费者的反馈信息

四、结语

综上所述，作为一家企业，如果选择使用AI生成的图片用于广告宣传，需要查阅哪些资料，采取哪些措施来尽可能降低合规风险？我们建议从以下几个维度进行考察评估。

第一步，确认模型的类型及相应的许可协议。如为开源模型，确认并遵守开源许可协议；如为闭源模型/模型产品，确认并遵守使用许可协议，在选择模型时，尽可能选择商用许可明确、透明度高且权属保护利好的模型。

第二步，在输入内容时，应当确认输入来源合法合规，避免商业秘密泄漏。

第三步，在发布前，应当审核AI生图内容的广告合规以及是否可能构成侵权等。

第四步，在发布时，应查阅相关发布平台的发布规则。

第五步，在发布后，应持续关注AI相关监管要求变化及市场反应。

[1] Midjourney《Terms of Service》：https://docs.midjourney.com/docs/terms-of-service.

[2] 《Midjourney Trademark Policy》：https://docs.midjourney.com/docs/trademark-policy.