透明度原则在生成式人工智能法律规制中的适用

浙江合创律师事务所，王文举

摘要

生成式人工智能（GAI）的快速发展引发 “算法黑箱” 问题，透明度原则成为破解其治理困局的核心抓手。透明度原则在本质上包含形式透明（可追溯性）与实质透明（可解释性）双重维度：前者要求披露算法源码、训练数据来源等基础信息，后者强调对技术逻辑的分场景解释。然而，该原则在实践中面临三重困境：生成式人工智能的算法 “涌现性” 特征导致决策路径不可追溯；企业核商业秘密保密诉求与透明化要求存在冲突；全球法律规则碎片化加剧人工智能企业合规成本。规制手段应当以立法为核心，遵循风险分级与场景适配逻辑监管机构在监管范式上，需从“结果导向”转向“过程导向”。我国通过《生成式人工智能服务管理暂行办法》等规范，探索规制生成式人工智能的本土化路径，为透明度原则落地提供了技术与制度协同的实践样本。

关键词：生成式人工智能；算法黑箱；透明度原则；可解释性

一、透明度原则产生的时代背景与基本内涵
 (一) 生成式人工智能的兴起与“算法黑箱”问题
 生成式人工智能（Generative AI）是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。ChatGPT作为生成式人工智能的典型，其语言模型由OpenAI公司开发。从2018年至今，OpenAI已陆续推出GPT、GPT-2、GPT-3、GPT-4以及图像预训练iGPT等模型，并迅速火遍全球，这引发了世界各国科技巨头对人工智能语言模型的布局、开发与投资。2025年初，我国人工智能企业深度求索（DeepSeek）发布最新开源模型DeepSeek-R1，用较低训练成本（接近三分之一）达到接近于美国OpenAI公司GPT-o1的性能，引发全球关注。生成式人工智能能够基于其训练数据和用户提示词创建新内容——包括文本、图像、音频和视频，为教育、文学、艺术和科学研究等多个领域提供发展与变革潜力。由于生成性人工智能植根于既定的人工智能概念，海量数据仍然是生成式人工智能底层技术逻辑的起点与核心要素，在大模型的训练、运行与再训练阶段不可避免的会引发大量风险与挑战，生成式人工智能模型所需要的大量数据，包括通过“网络爬虫技术”（Web Crawler）等方式获取的大量个人信息，引发了大量隐私合规方面的风险。早在生成式人工智能发展初期，学界、实务届与国际社会早就针对知识产权、跨境数据安全、加剧数字鸿沟等议题展开了研究，在日益加剧的众多风险与挑战之中，“算法黑箱”风险已成为国际社会积极应对人工智能诸多难题的首要出发点和核心着力点，生成式人工智能运行中存在的“算法黑箱”问题，导致用户无法直观理解其底层原理与运行逻辑，只能被动接受结果。由于算法黑箱的存在，算法推理的逻辑无法被算法以外的人窥视，仅输入和输出数据两种信息能穿过黑箱为运营者所知晓。对此，各国通过法律法规强化透明性，其中透明度原则旨在消除对AI辅助决策的忧虑，提高决策可信度与可接受度，透明度原则被称为人工智能伦理规制的“帝王准则”。“算法黑箱”问题对用户知情权、公平性与监管效能构成严峻挑战，透明度原则成为破解治理困局的核心抓手。

（二）生成式人工智能的不透明性：技术本质与内在逻辑
 生成式人工智能系统的不透明性，本质上源于其与传统软件在技术逻辑上的根本区别，传统软件的行为模式遵循“人类设计-程序执行”的线性因果链，其功能实现依赖明确的代码指令与模块架构。例如，电子游戏角色的台词输出，应用程序中的支付功能，均由开发者通过条件语句、接口调用等编程手段预先设定，其决策逻辑具有可预设性与可追溯性—— 用户与监管者能够通过代码定位具体功能的实现路径。生成式人工智能的技术范式则呈现“数据驱动-系统涌现” 的非线性特征。以大语言模型（LLM）为例，其核心能力并非通过人类编写具体规则实现，而是依赖数十亿参数在海量数据中自主学习语义关联与逻辑规律。此类系统的构建更近似 “自然生成” 而非 “人工设计”：开发者设定训练目标（如 “生成连贯文本”）与基础架构（如GPT系列所依托的Transformer深度学习模型，在前馈神经网络中引入自注意力机制，具有高达百万亿且呈指数级增长的参数量，是经典的黑箱算法），但模型内部的语义表征、推理路径乃至错误模式，均是通过数据迭代 “涌现” 而来产物。这种技术特性使得生成式人工智能的内部机制类似于 “数字菌落”—— 人类设定生长条件（数据、算力、算法框架），但最终形成的 “认知结构”具有不可还原性与不可观测性。纵观这些系统，研究者面对的是包含数十亿数值的矩阵运算，尽管能够通过输入输出测试验证其功能有效性（如总结财务文件的准确性），却难以拆解其“如何”与“为何” 达成特定决策。数据驱动的算法能够根据新数据不断自我调整和优化，这意味着它们的决策规则会随时间变化，增加了预测和解释其行为的难度。这种涌现性导致系统行为具有不可解释性，构成了生成式人工智能区别于传统软件的本质特征，也为法律规制、伦理治理与社会接受度带来全新挑战。

（三）透明度原则的法律内涵与本质：形式与实质的透明
 就透明度原则的规范目的来看，它所要求的不仅仅是一种简单的信息传递的清晰状态，而是通过观察和了解从而实现一定形式的控制，这是透明度原则的内在价值所在。对人工智能中透明度重要性的倡导以不同的形式出现，并由不同类型的利益相关者做出。欧盟 《通用数据保护条例》 (GDPR)与2024年出台的《人工智能法案》均要求数据处理者保证数据处理的透明度，详细说明系统的操作方式、限制和风险。我国《个人信息保护法》与《生成式人工智能服务管理暂行办法》也规定提升生成式人工智能服务的透明度, 提高生成内容的准确性和可靠性。学界有关透明度原则的研究大部分局限于对算法层面，例如算法可解释性、算法公开等，有学者提出生成式人工智能透明度应该超越算法，延伸到系统开发和应用的整个生命周期，纳入各种利益相关者。定义三个层次为：算法透明、互动透明，与社会透明，其中社会透明可通过制度、法律和社会文化规范实现。这三个层次内在联系、相互依赖的，揭示了所涉及的各种利益相关者和环境。将透明度的范围扩展到了算法之外。最重要的是，它说明了透明度的复杂性和多面性，并强调了在该领域进行多学科研究和跨领域合作的必要性。

从各国关于透明度原则的学术研究、法律规范来看，可从透明度原则的本质入手，将透明度原则理解为形式意义上的透明与实质意义上的透明，形式意义上的透明又可理解为“可追溯性”，如算法披露、数据来源与处理过程公开等。实质意义上的透明即“可解释性”。

1. “可追溯性”
 “可追溯性”是指披露可追溯生成内容的生成情况，包括生成式人工智能的服务提供者信息、权利归属信息、设计理念与基础原理以及权利救济信息等溯源信息，从而实现人工智能表面上的透明性，能够被人类所感知和观察。例如公开算法源代码的行为，公开算法源码本质上是人工智能系统提供者技术披露义务的一部分，即人工智能系统提供者向使用者、 监管部门或公众完整公开技术细节。这一披露机制有助于公众与监管部门对算法内部逻辑进行审视与监督，从而最大限度降低算法出错风险并保障其完整性。例如，字节跳动通过单独的《使用须知》文件，介绍了豆包所使用的模型的算法机制、算法名称、算法基本原理、算法运行机制、算法应用场景、算法目的意图、算法备案编号等，在一定程度上满足了公众对算法模型公开透明度的要求。围绕算法源码公开的争议犹存，当前尚未有国家通过法律普遍设定强制性披露义务，仅存在部分倡导性规范或宣示性条款。

可追溯性的本质仅仅是在技术复杂性与人类认知局限之间架设的桥梁，让用户、监管机构或公众能够接近算法，感知算法运行的特点，评估算法运行给用户权利与社会带来的影响，并不追求对人工智能系统的全知全解，而是通过有针对性的流程记录与决策归因，使技术决策在关键节点上具备“可验证的合理性”。同时，源代码是受到法律保护的，源代码本身包含著作权，受到商业秘密相关法律的保护。直接公开源代码也会带来安全风险，很容易暴露系统的漏洞，造成系统被攻击，增大被非法利用或滥用的风险，对公众造成损害。因此，“可追溯性”更多是一种纯粹的，技术性的公开。公开并不代表能够解释每套算法的价值考量和利益平衡，也不会增加用户、监管机构或公众对算法支配者和利用者的理解和信任。形式透明侧重对人工智能系统相关基本信息的披露，而唯有对披露信息进行必要解释才能真正实现透明度原则。

2. “可解释性”
 关于透明度原则中“可解释性”的定义，一直是学术研究与政策文本争论的焦点，尽管各国政府部门、私营企业以及学术研究机构等组织围绕人工智能“可解释性”制定了很多规范性文件，如2022年我国国家互联网信息办公室联合三部门发布的《互联网信息服务算法推荐管理规定》中指出推荐算法应具备透明度和可解释性，如此才能保障用户知情权。纵观国外关于人工智能伦理治理的文件也尚未形成关于“可解释性”定义的通说。这是由不同视角下关注重点不尽相同的原因导致的，不同利益相关者对“可解释性”的目标和需求是不同的，软件、算法的开发者关注于需要利用解释方法辅助进行系统的调试、监测、改进以及安全性审查等。社会管理者的需求主要从道德、法律、规章等角度出发，关注生成式人工智能“算法黑箱”可能带来的不公平、不透明、追责困难、偏见等社会问题。终端用户即生成式人工智能的使用者，对“可解释性”的需求是保证智能决策高性能的同时给出合理的可解释模型,使人类用户能够理解、信任并有效地管理人工智能。有学者认为“可解释性”包括两个维度：面向用户的“可解释性”与面向隐藏层的“可解释性”。面向用户的“可解释性”旨在有效保护知识产权尤其是商业秘密的基础上，为个人提供权利保障的实践路径。面向隐藏层的“可解释性”为透明度的实现提供技术支持。

“可追溯性”的本质仅仅是在技术复杂性与人类认知局限之间架设的桥梁，因此只能理解为形式意义上的透明度原则，而“可解释性”意味着要求生成式人工智能系统提供者在完成技术披露等形式透明的基础上, 进一步对公开披露的技术信息进行解释，要求解释生成式人工智能系统如何工作、为何这样工作，分场景、有层次地说明算法基本原理、目的意图和主要运行机制等，旨在保证一般使用者足以理解系统如何工作进而取得对算法的信任，发挥比“桥梁”更直接的作用。既要保证生成式人工智能系统在形式上“可追溯”，又保证生成式人工智能系统在实质上“可解释”，才能够实现真正意义上的透明度原则。人工智能透明度原则要求智能系统对外具有可见性、可知性，而要真正发挥其破解“算法黑箱”作用，人工智能透明度原则不能只是智能系统体现自身意愿的单向度的任意信息披露，若仅停留在形式披露层面，透明度原则易沦为 “信息橱窗”—— 当普通用户面对包含数十亿参数的深度学习模型技术文档时，难以形成有效认知，监管机构亦可能因缺乏专业技术能力，导致审查流于形式。随着生成式人工智能的迅速发展与治理实践的不断推进，生成式人工智能系统的“可解释性”已成为衡量系统透明度的重要标准，人工智能的信息公开与可解释也逐步作为一个整体被强调。现有法规中甚至也有将“可解释性”与透明度原则并列的情况，可见其重要性。

二、透明度原则的规制困境与成因
 透明度原则被广泛运用于对生成式人工智能系统的规制中，旨在通过“追溯”、“披露”和“解释等方式解决“算法黑箱”带来的信任危机。然而，在具体规制过程中，透明度原则的落地却遇到很多困境，伴随一系列的问题，往往令开发者陷入两难境地。

（一）技术复杂性与可解释性的根本矛盾
 透明度原则要求应尽可能地透明化系统数据来源与决策过程, 然而生成式人工智能技术的复杂性 (如“黑箱”模型) 使得完全透明化变得困难。生成式人工智能系统的不透明性，本质上源于其与传统软件在技术逻辑上的根本区别。如前文所述，生成式人工智能与传统软件不同，其核心能力并非通过人类编写具体规则实现，而是依赖数十亿参数在海量数据中自主学习语义关联与逻辑规律。这种“涌现式”智能的产生机制具有显著的不可预测性，即便是程序开发者也难以完全追溯特定输出的决策路径，大模型在处理复杂问题时，其决策过程涉及多层神经网络的协同作用，技术层面的鸿沟导致透明度原则在实践中面临“解释不能”的困境。强行要求完整披露算法逻辑既不现实，也可能因过度简化而误导公众认知。即使能够做到“鱼缸式(fishbowl transparency)”的透明，也难以有效缓解技术障碍带来的信息不对称，社会公众的知情权依然难以得到保障。由于技术行业的高度专业化，人工智能的决策系统会对外部观察者造成认知约束，对此，有学者主张对代码作出详细注释，解释其功能和原因，即便如此，现代人工智能大语言模型系统，动辄几百万个参数，不具有可操作性。

（二）商业秘密与社会公共利益间的冲突
 让生成式人工智能系统完全透明可能会暴露敏感和隐私数据，特别是如果底层训练数据被公布。因此，对透明度和公开性的呼吁必定与个人的隐私权相冲突。此外，从竞争的角度来看，透明度可能对公司不利。公司可以主张若人工智能系统更加透明可能会导致竞争对手复制、抄袭算法，以至于竞争对手更好地进行干预，以控制或破坏系统。

企业对商业秘密的保护诉求与透明度要求之间存在矛盾，这一矛盾本质上源于技术创新激励机制与公共治理需求的内在冲突。算法架构、训练数据清洗规则及模型优化策略等核心技术要素，通常被企业视为维系市场竞争力的商业机密。企业可能将算法视为核心竞争力的一部分，不愿公开其细节以保护知识产权和防止竞争对手模仿。保密性要求有时也会延伸到算法的训练数据，进一步增加了解读算法决策的难度。例如，Google 的 Gemini 模型架构、OpenAI 的 GPT 系列训练数据分布等关键信息，均被企业以知识产权保护为由严格保密，拒绝完全开源披露。若通过法律强制要求公开此类技术细节，可能引发双重风险：一方面削弱企业研发投入的动力，另一方面为竞争对手提供逆向工程的可能路径，最终抑制技术创新活力。如果人工智能技术实施全部、充分透明标准，技术的研发者和实施者需要将技术原理、方案、要素、效果等全部公开，社会公众可以广泛知晓并实施。这就意味着代码、算法、应用软件等全部内容处于社会公开透明的状态，技术研发者无法通过商业秘密保护来主张对自己智力成果的独占权利。但从劳动价值论与激励理论的视角，技术的研发者应有权选择是否公开自己的科研成果。商业利益驱动下的自我保护机制，使得企业在履行透明度义务时往往采取最低限度披露策略，导致信息披露的完整性与治理需求之间存在显著落差。

（三）法律规则的碎片化
 尽管透明度原则在人工智能发展初期就被提出，有着丰富的法律内涵，但目前全球范围内尚未形成统一的透明度法律标准，各法域规则差异显著。欧盟《人工智能法案》采用严格的风险分级治理模式，将透明度义务与风险等级直接挂钩。对 “不可接受风险系统”（如社会评价有关的生成式人工智能）实施全面禁止；对 “高风险系统”（如医疗诊断）要求强制披露技术文档、训练数据来源清单及第三方认证报告，设立严格的透明度义务；而对低风险系统（如聊天机器人）仅需标识 “AI 生成内容”；美国则以行业自律为主，联邦层面缺乏统一立法；我国通过《生成式人工智能服务管理暂行办法》建立备案与标识制度，但并未细化规定具体解释标准。而多边协调机制也未能有效弥合规则分歧，例如OECD《人工智能、数据治理和隐私报告》虽提出 “可追溯性”“透明度” 要求，但缺乏法律约束力；联合国《人工智能伦理框架》停留在原则宣示层面，未形成具体规则指引；WTO等多边贸易机制尚未将 AI 透明度纳入谈判议程，导致规则冲突无法通过国际争端解决机制协调。

法律规则的碎片化本质上是全球数字治理体系在技术快速更新与国家利益博弈中难以达成共识的体系，不仅削弱了透明度原则的可操作性，未能够达到理想的规制效果，反而会导致跨国运营的人工智能企业面临合规成本叠加问题。例如我国生成式人工智能企业在欧盟与中国市场需分别满足不同的透明化要求，导致企业在实践中难以把握披露尺度，显著增加运营负担，监管机构亦缺乏统一的审查依据，面临执法上的困境。各国政府基于自身产业利益、价值理念构建的透明度规则，虽在局部形成治理效能，但整体上导致技术创新面临 “合规枷锁”，公众难以形成统一的信任预期。

三、透明度原则的法律规制路径
 透明度原则在生成式人工智能规制路径上总体应当抓住技术和立法两个基本框架，以“可解释性”为核心。技术领域可包括事前设计的透明化模型，例如物理知识嵌入模型、功能化框架潜入模型、算法结构等效模型等技术；事后分析的透明化技术，例如通过局部可解释模型LIME（Local Interpretable Model-Agnostic Explanations），向算法模型提供扰动数据生成一个新数据集, 并根据新数据集训练出一个可解释的代理模型, 从而对算法模型的局部行为进行预测。当然，技术的发展离不开立法的保障，制度保障下的可解释人工智能是实现透明度原则不可或缺的钥匙。值得注意的是, 法秩序的规范应该具有针对性, 体现差异化规制，不同的场景对透明度的需求是不同的。法律应该通过场景理论介入算法规制,以情境为导向考察算法可解释性的需求, 制定与透明度需求相一致的规制策略。

（一）风险分级的差异化规制
 对高风险场景的特别关注是计算机科学、社会科学等研究领域对生成式人工智能研究的共同关切，技术领域主张在高风险人工智能场景中以可解释模型取代黑箱模型事实上。而在制度领域则通过构建风险等级体系对人工智能系统及其应用环境进行类型化区，分并施以不同的透明度义务要求，构建差异化、梯度化、情境化的透明度规则体系。

作为生成式人工智能治理的法律规制的核心原则，透明度义务的配置既非绝对统一的刚性标准，亦非完全放任的弹性规则，而应遵循风险分级理论与场景适配逻辑，构建差异化的治理范式。在制度建构层面，应当根据算法自动化决策所位于的行业领域、市场化程度、个案影响、企业能力而对算法解释权的内容、程度、时间和方式作不同要求。从风险分级治理的角度来看，系统的风险异质性决定了透明度义务的梯度配置需求。生成式人工智能系统划分为高风险系统、中风险系统（如金融风控、教育评估）与低风险系统（娱乐交互）。高风险系统因涉及国家、公共安全等核心法益，其损害后果具有不可逆性与社会扩散性，故需施加严格的透明度义务 —— 包括算法决策逻辑的深度解析、训练数据的全链路溯源及实时运行日志的可审计性。反之，低风险系统其功能实现依赖确定性规则且风险影响局限于特定场景，若强制要求与其风险不匹配的高透明度标准，将导致治理成本与收益的严重失衡：一方面过度消耗监管资源，另一方面对企业形成不必要的合规负担打击企业创新的积极性。因此，当透明度原则的实现可能损害系统核心功能实现时，应允许在特定场景中实施透明度义务的有限豁免，但需建立配套的补偿机制（如监管机构的秘密审查），确保豁免行为处于可控范围即通过利益平衡机制避免透明度要求对市场功能的过度侵蚀。

风险分级与场景适配的规制逻辑，本质上是比例原则在人工智能治理中的具体应用。其核心要义在于：透明度义务的强度应与系统风险等级正相关，与场景功能需求相匹配，既避免 “过度治理” 对技术创新的抑制，又防止 “治理不足” 引发的系统性风险。唯有承认生成式人工智能系统的风险多元性与场景复杂性，构建梯度化、情境化的透明度规则体系，才能在技术创新激励与社会安全保障之间达成动态平衡，使透明度原则真正成为连接人工智能技术理性与人类价值理性的制度桥梁。然而，担忧点在于，尽管风险维度为人工智能治理提供了初步的情境化视角，但以单一风险等级作为分类标准是否足以全面涵盖技术应用的复杂性，仍需在理论探讨与实践检验中进一步观察。

（二）监管机构的保障
 监管机构通过强制性规范的制定与实施，构建透明度原则的立体化保障机制 —— 既克服市场主体间的信息不对称，又弥补个体监督能力的天然局限。用户与公众虽享有知情权、算法解释权等权利保障，如我国《个人信息保护法》第24条规定了个人信息处理者应当保证利用个人信息自动化决策时的透明度，个人有权要求个人信息处理者对决策予以说明，确立了算法解释权的存在。但面对算法黑箱与商业秘密的双重壁垒，其信息获取能力与监督效能显著受限。特别是在深度学习模型的决策逻辑呈现 “涌现性” 特征的背景下，脱离国家公权力的制度性支撑，仅凭个体力量难以实现透明。传统监管范式以 “基于结果的监管”为核心，其制度逻辑植根于侵权法的事后追责原理 —— 通过设定技术应用的负面清单与责任条款，对人工智能系统运行产生的损害结果进行法律问责。而之后政府规则制定和决策的自动化程度将更为深入，监管范式会逐步转向 “基于过程的监管”，其核心特征在于将监管重心前移至技术研发与应用的全生命周期。这种预防性监管模式以风险防控为导向，通过立法明确系统提供者的过程性义务（如欧盟《人工智能法案》要求的技术文档提交、风险评估程序）。在人工智能深度介入社会决策的时代，唯有通过过程性监管对技术应用的全流程施加透明度义务，才能在创新激励与风险控制之间达成动态平衡，最终实现安全、可信赖人工智能的治理目标。

（三）中国的制度探索
 我国人工智能监管体系的建构以系统信息披露与解释义务为制度基石，通过备案管理、风险评估、责任追究等协同机制，形成透明度原则的立体化实施路径。这一监管框架既体现公权力对技术治理的引导作用，又通过过程性规制确保透明度要求的实质落地。其中备案制度作为初始过滤机制，确立了透明度义务的形式审查标准，保证了透明度原则的“可追溯性”。系统提供者需向监管部门提交包含技术原理、数据来源、功能边界等内容的备案材料，监管机关依据法定标准对信息披露的完整性、准确性进行合规性审查，对不符合披露深度要求的备案申请予以驳回。这种前置性监管措施，通过设定信息披露的最低门槛，形成对系统透明度的初步筛查，从源头上防止 “信息不完整” 的技术应用进入市场。风险评估是对人工智能系统进行分级管理的前提，以系统对个人权益、社会公益以及生态环境等产生负面影响的概率以及恢复难度为标准，确定系统的风险等级，从而施以不同的监管措施。责任追究旨在对不履行或不适当履行透明度义务的义务主体进行追究，要求其承担不利后果，从而迫使相关主体严格按照法律所规定的透明度要求对相关信息进行披露和解释，例如罚款、责令限期改正、责令暂停提供相关服务等措施。

结论
 生成式人工智能的迅速发展既带来了机遇，也因“算法黑箱”引发信任危机。透明度原则作为破解治理困局的核心方案，通过“可追溯性”与“可解释性”的双重维度，试图在技术复杂性与人类认知局限之间搭建桥梁。然而，这一原则的落地面临三重深层矛盾：技术层面，生成式人工智能的“涌现性”特征使其决策逻辑难以追溯，即便开发者也无法完全解构模型的“认知”路径；商业层面，企业对核心技术的保密需求与公共治理的透明化诉求形成矛盾，过度披露可能抑制创新活力，而最低限度披露则导致治理效能不足；制度层面，全球规则碎片化使跨国企业陷入合规迷宫，欧盟的风险分级立法、美国的行业自律模式与中国的备案制度并存，尚未形成协同治理框架。技术的发展离不开立法的保障，制度保障下的可解释人工智能是实现透明度原则不可或缺的钥匙，但应当注重差异化规制与监管机构的保障。

未来，透明度原则的有效实施仍需突破两大瓶颈：一是推动全治理球规则趋同，二是加速可解释人工智能（XAI）技术研发，提升解释的准确性与效率。唯有将技术创新的“破”与制度规制的“立”有机结合，才能在保障透明度与激励技术创新之间达成动态平衡，这不仅是技术治理的目标，更是数字时代法律与科技协同进化的必然要求。