编者按：随着生成式人工智能快速发展，训练数据的来源、构成及使用方式日益成为人工智能治理的重要议题。数据集透明度常被视为保障版权、隐私和公众知情权、推动企业问责的重要手段，但仅仅披露数据集包含什么，远不足以揭示其背后的权力关系与决策逻辑。
曾任新美国开放技术研究所政策研究员的威尔·奥尔（Will Orr）在TechPolicy.Press上撰文，从数据获取、清洗、筛选和评估等环节出发，揭示现有透明度机制的局限，并提出进一步完善治理框架的思路。
观察者网“世界科先声”编译此文，旨在推动我们超越对数据内容的关注，深入审视数据集如何形成、由谁决定，以及这些决定将如何影响社会。
原文标题：《训练数据集透明度要求掩盖了什么》
【文/ 威尔·奥尔】
在人工智能治理领域，一种普遍观点认为，提高大型语言模型训练数据集构成的透明度，有助于政府、研究人员及其他利益相关方要求人工智能开发企业承担更多责任。
训练数据集往往是引发人工智能相关危害的重要因素，例如偏见、歧视以及数字权利的侵蚀。透明度要求的初衷，是向版权所有者、隐私保护倡导者以及对人工智能持批判态度的研究人员提供有关模型训练数据的信息，使他们能够核实自身利益是否得到保护，并据此追究人工智能企业的责任。与此同时，数据集透明度披露也能为消费者（包括个人和企业）提供必要的信息，帮助他们判断哪种人工智能系统更适合自己。
这一理念已被多个州、国家和国际司法管辖区采纳。其中，加利福尼亚州和欧盟尤为典型，两者均已通过法律，要求前沿人工智能企业公布训练数据集构成的摘要。然而，许多致力于从公共利益出发治理人工智能的利益相关方，可能并未充分认识到现行训练数据集透明度要求的局限性。
本文旨在厘清现有数据集透明度要求究竟披露了什么，揭示其未能呈现的关键流程，并进一步探讨如何通过更有效的方式提高数据集透明度，从而真正推动问责。
需要明确的是，仅仅了解训练数据集包含哪些内容，并不足以实现有意义的问责。知道哪些数据被纳入训练集，并不能让我们充分了解这些数据为何被纳入，更无法说明如何对相关决定提出质疑。
事实上，数据处理实践背后的考量，最终决定了谁的数据会被纳入、谁的利益能够得到保护，以及谁需要承担数据集所带来的危害。要实现真正的问责，就必须了解这些数据集是如何形成的，以及那些通常被视为常规操作或例行程序的数据集构建实践背后的决策依据。
现有训练数据集透明度声明内容含糊，实际作用有限
加利福尼亚州《训练数据透明度法案》（Training Data Transparency Act，TDTA）于2026年1月1日正式生效。该法案要求生成式人工智能系统的开发者，就训练数据集的构成提供涵盖十二个类别的“高层次摘要”，包括所使用的数据类型、是否包含私人数据或受版权保护的材料、数据的获取方式、是否经过清理、过滤或其他处理，以及是否使用了合成数据。
欧盟近期生效的《人工智能法案》（Artificial Intelligence Act）也提出了类似要求，规定生成式人工智能系统的开发者必须公布训练数据集内容“足够详细的摘要”。
然而，落实这些要求并不容易。针对人工智能开发企业的版权诉讼，使企业更倾向于对训练数据集的构建过程及其具体内容保持沉默。
今年3月，加利福尼亚州一家联邦法院驳回了xAI对TDTA提出的法律挑战。xAI认为，该法案迫使企业披露商业秘密，违反美国宪法第五修正案，同时强制企业表达意见，违反第一修正案。目前，xAI正在对这一裁决提起上诉。
从早期的合规情况来看，相关披露大多流于宽泛和笼统。
例如，OpenAI在其披露文件中表示，训练数据集包括公开可获取的互联网资源、第三方授权数据集、合成数据，以及人工标注数据和用户数据。然而，这些信息既没有明确告知版权所有者其作品是否被纳入训练数据，也没有说明是否采集了私人信息。此外，相关披露也没有提供有效途径，让公众评估或比较训练数据集是否对某些群体造成了不成比例的影响。
现有披露声明更像是Evelyn Douek所说的“透明度表演”（transparency theater）：表面上履行了合规义务，却没有真正推动问责。
事实上，斯坦福大学基础模型透明度指数（Foundation Model Transparency Index）在2025年12月发布的研究发现，训练数据的构成仍然是人工智能系统中最不透明的领域之一，尤其是在数据如何获取以及数据本身具有哪些特征等方面。
不过，即使按照现有框架进一步细化训练数据集透明度要求，也未必能够真正实现对人工智能系统及其基础的有效问责。现有的数据集披露声明，只是笼统介绍了训练数据集的来源、用途、规模和内容，却很少说明企业为何选择特定的数据集构建流程。
事实上，数据集的构建往往经历反复迭代和临时调整，其中一些关键决策的影响会贯穿整个模型开发流程。但现有的数据集文档记录方式，通常是在事后将这些复杂过程整理成一套整齐、线性的叙述，从而掩盖了相关决策在实际开发过程中究竟是如何作出的。如此一来，这些决策原本可能受到质疑和挑战的空间也随之消失。只要数据集披露仍然不说明训练数据集的构建流程及其背后的决策依据，就无法真正发挥问责作用。
透明度披露掩盖了关键实践及其背后的判断
训练数据集纳入哪些内容固然是一项重要决策，但绝不是唯一重要的决策。数据究竟是如何收集和处理的，以及企业为何采取这些做法，目前仍然缺乏透明度。
例如，Anthropic、Google和OpenAI等前沿人工智能实验室都在运营自己的网络爬虫，用于收集网页文本并将其用于模型训练。但我们并不知道，这些爬虫依据什么标准决定优先抓取哪些网页，也不清楚它们通过什么方式发现新的网页。现有关于网络爬虫的研究表明，这些选择可能导致训练数据中过度包含发布时间较早、外部链接较多的英语机构来源。
网络数据只是训练数据集的一部分。授权数据集、标注数据集和用户生成数据集分别由哪些内容构成，以及这些数据是如何获取、标注的，又是依据什么标准评估其适用性的，目前实际上都没有得到披露。
合成数据的生成过程同样缺乏透明度。这些数据集构建环节中的每一项决策，都会影响最终训练数据集的内容，以及其中所代表人群的权利。然而，由于这些流程始终处于不透明状态，它们所造成的危害也难以得到揭示。
现有关于数据集清理流程的披露，同样停留在抽象的概述层面。已经解封的法庭文件，为我们了解Meta工程师如何过滤训练数据集提供了难得的机会。
在一种称为“实验性消融”（experimental ablation）的操作中，工程师会采用不同的过滤启发式方法，创建多个版本的训练数据集，然后分别使用这些数据集训练模型，并通过标准化基准测试比较模型表现。例如，Meta工程师曾用盗版图书馆中的科学与技术类书籍以及小说，替换部分原有训练数据，再比较模型的性能表现。
这类操作的目的并不是创建所谓“干净”或“高质量”的数据集，而是通过处理和筛选数据来获得更好的技术性能。训练数据集消融已经成为人工智能行业的常见做法。一名Meta工程师甚至声称，在LLaMa 4的开发过程中，自己进行了100多次消融实验。然而，这些具体做法并未出现在公开的透明度声明中。
在实验性消融这一模式下，什么样的数据才算优质数据、训练数据集应当如何构建，实际上取决于用于评估数据集质量的基准测试。这会形成一种“基准递归”（benchmark recursion）现象：基准数据集反过来影响哪些数据最初会被认定为高质量数据。
这一问题尤其值得警惕，因为用于验证训练数据集质量的基准本身也可能存在缺陷。例如，Meta用来比较训练数据集构成的一个基准Hellaswag，被发现存在多项问题：31%的题目包含不符合语法规范的提示，85%的题目包含毫无意义的错误选项，8%的题目则存在多个正确答案。因此，研究人员认为，该基准不应被用于模型评估。
究竟使用了哪些基准测试来筛选训练数据集，以及为何选择这些基准，正是透明度要求应当披露的关键信息。只有公开这些信息，才能更好地推动问责并保护消费者权益。
从本质上说，这些都是模型治理层面的决策，它们直接影响人工智能系统的基础、能力及其社会影响。然而，目前公众仍无法审查这些决策及其背后的依据。
真正有意义的透明度，必须说明数据集如何形成以及为何如此构建
追溯数据获取和清理流程可以发现，数据集创建者在实际工作中需要作出许多具有重大影响的决策，而这些决策往往没有明确的正确答案。它们通常发生在缺乏正式规则的模糊地带，同时还受到激烈市场竞争的压力，企业必须尽快开发出性能更好的模型。
无论是网络爬虫的设置、数据集质量评估基准的选择，还是数据清理流程的确定，都会影响最终哪些数据被纳入训练集，并进一步决定这些数据将如何塑造人工智能系统。
仅仅概述训练数据集包含哪些内容的透明度声明，并不能说明这些数据集究竟是如何构建的，也无法解释企业为何作出某些选择。而真正影响数据所代表人群的，恰恰是这些实际开发过程中作出的具体决策。
因此，要实现有意义的数据集透明度，就不能仅仅总结人工智能训练所使用的技术材料，还必须记录数据集的具体构建流程，以及作出相关决策的原因。
换言之，我们不仅要看到数据集内部包含什么，还需要“跨越”数据集本身，将其视为一个由科技企业内部一系列“不可见决策”所构成的系统。
要实现这样的透明度，至少需要建立以下四种机制：
1.政府应要求企业公开数据集构成和质量评估的标准。
政府在制定或更新透明度要求时，应明确规定受监管企业必须公开披露其确定数据集构成、评估数据集质量时所采用的标准。这也包括用于判断数据集质量的基准测试和评估标准。
如果基准测试和模型评估日益成为界定“优质数据”以及影响数据集构建实践的重要依据，那么这些标准就应当接受公众和研究人员的审查，而不能被当作隐藏在信息披露机制背后、中立且无需审查的基础设施。
2.企业应持续记录数据集构建过程中的版本变化及决策依据。
企业应在数据集构建的每个阶段持续维护版本日志，并记录相关决策背后的理由。企业不应等到事后才将数据集构建过程整理成一份看似完整、连贯的总结，而应及时记录数据收集和过滤流程是如何确定的、为何作出这些选择，以及当时受到哪些条件和限制。
开源开发者已经在数据集文档中提供了此类信息，证明这种披露方式既切实可行，也具有实际价值。例如，它能够使研究人员对不同的数据集构建方法进行有意义且可控的比较。
无论未来是否通过法律或法规强制要求企业建立此类日志、汇总决策依据，这些做法都应成为企业的最佳实践，以帮助公众和研究人员真正理解数据集的构建过程。
Semrush通过对超过15万条的LLM（主要是ChatGPT、Perplexity）引用数据的来源进行了统计，并对引用最多的网站进行排名。
3.政府应要求或鼓励企业向独立审计人员开放数据获取和处理流程。
政府应要求企业开放数据集的获取和处理流程，供独立审计人员审查；也可以通过激励措施推动企业采取这一做法。
向第三方审计人员开放数据集创建流程及相关决策依据，既能够回应企业对专有信息保护以及反竞争监管的顾虑，也能够确保人工智能企业为自身决策承担责任。
伊利诺伊州于7月签署的一项法律，要求大型前沿人工智能开发企业接受外部审计，以评估其模型可能带来的灾难性风险，但并未提及对训练数据集构成或创建过程进行审计。因此，相关实施指南和新立法应当明确规定：审计人员必须能够获取有关数据集创建流程及其决策依据的实质性信息。
此外，确保所谓“第三方”审计人员真正保持独立，也是当前及长期都需要实现的重要目标。强制审计，以及明确规定审计人员在评估模型安全性、可靠性和偏见时应当能够查阅哪些具体信息，对于商业部署的模型和政府采购的模型都十分重要。
4.上述机制应通过与数据集创建者和从业人员协商制定，而不能仅由政策制定者抽象设计。
制定上述机制不应只是政策制定者在理论层面进行设计，而应当充分听取数据集创建者和相关从业人员的意见。通过这种协商，可以确保透明度要求建立在数据集实际构建过程中所面临的技术条件和制度现实之上，同时也有助于发现那些影响重大、却长期缺乏充分认识的关键流程。
本文并不是反对人工智能企业向研究人员和公众开放训练数据集，供各方审查。真正需要改变的是政策制定者、研究人员和公民社会对数据集透明度的理解。
仅仅知道一个数据集包含哪些内容，并不能让我们了解它是如何构建的、为什么纳入某些数据，又为什么排除了其他数据。这些都是具有重大影响的模型治理决策，直接关系到数据集中所代表人群的利益。因此，相关决策的披露不应仅仅发生在版权诉讼等特殊情况下。
只要那些塑造人工智能系统的数据处理实践、评估标准及其背后的决策依据仍然处于隐蔽状态，透明度要求就无法真正建立有效的问责机制。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
