技术前沿｜以数据为中心的人工智能
发布时间：2023/11/03
返回列表
随着AI大模型的不断发展，数据的重要性愈发凸显。近期，在一些学术论文中频繁提到了 "以数据为中心的人工智能 (Data-Centric AI)"的概念。
以数据为中心的人工智能是指为人工智能系统开发、迭代和维护数据的框架。涉及构建有效训练数据、设计适当的推理数据和维护数据的任务和方法。着重研究如何高效地构建高质量和大规模的数据集。
这种以数据为中心的人工智能并未削弱以模型为中心的人工智能的价值，而是两种范式在构建AI系统时相互补充交织在一起。
一方面，我们可以运用以模型为中心的方法来实现以数据为中心的AI目标。举例来说，我们可以利用生成模型如GAN和扩散模型来进行数据增强，生成更多高质量的数据。
另一方面，以数据为中心的人工智能可以促进改进以模型为中心的人工智能目标。举例来说，提高数据可用性可能会激发模型设计的进一步提升。因此，在实际应用场景中，数据和模型往往会在不断变化的环境中相互促进与演进。
出自《Data-centric AI: Survey》
数据的关键性日益凸显，特别是近年来大型模型的发展，如上图ChatGPT迭代过程所示，训练所需的数据不仅在质量上有所提升，数量也呈现爆炸式增长。
除了用于训练的数据，推理数据也成为了一个不断发展的领域，例如在ChatGPT中的提示工程。由于数据的价值日益凸显，许多研究部门开始着手基础性工作，包括数据的收集方式、构建调试数据等方面的工作。
01 以数据为中心的人工智能
出自《Data-centric AI: Survey》
以数据为中心的人工智能含三个方面：训练数据开发、推理数据开发和数据维护。
训练数据开发
目标是收集和生产丰富、高质量的训练数据，以支持AI模型的训练。它由五个子目标组成，包括收集数据，用于添加信息标签的数据标记，用于清理和转换数据的数据准备，用于对原始数据做更further的processing，用于在不收集更多数据的情况下增强数据多样性。
推理数据开发
目标是创建合理的评估数据集，以提供对模型的合理的评估和测试，包括三个目标：相同分布的测试集合测试，不同分布测试集合测试以及提示工程测试。
数据维护
指的是持续性对数据更新和维护。在实际应用中，数据不是一次性创建的，而是需要持续维护的。数据维护的目标是保证数据在动态环境下的质量和可靠性。
它涉及三个基本的子目标：数据理解旨在提供复杂数据的可视化和评估，使人类能够获得有价值的见解；制定定量测量和质量改进策略来监控和修复数据和保证数据质量；设计数据存储和检索方法，旨在设计有效的算法，通过适当地分配资源和有效地处理查询来提供所需的数据。数据维护在以数据为中心的人工智能框架中起着基础和支撑作用，确保训练和推理中的数据准确可靠。
02 训练数据开发流程
出自《Data-centric AI: Survey》
上图是训练数据的开发流程，包括数据的采集、标注、准备、精简和增强。
数据采集 是指从各种来源获取数据的过程，这一步从根本上决定了数据的质量和数量。这一步通常需要依赖很强的专业领域知识，只有对领域内有深刻的理解，才能更好的知道怎么准备数据以使得结果符合预期。一般来说就是数据采集、数据归一化和合成数据。
数据标注 是指给数据贴标签(label)，其label可以直接用于训练模型，尽管一些无监督学习也取得重大的成功，但是想要最终取得很好的和人类对齐的效果，还是得用label进行监督学习。
数据准备 指的是数据预处理，其过程主要包括数据的清洗、特征抽取和特征变换。
数据精简 指的是数据降维，其主要目的就是在保留数据的基本信息的同时减少给定数据集的复杂性。通常可以通过减少特征大小或样本大小来实现这一目标。
数据增强 主要目的是通过增加数据样本和多样性来提高模型性能，注意其和Data Reduction的区别，两者看似对立，但其实侧重点不一样，后者主要想解决的消除信息冗余，而前者是增加信息量。
03 自动化处理及人工参与
数据的采集分为自动化处理和人工参与两种形式。目前的大模型的训练数据的采集大部分依赖脚本的自动爬取和标注。
自动化处理
• 程序自动化：使用程序自动处理数据。比如通常是基于一些启发式和统计信息进行设计。
• 基于学习的自动化：通过优化来学习自动化策略，例如最小化某一个目标函数。这类方法通常更加灵活和适应性强，但需要额外的学习成本。
• 流水线自动化：在多个任务中集成和调整一系列策略，这可以帮助确定全局最优策略。
人工参与
• 全部人工：需要全部人工参与，可以很好地与人类意图相一致，但成本较高。
• 部分人工：人类需要密集或持续地提供信息，例如通过提供大量反馈或频繁的交互。、
• 最小人工：只在需要时咨询人类。人类只在被提示或要求参与时才参与。适用于遇到大量数据和有限的人力预算的情况。
尽管以数据中心的人工智能是一个相对较新的概念，但在许多相关任务中已经取得了相当大的进展，其中大部分在模型中心范式中被视为预处理步骤。以数据为中心的AI不仅要求数据的数据大而且要求数据的质量高，需要专业的数据公司把控质量。
海天瑞声是一家致力于完善AI数据的公司，提供高质量AI模型训练数据，包括但不限于语音识别 (ASR)、语音合成 (TTS)、说话人识别(SV)、说话人日志 (SD)、计算机视觉 (CV)、自然语言处理 (Text)、多模态 (Multi-modal) 等各种精准标注的数据集及数据处理服务。
