人工智能（AI）初创公司xAI创始人埃隆·马斯克近日表示：“在AI训练中，我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明，人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺，为满足AI的“胃口”，科技行业正转向使用合成数据。
澳大利亚“对话”网站在本月稍早时间报道中指出，合成数据具有诸多优势，但过度依赖合成数据也可能削弱AI的精确性和可靠性。
合成数据应运而生
以往，科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。
真实数据因蕴含真实事件以及其场景和背景而极具价值，但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容，甚至潜藏严重偏见，导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。
但真实数据日益匮乏，因为人类生成数据的速度赶不上AI不断增长的需求。
美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称，AI行业已触及他所称的“数据峰值”，AI的训练数据如同化石燃料一样面临着耗尽的危机。此外，有研究预测，到2026年，ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据，届时将没有新的真实数据可供使用。
为给AI提供充足的“养分”，一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的，而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品，来训练、测试、验证AI模型。
从理论上来说，合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题，尤其是涉及个人健康数据等敏感信息时。更重要的是，与真实数据不同，合成数据在理论上可以无限供应。
研究机构高德纳公司估计，2024年AI及分析项目使用的数据中，约60%是合成数据。到2030年，AI模型使用的绝大部分数据将是由AI生成的合成数据。
科技公司来者不拒
事实上，微软、元宇宙平台公司，以及Anthropic等众多科技头部企业和初创企业，已经开始广泛使用合成数据来训练其AI模型。
例如，微软在1月8日开源的AI模型“Phi-4”，便是合成数据携手真实数据训练的；谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据，开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence，在预训练阶段，也大量使用了合成数据。
随着科技公司对合成数据的需求与日俱增，生产合成数据的工具也接踵而至。
英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator，能够生成合成数据，用于自动驾驶汽车和机器人训练。去年6月，英伟达开源了Nemotron-4340b系列模型，开发者可使用该模型生成合成数据，用于训练大型语言模型，以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域，该模型能够根据特定需求生成高质量的合成数据，帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面，实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。
此外，去年12月，元宇宙平台公司推出开源大模型Llama 3.3，更是大幅降低了生成合成数据的成本。
过度依赖风险难测
尽管合成数据暂时解决了AI训练的燃眉之急，但它也并非尽善尽美。
一个关键问题在于：当AI模型过于依赖合成数据时，它们可能会“崩溃”。它们会产生更多“幻觉”，编造看似合理可信但实际上并不存在的信息。而且，AI模型的质量和性能也会飞速下降，甚至无法使用。例如，某个AI模型生成的数据出现了一些拼写错误，利用这些充满了错误的数据训练其他模型，这些AI模型必定会“以讹传讹”，导致更大的错误。
此外，合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性，这可能导致在其上训练的AI模型的输出也过于简单，缺乏实用性。
为解决这些问题，国际标准化组织需要着手创建强大的系统，来跟踪和验证AI训练数据。此外，AI系统可以配备元数据追踪功能，让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督，以确保其高质量且符合道德标准。
AI的未来在很大程度上取决于数据的质量，合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用，人们必须保持谨慎态度，尽量减少错误，确保其作为真实数据的可靠补充，从而保障AI系统的准确性和可信度。
人工智能（AI）初创公司xAI创始人埃隆·马斯克近日表示：“在AI训练中，我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明，人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺，为满足AI的“胃口”，科技行业正转向使用合成数据。
澳大利亚“对话”网站在本月稍早时间报道中指出，合成数据具有诸多优势，但过度依赖合成数据也可能削弱AI的精确性和可靠性。
合成数据应运而生
以往，科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。
真实数据因蕴含真实事件以及其场景和背景而极具价值，但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容，甚至潜藏严重偏见，导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。
但真实数据日益匮乏，因为人类生成数据的速度赶不上AI不断增长的需求。
美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称，AI行业已触及他所称的“数据峰值”，AI的训练数据如同化石燃料一样面临着耗尽的危机。此外，有研究预测，到2026年，ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据，届时将没有新的真实数据可供使用。
为给AI提供充足的“养分”，一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的，而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品，来训练、测试、验证AI模型。
从理论上来说，合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题，尤其是涉及个人健康数据等敏感信息时。更重要的是，与真实数据不同，合成数据在理论上可以无限供应。
研究机构高德纳公司估计，2024年AI及分析项目使用的数据中，约60%是合成数据。到2030年，AI模型使用的绝大部分数据将是由AI生成的合成数据。
科技公司来者不拒
事实上，微软、元宇宙平台公司，以及Anthropic等众多科技头部企业和初创企业，已经开始广泛使用合成数据来训练其AI模型。
例如，微软在1月8日开源的AI模型“Phi-4”，便是合成数据携手真实数据训练的；谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据，开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence，在预训练阶段，也大量使用了合成数据。
随着科技公司对合成数据的需求与日俱增，生产合成数据的工具也接踵而至。
英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator，能够生成合成数据，用于自动驾驶汽车和机器人训练。去年6月，英伟达开源了Nemotron-4340b系列模型，开发者可使用该模型生成合成数据，用于训练大型语言模型，以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域，该模型能够根据特定需求生成高质量的合成数据，帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面，实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。
此外，去年12月，元宇宙平台公司推出开源大模型Llama 3.3，更是大幅降低了生成合成数据的成本。
过度依赖风险难测
尽管合成数据暂时解决了AI训练的燃眉之急，但它也并非尽善尽美。
一个关键问题在于：当AI模型过于依赖合成数据时，它们可能会“崩溃”。它们会产生更多“幻觉”，编造看似合理可信但实际上并不存在的信息。而且，AI模型的质量和性能也会飞速下降，甚至无法使用。例如，某个AI模型生成的数据出现了一些拼写错误，利用这些充满了错误的数据训练其他模型，这些AI模型必定会“以讹传讹”，导致更大的错误。
此外，合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性，这可能导致在其上训练的AI模型的输出也过于简单，缺乏实用性。
为解决这些问题，国际标准化组织需要着手创建强大的系统，来跟踪和验证AI训练数据。此外，AI系统可以配备元数据追踪功能，让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督，以确保其高质量且符合道德标准。
AI的未来在很大程度上取决于数据的质量，合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用，人们必须保持谨慎态度，尽量减少错误，确保其作为真实数据的可靠补充，从而保障AI系统的准确性和可信度。
民俗有言：桃花开，痴子忙。昨日，一大学生患“桃花癫”登上微博热搜，引发热议。该大学生认为周围女生都喜欢自己，并向全校的女生分别告白。不仅如此，由于精神的持续亢奋，该大学生还经常出现整晚不睡觉 日前，盛世盈创氢能科技（陕西）有限公司（以下简称盛世盈创）与协氢（上海）新能源科技有限公司宣布达成战略合作，共同推进风冷氢燃料电池电堆全自动化生产线（以下简称风冷堆）的研发与生产。双方协议，将建设目 据英国《泰晤士报》网站3月15日报道，2020年1月，英国帝国理工学院的亚当·汉普希尔与英国广播公司合作，对8万人进行了30分钟的测试，目的是揭示生活方式的改变会影响我们的大脑功能。三个月 英国科学家首次创造了一个新颖的实验平台，即“量子龙卷风”。它能模拟超流体氦中的黑洞，使研究人员能更详细地观察类似黑洞的行为以及与周围环境的相互作用。通过对超流体氦表面微波动力学的观 3月24日，据央视财经消息，在今天开幕的中国发展高层论坛2024年年会现场，苹果公司首席执行官蒂姆·库克回应记者提问表示，苹果公司的Apple Vision Pro头显产品将在今年年内于中国市场上市， 3月25日6时左右将迎来水星东大距。这是水星今年第二次大距、首次东大距，也是公众尝试观测水星的好机会。届时，水星位于太阳东边，与太阳张角约为18.7度。以北京地区为例，在日落时，水星地平高度约为 。本文链接：“喂”给人工智能的真实数据终将耗尽，合成数据能否让AI模型精确可靠？http://www.sushuapos.com/show-2-10256-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 仿昆虫微型机器人飞行长达15分钟
下一篇： 新型光学原子钟比铯钟精度高千倍