英国谷歌深度思维公司的科学家开发了一种能为大语言模型生成的文本添加水印的工具，能提高对合成内容的鉴别和追溯能力。相关研究近日发表于《自然》。
大语言模型（LLM）是广泛使用的人工智能（AI）工具，能为聊天机器人、写作支持和其他目的生成文本。不过，人们很难识别并追溯AI生成文本的来源，使信息的可靠性成疑。水印被认为能解决这一问题，但生产系统对质量和计算效率的严格要求阻碍了其规模化应用。
深度思维公司的Sumanth Dathathri、Pushmeet Kohli和同事开发了一个利用一种全新采样算法给AI生成文本添加水印的系统，称为SynthID-Text。该工具利用一个采样算法对LLM的词汇选择进行巧妙偏移，插入一个能被相关检测软件识别的签名。这既可以通过一种“扭曲”路径实现——该路径能提高水印质量但会轻微影响输出质量，或是通过一种能保留文本质量的“非扭曲”路径。
研究者在多个公开模型上评估了这些水印的可检测性，发现SynthID-Text的可检测性优于当前其他方法。他们还用Gemini LLM的近2000万次在线对话回答评估了这些文本的质量，结果显示非扭曲水印形式不会降低文本质量。最后，SynthID-Text的使用对LLM运行所需算力的影响可忽略不计，减少了应用上的障碍。
研究者提醒道，编辑文本或改写输出就能避免出现文本水印。但该研究证明，一个为AI生成内容的生成式文本添加水印的工具是可行的，继而有望提升LLM使用的责任制和透明度。
相关论文信息：
https://doi.org/10.1038/s41586-024-08025-4
癌症是人类健康的主要威胁之一。近年来，一种新的靶向精准放射治疗手段——硼中子俘获治疗技术（BNCT）快速发展，对于复发 12月19日，山东先进制造业人力资源服务供需对接活动在济南举办，活动由山东省人力资源和社会保障厅、山东产业技术研究 12月16日，在2023开放原子开发者大会上，腾讯云宣布将企业级分布式数据库TDSQL的社区发行版OpenTenBase 捐赠给开放原子 “这些小胶质细胞在tau蛋白病变有效地扩散到下一个细胞之前就开始吸收并降解tau蛋白。没有tau病理学，就不会有神经退 编者按 世界在变，变化中不断积蓄着突破的力量。局势纵横看似山重水复，历史规律昭示未来终将柳暗花明。2023年与我们挥 关于发布“2023年度华夏建设科学技术奖”授奖项目的公示 华夏奖字〔2023〕第4号 各有关单位： 2023年度华夏建设科学技术 。本文链接：他们用“水印”鉴别AI生成文章http://www.sushuapos.com/show-11-12981-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 多位诺奖得主做客顶科论坛：科学发现要让所有人能获取
下一篇： 嗅觉缺失的人呼吸方式也会不同