【现象】使用人工智能大模型时，不少人或许都遇到过类似问题：它们有时会捏造细节，甚至“一本正经地胡说八道”。比如，让它推荐书，给出的却是一堆压根不存在的书名；人物身份张冠李戴，还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。
【点评】
所谓AI幻觉，可以通俗地理解为AI也会像人产生心理幻觉一样，遇到不熟悉或超出“知识储备”的问题时，编造一些并不存在的细节，生成与事实相悖的答案。一项调研显示，对于“公众认为使用AI应用过程中有哪些突出问题”，反馈最多的是“内容不准确，或含虚假信息”，占比高达42.2%。
AI幻觉从何而来？可能得从源头寻找答案。
大模型的工作原理，是基于概率生成内容。给它上半句，它就根据自己“学”过的海量知识，“算出”下半句该说什么。比如，当用户输入“今天天气非常”，它大概率会接“不错”“热”“潮湿”等答案，而不会出现“甜”。同时，大模型又不是简单地储存所有事实，而会像人脑记东西那样，进行大量压缩和泛化——也就是“抓概要、找规律”。因此，当“喂给”大模型的训练数据包含虚假信息时，它就会产生“幻觉”、给出错误答案。
有报告显示，我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长，AI幻觉潜藏的风险也随之增加。比如，如果一些看似合理却与现实相去甚远的内容被AI反复学习，会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥，已成为不容回避的课题。
不过也有观点认为，AI幻觉可被视作一种“发散思维”和“想象力”。理论上，如果把训练一个大模型看作信息“压缩”的过程，那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式，可能会出现谬误，也可能触发新的创造。对发展尚未定型的新事物，要保持开放心态，辩证看待其利与弊，在有效防范弊端的同时，给予足够空间使之朝好的方向成长。
短时间内，AI幻觉问题难以被解决。各方都在努力降低其负面影响，相关部门也加大了对违规AI产品的处置力度，推动生成合成内容标识加速落地。一些大模型厂商在积极行动，比如文心大模型利用检索到的信息来指导文本或答案的生成，提高了内容的质量和准确性；通义大模型加强训练语料管理，通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言，则要加快提升AI素养，学会“智慧”地运用“智慧工具”，既借助大模型破除思维定式、启发创新思路，又提高自身有效获取、理解、评估和使用信息的能力。
人类塑造工具，工具也影响人类生活。应对AI幻觉等问题挑战的过程，既促使人们思考改进工作方法，也为AI不断进化提供了源动力。激发新技术的正向价值，让AI更好融入生产生活、赋能千行百业，我们迈向智慧时代之路才能走得更加稳当、更加顺畅。
【现象】使用人工智能大模型时，不少人或许都遇到过类似问题：它们有时会捏造细节，甚至“一本正经地胡说八道”。比如，让它推荐书，给出的却是一堆压根不存在的书名；人物身份张冠李戴，还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。
【点评】
所谓AI幻觉，可以通俗地理解为AI也会像人产生心理幻觉一样，遇到不熟悉或超出“知识储备”的问题时，编造一些并不存在的细节，生成与事实相悖的答案。一项调研显示，对于“公众认为使用AI应用过程中有哪些突出问题”，反馈最多的是“内容不准确，或含虚假信息”，占比高达42.2%。
AI幻觉从何而来？可能得从源头寻找答案。
大模型的工作原理，是基于概率生成内容。给它上半句，它就根据自己“学”过的海量知识，“算出”下半句该说什么。比如，当用户输入“今天天气非常”，它大概率会接“不错”“热”“潮湿”等答案，而不会出现“甜”。同时，大模型又不是简单地储存所有事实，而会像人脑记东西那样，进行大量压缩和泛化——也就是“抓概要、找规律”。因此，当“喂给”大模型的训练数据包含虚假信息时，它就会产生“幻觉”、给出错误答案。
有报告显示，我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长，AI幻觉潜藏的风险也随之增加。比如，如果一些看似合理却与现实相去甚远的内容被AI反复学习，会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥，已成为不容回避的课题。
不过也有观点认为，AI幻觉可被视作一种“发散思维”和“想象力”。理论上，如果把训练一个大模型看作信息“压缩”的过程，那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式，可能会出现谬误，也可能触发新的创造。对发展尚未定型的新事物，要保持开放心态，辩证看待其利与弊，在有效防范弊端的同时，给予足够空间使之朝好的方向成长。
短时间内，AI幻觉问题难以被解决。各方都在努力降低其负面影响，相关部门也加大了对违规AI产品的处置力度，推动生成合成内容标识加速落地。一些大模型厂商在积极行动，比如文心大模型利用检索到的信息来指导文本或答案的生成，提高了内容的质量和准确性；通义大模型加强训练语料管理，通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言，则要加快提升AI素养，学会“智慧”地运用“智慧工具”，既借助大模型破除思维定式、启发创新思路，又提高自身有效获取、理解、评估和使用信息的能力。
人类塑造工具，工具也影响人类生活。应对AI幻觉等问题挑战的过程，既促使人们思考改进工作方法，也为AI不断进化提供了源动力。激发新技术的正向价值，让AI更好融入生产生活、赋能千行百业，我们迈向智慧时代之路才能走得更加稳当、更加顺畅。
AI领域，一则重磅消息传来！最新消息，全球最知名的AI公司——OpenAI将在几个月内发布新版大型语言模型GPT-5，性能将有大幅跃升。目前，ChatGPT使用的是GPT-4大模型，去年3月份，正是这款热门聊天 据英国《金融时报》网站3月13日报道，科学家们已经在利用人工智能(AI)阐释人体所谓的“黑暗基因组”，并开发一种可能很强大的癌症检测、监测和治疗新方法。美国约翰斯·霍普金斯大学的研 据韩国建国大学研究人员发表在最新一期开放获取期刊《公共科学图书馆·综合》上的一项研究，与狗共度美好时光可减轻压力，同时可增强与放松和注意力相关的脑电波。动物辅助干预措施，如犬类 “AI钢铁侠”黄仁勋，又进化了英伟达 作 者丨倪雨晴 2024年，英伟达一年一度的GTC大会已然成为AI界春晚，现场座无虚席，全球AI爱好者翘首以待黄仁勋的独家SOLO。 北京时间3月19日凌晨，GTC终于拉开大幕。英伟达创 据英国《每日电讯报》网站3月18日报道，根据英国政府的新航空计划，首批电动飞行出租车将于2026年试飞。周一发布的《“飞行未来”行动计划》为飞行出租车在2030年广泛使用铺平道路。尽管在最初 3月22日，中国互联网络信息中心（CNNIC）发布第53次《中国互联网络发展状况统计报告》（以下简称《报告》）。《报告》显示，截至2023年12月，我国网民规模达10.92亿人，较2022年12月新增网民2480万人，互联网 。本文链接：如何看待AI“一本正经地胡说八道”http://www.sushuapos.com/show-2-12972-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。