“一本正经胡说八道”：AI幻觉到底有多可怕？
中新网北京4月1日电(记者 吴涛)在享受AI带来便捷的同时，你是否发现这个问题挥之不去――AI幻觉，一种“看似真实、实则虚构”的内容生成现象，正渗透进我们的生活。它到底是通往更强大智能的阵痛，还是技术发展的“魔性副产物”？未来，AI幻觉能否为我所用？
幻觉乱象，层出不穷
AI大模型固然“聪明”，但在“胡说八道”方面也毫不逊色。虚构引用、杜撰人物、逻辑混乱，在与AI的互动中屡见不鲜。
例如，它会引用一篇根本不存在的“2023年哈佛研究”；或者，为并不存在的“诺贝尔物理学奖得主约翰・史密斯”编织一段“量子物理贡献”的叙述。有时候，它甚至会在你一再否认其内容后“动摇立场”，反复修改说法。
中新网记者在测试中还发现，AI模型在面对较为复杂的推理问题时，可能“宕机”或自相矛盾。而当你编造出一个根本不存在的概念，比如“高数几何睡眠法”，它也会一本正经地回答：“这是一种将睡眠科学与高等数学相结合的个性化学习策略……”――说得头头是道。
某大模型截图。
当中新网记者输入自己的名字请AI大模型进行介绍，还出现了一名乍看上去完全合理，但其实完全不存在的人，可以说除了“记者”是真的，其他全是假的。
AI大模型介绍的记者身份，职业生涯背景等均为虚构。
技术问题，还是认知演进？
“AI幻觉就是生成看起来像真的一样的虚假信息。”互联网行业从业者、58同城CEO姚劲波接受中新网采访认为，它当然需要治理，但现阶段还未构成决定性风险。“互联网发展这么多年，虚假信息仍然很多，没有被彻底消除，但网友的识别能力也越来越高。我认为AI领域也一样，随着用户教育的积累，越来越多的网友自己可以分辨出AI幻觉。”
不过，并非所有从业者都如此乐观。科大讯飞董事长刘庆峰曾指出，生成式AI的幻觉问题不仅关乎内容真假，更可能形成算法偏差的恶性循环――虚假内容被AI再次学习、放大，反复再生产。
但值得注意的是，AI幻觉在部分场景中却意外成了创作“灵感来源”。游戏开发、动漫设计、小说创作等领域，恰恰欢迎那种“不合常理”的奇思妙想。比如AI生成的创意图片不少是违反自然规律的，但这不影响创意图的效果。
一位不愿具名的开源大模型社区负责人坦言：“今年的大模型比往年更好，就是因为产生了一部分想象力的创作。”
治理AI幻觉，路径几何？
如何治理AI幻觉？技术手段正在快速跟进。一方面，企业正在为大模型接入权威知识库或实时搜索能力，使其答案更具事实依据；另一方面，“标注AI生成内容”也成为监管部门推动的方向。
上述开源大模型社区负责人就表示，AI大模型如今引入联网搜索，各个平台也在用算法和工程解决一部分幻觉问题。
中国工程院院士张亚勤近日表示，幻觉在横向模型里会越来越少，但是它不会消失，这是生成式AI的特点。要消失的话，一定需要具体到某个行业时，用更精准的数据和更精准的模型结合起来，才会达到效果。
多位科技领域企业家也提出了相应对策。360集团创始人周鸿 强调企业模型需对接专有知识库进行校正，刘庆峰则建议，要定期清理模型中的“幻觉数据”。
零一万物CEO李开复则认为，“联网搜索能力”是降低AI幻觉的关键路径，但现实操作中并不轻松。每个企业都有自己的数据库、CRM、ERP系统，联网不是难，而是难以实时、完整。这方面还需继续突破。
政策层面也已展开行动。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《办法》)。
《办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，将于2025年9月1日起施行。
国家互联网信息办公室有关负责人介绍，《办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。(完)
国际天文学家团队绘制了迄今最大的三维宇宙地图，记录了大约130万个活跃类星体在空间和时间上的位置。它将成为探测类星体、暗物质晕和超大质量黑洞的强大工具。发表在最新一期《天体物理学杂 记者3月21日从安徽师范大学获悉，该校生命科学学院张方教授课题组通过野外自然抱对、控制实验下抱对以及视频回放等实验手段，证实他们前期提出的，眨眼行为可能在雌性凹耳蛙性选择中起着重要作用 21世纪经济报道记者 冯恋阁 王俊 广州、北京报道2013年播出的科幻电视剧《黑镜》第二季中有这样一个故事——女主角玛莎在男友艾什被车祸夺走生命之后，长久无法走出分离的痛苦，最终选 3月22日消息，一加Ace 3V昨晚发布，起售价1999元，将于3月25日正式发售。现在这款新机已经来到我们评测室，下面为大家带来图赏。一加Ace 3V全球首发第三代骁龙7+移动平台，采用骁龙8 Gen3相同的4nm制程工 xiaomi在3月21日正式发布了首款“潮流旗舰”定位的产品——xiaomiCivi 4 Pro。该机定位相较以前大幅升级，尤其是性能、影像、AI方面明显提高，这背后的大功臣之一就是第三代骁龙8s。xiaom 习近平总书记在中共中央政治局第三次集体学习时强调，要加强科研学风作风建设，引导科技人员摒弃浮夸、祛除浮躁，坐住坐稳“冷板凳”。甘坐“冷板凳”是一种平心静气从事科学研究、追寻科学真理的 。本文链接：“一本正经胡说八道”：AI幻觉到底有多可怕？http://www.sushuapos.com/show-2-11809-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。