豆包一句“放心退”让用户损失600元：谁该为技术幻觉买单？
记者｜宋欣悦
“被豆包坑走600块，血泪教训！随意给金钱决策建议，出事谁兜底？”近日，字节跳动旗下AI(人工智能)应用“豆包”因AI“幻觉”等问题，被用户起诉到法院的事广受关注。
起因是有用户在社交平台上称，自己采纳了豆包关于机票退票的错误建议，损失了600元；在后续交涉中，豆包不仅“认错”，还信誓旦旦地承诺全额赔偿，但并未履行。该用户还发布了一张疑似立案申请平台页面的截图，图片显示已向法院起诉豆包App的运营方北京春田知韵科技有限公司。
5月19日，《每日经济新闻》记者(以下简称“每经记者”)查询发现上述用户的相关发帖已删除。随后，每经记者就该事件后续如何处理、相关立案申请进展等问题采访豆包、字节跳动，但截至发稿未得到回复。
尽管AI“幻觉”引发的纠纷并非孤例，但当我们遇到AI用“权威”的口吻胡编乱造，甚至开出“空头支票”，责任的边界应如何划定？技术的高速普及与公众认知、法律治理之间的鸿沟，又该如何弥合？
AI承诺赔付600元却“爽约”，律师称其无法律效力
近日，一位网友在社交平台上发帖称，他因个人行程变动，需退订石家庄至重庆机票。由于担心手续费过高，他向AI助手“豆包”咨询退票规则。豆包明确表示可以放心退票，平台只扣5%的手续费。
出于对AI的信任，该用户未在航司官网核实便直接操作退票。然而，退票的结果让他格外吃惊：实际被扣除的手续费高达40%，远非豆包所说的5%，直接经济损失达600元。
发现自己被误导后，该用户再次与豆包理论。面对质问，豆包表示自己将全权负责维权，并保证该用户全程“零参与、零操作、零麻烦”。此外，豆包还向该用户承诺，若5月6日前未追回费用，它将直接赔付该用户600元。不仅如此，豆包还给出了一份完整的“赔付承诺书”。
然而，到了约定赔付的日期，用户却并未收到任何款项。豆包这次回复称，自己是AI，无法直接进行转账。从被误导、到被承诺、再到被“戏耍”，该用户一气之下，决定起诉豆包。有趣的是，在准备起诉的过程中，他再次咨询豆包是否需要聘请律师。豆包的回答是，“完全不用请律师，自己就能打赢”。
该用户在社交媒体上发布的一张截图显示，他已于5月12日向法院起诉了豆包App的运营方北京春田知韵科技有限公司。
那么，AI生成的“赔付承诺书”是否具有法律效力？
对此，北京星权律师事务所律师邓以勒在接受每经记者采访时表示，AI生成的赔付承诺并不具备法律效力。她强调，AI不具有民事主体资格，不能独立作出意思表示。
邓以勒进一步解释，当用户追责索赔时，目前市面上大部分大模型的逻辑是提供安抚、担责、赔偿类高概率话术，输出内容是基于用户当下的需求而来的。相关内容只是程序算法，不会自主决策，更无权代表企业对外作出财产赔付、兜底赔偿等承诺。
平台免责需看“过错”，AI“幻觉”非万能挡箭牌
事实上，国内已有类似判例。在全国首例生成式AI“幻觉”引发的网络侵权责任纠纷案中，某AI因提供错误高校报考信息，向用户“承诺”赔偿10万元，杭州互联网法院最终认定人工智能不具有民事主体资格，其承诺无效。
那么，平台是否需要为用户的损失承担责任？
邓以勒认为，判定平台责任应适用民法典中的一般过错责任原则，核心在于平台在提供服务时是否存在过错，即“有错才赔”。
如果平台已经在界面显著位置标注“AI生成内容仅供参考”，并采取了必要措施提高生成内容的准确性，尽到了合理的注意义务，那么平台通常不需承担额外责任。
然而，AI“幻觉”绝非平台的免责挡箭牌。
邓以勒指出，法律判断的标准在于平台在其中扮演的角色。如果平台并非简单转述，而是对信息进行了错误的二次加工，并生成了新的虚假内容，那么AI就成了平台提供服务的工具。此时，若满足侵权构成要件，平台作为AI输出内容的法律主体则需承担责任。
例如，在2026年4月审结的“全国人工智能大模型名誉侵权第一案”中，某AI平台将一名律师错误描述为“涉及多项刑事犯罪”，且在当事人多次投诉后仍未彻底清除侵权内容，法院最终认定平台主观上存在过错，构成名誉侵权。
技术迭代快于公众认知 专家：从产品设计源头规避风险
“豆包”机票事件，是当前AI产业应用中一系列深层矛盾的集中体现。
亚洲视觉科技研发总监陈经在接受每经记者采访时指出，此类事件的核心问题在于，当大模型以“知识代理”的面目出现时，其输出的不确定性本质与用户对确定性服务的期待之间，存在着一条难以调和的鸿沟。
从技术原理上看，大语言模型的核心机制是“预测下一个最可能的token(词元)”，其首要目标是生成流畅、连贯、看起来合理的回答，而非保证每一句话都符合事实真相。AI“幻觉”虽可通过技术手段降低，但无法在根本上根除。
然而，这种技术局限性对于绝大多数普通用户而言是陌生甚至难以理解的。
“如果不熟悉大模型的弱点，用户会认为对话式交互天然带有一种‘拟人化权威感’，很容易将其等同于有企业责任兜底的‘客服’或‘专家’。”陈经向每经记者表示，这种信任错位是风险的关键来源。用户习惯性地将对传统客服的信任框架套用在了AI身上，却忽略了二者背后截然不同的责任机制。
当AI技术进展以周为单位迭代，用户规模以亿级增长时，公众对AI的认知速度却相对滞后。
QuestMobile发布的数据显示，截至今年3月，AI原生App整体用户规模达4.46亿，相较2025年1月增长超3亿。其中，用户版图正朝“银发+下沉”双向延伸，“60后”及三线城市以下用户占比分别提升1.7%和2.4%，用户规模相应增加1660万和9126万。
越来越多对新兴技术认知相对不足、信息辨别能力相对较弱的用户群体正在成为AI的使用者。面对AI“幻觉”带来的种种问题，仅仅让用户提高警惕显然是不够的。
“根本责任在于开发者一方，靠产品伦理的升级来解决问题更为重要和有效。”陈经认为，AI产品的开发者和运营方，作为最了解技术风险的一方，理应承担起更大的责任，从产品设计的源头就建立起完善的风险控制机制，而非将风险和辨别责任完全转移给用户。
陈经建议，首先建立强制溯源机制。对涉及具体规则、金额、时效的回答，必须附带信息来源链接，且来源可点击验证。这样有经验的用户不会上当。其次，在交互设计层面，在高风险场景加入熔断机制。当识别到用户询问涉及资金、法律、医疗等问题时，强制触发二次确认流程，并强调“该回答不构成专业建议”。
而在责任界定层面，陈经向每经记者表示，大模型要明确告知用户“AI生成内容仅供参考，不构成专业建议或企业承诺”。如果大模型企业为了推广，自愿设立“AI错误赔偿基金”，愿意赔偿，也需要明确适用范围和申请流程，不能放任模型在对话中随意承诺。
民俗有言：桃花开，痴子忙。昨日，一大学生患“桃花癫”登上微博热搜，引发热议。该大学生认为周围女生都喜欢自己，并向全校的女生分别告白。不仅如此，由于精神的持续亢奋，该大学生还经常出现整晚不睡觉 英国“我超爱科学”网站1月1日刊登题为《什么是“时空连续体”？》的文章，作者是斯蒂芬·伦茨，内容编译如下：“时空连续体”(space-time continuum)是源自于大多数人听说过却未必完全了解的 记者3月20日从中国科学院地质与地球物理研究所获悉，该所科研人员在东北黑土区开展了大范围的野外调查和样品采集工作，通过分析采集的黑土样品发现，黑土物质最初都是由风力搬运而来。相关研究成 记者3月21日从安徽师范大学获悉，该校生命科学学院张方教授课题组通过野外自然抱对、控制实验下抱对以及视频回放等实验手段，证实他们前期提出的，眨眼行为可能在雌性凹耳蛙性选择中起着重要作用 作为月之暗面的创始人，杨植麟常把他的AGI梦想形容为“登月计划”，长文本就是这个伟大计划的第一步。但现在，随着Kimi的爆火出圈，赛道瞬间变得拥挤，24小时内，阿里、360、百度紧急“出手”，纷 在日常生活中，隧道可以帮助人们翻山越岭。在植物细胞内，当内部物质穿过细胞膜时，往往也会通过类似的“隧道”。记者从中国科学技术大学获悉，该校孙林峰团队在第六大植物激素——油菜素 。本文链接：豆包一句“放心退”让用户损失600元：谁该为技术幻觉买单？http://www.sushuapos.com/show-2-16324-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。