AI正在以前所未有的方式介入到我们的生活和工作当中。AI似乎总能迅速给出一个笃定的答案，但它也会犯错，会出现所谓的“幻觉”。如果哪一天它的小错酿成了大祸，到底谁来负责?尤其是在医疗、金融、驾驶等重要的领域，责任到底如何划分?
如果AI给了你一个错误信息，你会怎么做?去年6月，梁某使用AI为弟弟查询高校报考信息，AI向他推荐了云南某职业高校的某个校区，但梁某发现，这个校区根本不存在。面对梁某的纠正，AI言之凿凿地回复：如果您能证明该校区不存在，我将赔偿您10万元信息鉴定费，并建议梁某到杭州互联网法院起诉索赔。于是，我国的AI幻觉第一案诞生了。
杭州互联网法院跨境贸易法庭庭长 一级法官 肖芄：之所以会产生这个错误信息，通常来讲是因为大模型它本身有一个固有的缺陷，就是AI幻觉的问题。AI并不是全知全能的，它只是通过对大量的数据进行训练之后，对数据后面的这些词源结构进行分析，预测下一个最可能生成的词源内容。
AI幻觉，是人工智能偶尔“胡说八道”这一技术缺陷的代名词。那么，AI在技术缺陷下所作出的10万元赔偿承诺，到底算不算数?看似十分简单的案情，却让审理此案的法官们感到十分棘手。
肖芄：这个案件它是一个首案，意味着我们行走在一个无人的领域，在作出裁判之前也并没有人告诉我们这个答案的对错。对于生成式人工智能的过错认定，此前确实没有案件，也没有司法成例，法律也没有相关规定。
这起案件，法庭首先要厘清的问题是，AI到底需不需要为它说出的话负责?
肖芄：现行民法典规定享有民事权利的主体实际上只有三类，一类是自然人，一类是法人，除法人之外，还有一类是非法人组织，就是这三类。人工智能从现行法的意义上来讲，其实并没有赋予它民事权利能力，也没有赋予它民事主体资格。这种情况下目前人工智能还不能作出一个独立自主的意思表示。
AI没法单独对自己的言论负责，而且在本案中，法庭认为AI作出的赔偿承诺，也不能被视为是服务提供者的意思。那么，究竟谁来为AI幻觉的错误负责呢?判决给出了一个关键定性：案涉生成式人工智能属于服务，而非产品，不适用无过错的产品责任，而适用民法典规定的过错责任原则。这意味着，AI生成的不准确信息，本身并不构成侵权，而是要考察提供服务的平台是否存在过错。
肖芄：不能说你有这么一个(AI幻觉)缺陷就成了免责的理由，相反你应该要尽当前技术条件下所能够采取到的技术措施，去尽量避免或者减少这种不准确信息的产生。生成式服务提供者应该对生成式服务这样一种功能局限，应该尽到一个提醒的义务，甚至在某一些特定的场景下，它应该向用户尽到一定的警示义务。
在这起案件中，研发公司提交的证据表明，他们已经采取了当前技术条件下的必要措施，以减少AI幻觉的发生，并履行了提示说明义务。最终，法院驳回了原告诉讼请求，原、被告均未上诉，判决现已生效。尽管这起案件已经审结，但它所引发的法律方面的思考，才刚刚开始。
AI建议如导致误诊 谁来担责
面对AI“一本正经胡说八道”，很多人可能一笑了之，但如果场景变了呢?随着AI在医疗领域的介入越来越深，责任划分的问题也越来越无法回避：如果AI的建议导致误诊、漏诊，责任该由谁来承担呢?
随着AI大模型在各地医院的落地，医生的病历书写方式，已经开始发生重大改变。在温州医科大学附属第一医院，输入患者信息，几秒钟，一份病历就能生成，还能根据检查结果提供诊断建议。然而，在最近的一场论坛上，复旦大学附属华山医院的医生张文宏却表示，拒绝将AI引入所在医院的病历系统。
复旦大学附属华山医院感染科主任 张文宏：现在在我们医院，我是拒绝把AI引入我们医生的日常生活。一用Al就造成最大的一个问题，我们医生的(训练)完全就改变了，对疾病的诊断没有经过系统训练，马上通过Al得出，跟我给出的结论是一样的。没有经过系统训练，他就不能鉴别AI，对或者错，这是很大的问题。
其实，张文宏并不反对AI进入医疗领域，但他担心的是，一旦AI出错，医生们是否具备足够的能力识别和纠正。
张文宏：我是用AI的，因为我接触的病人的量太大、太复杂。我短期内要处理这么多病例，我一般会AI先给我看一遍。AI一般会告诉你，我可能认为什么什么，但是我一看，我就知道AI哪里是错的，你知道误导或者不误导你，就取决于你的能力是不是强过这个AI。
中国卫生法学会副会长 郑雪倩：医生基本的锻炼和培养是要从写病历开始，因为你只有认真地写病历，你才会对病人的整个病情有深入的了解，重要的分析和重要的病程的问诊，我觉得还是要医生亲自来写，而不是说完全用(AI)来替代。如果我们这一代都使用了AI，这些现在的数据是采集前面那些医生积累的经验，假如到了这一代全用了这些数据以后，没有自我的研究和经验的积累的话，到再下一代人给人看病的医生，还有没有这个水准?
张文宏说，“AI会出错，这是肯定的。”即便是前不久宣称问答准确性刷新世界纪录的某国产医疗大模型，也还存在着2.6%的AI幻觉率。哪怕再低的幻觉率，出现在医疗场景中，也可能变成误导性的用药建议，或是错误的诊断方向。
郑雪倩：它还是有幻觉出现，可能也引发大家说这个东西我到底用还是不用。我觉得首先大众一定要有一个明确的定位，(AI)是诊疗中的辅助手段，而不是主导医生诊断决策的角色。
中国政法大学 人工智能法研究院院长 张凌寒：法律始终坚持的原则，就是只有人是具有法律主体地位的。那么医生在使用人工智能进行辅助诊疗的时候，一定要对于自己所作出的医疗决策，进行全面审慎的判断和思考，并且为这个决策最终负责。
现实当中，也有医生困惑，如果AI出了错，医生和AI平台，法律责任如何划分?在刚刚结束的北京两会上，有政协委员提交了《关于加快推动AI医疗辅助诊疗规范有序发展的提案》，建议明确决策权仍在医生，而厂商对模型算法与产品质量承担主体责任，医疗机构则承担使用与验证责任。
郑雪倩：医生在他的诊疗中使用了AI的技术，导致了患者受到了伤害，主体实际上还是很清晰的，从我们国家民法典医疗损害的侵权责任角度考虑，它是规定是由医院和医生医护人员来承担，这一点没有突破我们国家的现有的法律制度。但假如说算法上错了，误导了，可能也要考虑开发者的情况，如果说产品我使用这个产品质量出了问题，并不是我操作失误的话，那就要追究厂家的产品责任。
目前，我国还没有专门针对AI在医疗领域应用的法律法规。2022年国家卫健委等制定的《互联网诊疗监管细则(试行)》中规定，人工智能软件等不得冒用、替代医师本人提供诊疗服务。
中国卫生法学会副会长 郑雪倩：另外在21条里还明确规定，医生本人去出诊以后，要由医生本人亲自开处方，不能用AI来生成处方，所以我们看到从这上面的规定来看，它已经严禁AI作为独立的诊疗医师，必须是由医生本人亲自诊查。
2024年11月，国家卫健委等印发一份指引，提出了包括智能预问诊、智能辅助决策、智能辅助治疗等84种具体应用场景。如今，这些场景正加速成为现实，医疗从业者们期待，未来医生和AI如何分工，如何划定更细致的边界，能有更明确的规范。
自动驾驶“升级” 如何厘清责任主体
在汽车智能驾驶领域，公安部去年就明确表示，目前市场上销售的汽车所搭载的“智驾”系统，都还是L2级别的辅助驾驶，还没有实现自动驾驶，因此，驾驶人才是行车安全的第一责任人。但在最近，首批L3级有条件自动驾驶的车型获批，相关企业已经在指定路段开始试点运营，从有条件的自动驾驶，再到未来完全的自动驾驶，如果驾驶能交给AI，责任的主体，是不是也在发生改变，后台的车企、服务提供商如何担责，也需要尽快地厘清和规范。
防范风险需要厘清责任边界，智能驾驶领域表现得尤为典型。不久前，在衡邵高速，一位司机疲劳犯困，开启车辆辅助驾驶功能，随后他竟然睡着，车辆偏移撞上护栏;而在许广高速，司机过度依赖辅助系统，车辆试图超越一辆货车时发生碰撞。两起事故，司机都被认定负全部责任。目前，市面在售汽车均为L2级辅助驾驶级别，跟完全自动驾驶L5，还差着好几个等级。
郑雪倩：现在达成的共识就是在L2级别下，它的本质上还是去减轻人的驾驶负担，但它还是一个辅助性工具，一旦发生交通事故的话，人还是事故造成的这个主要原因，所以还是人来承担这个交通事故责任。
从L2，升级到L3，会有怎样的变化?去年12月，工信部正式公布我国首批L3级有条件自动驾驶车型准入许可，两款车型分别在北京、重庆指定区域开展上路试点。
在L2级辅助驾驶下，驾驶人需要时刻监管系统，随时准备接手突发情况，在L3有条件自动驾驶情况下，驾驶人依然需要在系统失效或超出场景时及时接管车辆，但在绝大部分情况下可以解放双手，当“甩手掌柜”。这一天的晚高峰，测试车辆遇到了一次复杂路况——左侧车道前方两辆车，因事故停在路边。
那么，L3级，在责任划分上会有怎样的变化呢?专家介绍，现行法律中还没有明确规定，不过在最近的一场直播中，获得首块L3级自动驾驶专用号牌的汽车企业负责人表示，在限定场景内，系统接管驾驶时，因系统失效或未及时发出接管请求导致事故，责任由生产企业承担。
某车企董事长 邓承浩：L2就是智能辅助驾驶，驾驶责任人就是司机，L3是自动驾驶，那么在满足L3激活的条件下，在正常使用L3的过程中，如果出现交通事故，主机厂就是责任方。
但该企业也强调，如果系统已按规定提前发出接管请求，而驾驶人未响应或操作不当，责任由驾驶人承担。专家预测，未来L3级别车辆的事故认定，责任主体更加多元，涉及驾驶人、车企和软件服务提供商，认定将更为复杂。
在专家看来，L3级别下，一旦遇到突发情况，系统留给驾驶人接管的时间依然很短，很容易让人放松警惕。因此，对于自动驾驶，必须采取高度审慎的态度。
张凌寒：L3不是自动驾驶，L3是人机协同，如果说这个车辆要求你接过方向盘的时候可能就已经晚了，所以我们觉得L3阶段可能是最危险的，人类认知上是有一个惰性，就是非常习惯把决策权交出去，那将来到了 L5(完全自动驾驶)也是一样，如果说我们经过客观数据认定发现到L5自动驾驶的情况下， 不管在什么样的路况下，可能它的事故率和死亡率都是要比人类驾驶要更低，那么这样的情况下，我们就可以去信任我们说的，这个人工智能自动驾驶汽车。
AI会犯错，当机遇和风险并存，治理就至关重要。去年9月，《人工智能安全治理框架》2.0版发布，提出将针对AI完善优化风险分类，动态调整更新防范治理措施。
张凌寒：中国的人工智能治理是怎么样，一方面促进人工智能产业发展，同时保证人工智能安全。对于一些已经涌现到现实生活当中的问题，则是通过法院判例来确定去如何解决人工智能可能带来的纠纷，来保护人民群众的合法权益，同时对于开源人工智能技术发展又有责任豁免，所以说这是一个既平衡了创新和发展，同时又能够保证安全，也划定人工智能发展红线底线治理体系。
“极严重灾害”！日本能登地区地震已致213人遇难 中新网1月11日电 综合日媒报道，日本石川县11日公布的最新统计数据显示，能登地区地震已致213人死亡、52人下落不明。 报道称，日本政府在11日举行的内阁会议上还决 中新经纬1月11日电 据微信号“中国铁路”11日消息，自1月11日零时起，铁路12306网站(含手机客户端，下同)优化升级候补购票功能，增加候补订单和备选方案数量，扩大候补订单兑现时间选择范围，临时新增旅客列车席位优先配售给 一年之计在于春。2月20日，湖北省天门市委书记、市人大常委会主任纪道清调研工业经济“开门红”工作。他强调，要牢牢把握高质量发展这个首要任务，把稳增长放在更加突出位置，铆足干劲，奋力夺取一季度“开门 自然资源部：22个省级国土空间规划已获批准实施 中新社北京2月22日电 (记者 庞无忌)中国正加速推进各级国土空间规划编制实施。 中国自然资源部22日透露，截至目前，所有省级和新疆生产建设兵团国土空间规划均已 贵州毕节：蓄势赋能谋发展 高质量推进新型工业化 中新网贵州毕节2月22日电 题：贵州毕节：蓄势赋能谋发展 高质量推进新型工业化 作者 高大涛 陈曦 中国龙年春节假期，贵州省毕节市黔西市新仁乡化屋村游人如织。 中新经纬2月22日电 据“中国铁路”微信号消息，2月21日，全国铁路发送旅客1201.2万人次，铁路运输安全平稳。2月22日，全国铁路客流持续高位运行，预计发送旅客1125万人次，加开旅客列车867列。 各地铁路部门积极应对低温 。本文链接：AI“犯错”，谁来负责？http://www.sushuapos.com/show-5-89960-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 2026年春运，2月2日开启！