随着生成式人工智能深度融入我们的生产生活，“有问题问AI”已经成为不少人的习惯，但AI带给我们便利的同时，也伴随着一些问题，比如有人就发现，AI提供的内容并不那么准确，有时甚至会出现严重的错误。当AI一本正经地“胡说八道”，就是AI“幻觉”的典型表现。
北京的律师黄贵耕就被AI“幻觉”搞得挺闹心，他无端被AI捏造了多项不实罪名，职业名誉也因此受损。这到底是怎么回事？
律师被捏造多项罪名
竟是"AI幻觉"惹祸
黄贵耕是北京的一名律师，去年5月，他经朋友介绍，成为一起刑事案件的代理律师。被告人家属为了了解他的情况，就在百度平台检索相关信息，不料平台AI竟自动生成了多条关于黄贵耕律师的虚假负面内容。
黄贵耕：比如说搜黄贵耕律师办理的案件，百度跳出一大堆，关于黄贵耕涉嫌威胁法官、私刻印章、介绍贿赂等。当事人家属搜到之后，就感到很震惊。这个律师怎么存在这么多污点。
黄贵耕告诉记者，这些不实内容均与他本人无关。起初，他还以为是有人在恶意诋毁。
黄贵耕：我当时都没有想到是百度AI自动生成的，我还怀疑是同行，因为当时我的当事人还请了另外一个律师。
后来，被告人家属告知，相关内容是搜索时百度AI自动生成的。黄贵耕核查发现，所谓恐吓法官被罚款3万元一事，实际是人民法院报报道的发生在四川成都天府区法院的新闻中，“律师黄某”因判决结果与预期不符，对承办法官进行侮辱、恐吓，黄某被法院罚款3万元。百度AI则将新闻中的“律师黄某”，直接替换成了“黄贵耕”。
而“伪造公司印章”，实际是媒体报道过的另一起案件:“法律顾问黄某”伪造印章试图追讨1000余万元债务。百度AI把“法律顾问黄某”直接替换成了“黄贵耕”。
黄贵耕：对这种AI会生成这么恶劣信息，就是突破一般人的想象，他不会相信这是假的。如果百度AI这种不负责任的行为，就是生成虚假负面信息，如果得不到遏制的话，很多人都会成为它的潜在受害对象。
于是，黄贵耕律师决定起诉北京百度网讯科技有限公司，案件正在审理中。目前，百度搜索已不再显示AI生成的关于“黄贵耕律师犯罪”等虚假信息。
AI将个人电话号码
错误标注为某养殖场
类似的事件还有不少，近日，一位网友吐槽，自己的手机不断接到陌生电话，对方开口就问是否卖猪。起初他以为是恶作剧，后来才发现，这些电话竟然来自豆包AI的搜索结果，他的号码被AI错误标注为某养殖场的联系方式。AI为何会产生这样的“幻觉”？这种“幻觉”能否避免呢？
某人工智能公司首席AI专家 王占一：AI的幻觉现在主要指的是大模型的幻觉，那就是大模型在它的生成、回答的过程中，看似生成了很多合理的、很流畅、很自然、语义语法、也没问题的回答，但是它在事实性、真实性上面是有问题的，可能比较自信，一本正经在说什么，但是其实是不对的。
当AI一本正经地“胡说八道”时，便是“AI幻觉”的典型表现。由于AI给出的回答读着通顺、语气笃定，用户往往很难判断其真伪。那么，AI为什么会产生这种幻觉呢？
某人工智能公司首席AI专家王占一解答：
第一个方面是在数据层面，训练的数据有可能质量差或者数据缺失，数据的时效性不够，以及问题可能是它没有学过。
第二个也是最关键的，就是模型本身的实现机制。因为它本身是一种概率模型，它依赖于前面的上文去推理下一个词，这个过程中可能就会有一些“幻觉”，是因为它去回答的时候是更加关注于怎么样更加流畅，但是它没有关注到事实性。
第三个，在推理和上下文的时候，上下文过长，会对模型的能力提出挑战，用户他的输入和指令可能也有前后矛盾的，模型可能也不知道应该选哪个，这也有可能识别错。
AI出现"幻觉"导致侵权事件发生
谁担责？
AI“幻觉”导致虚假信息频发，有时候甚至会侵犯名誉权等，面对这类问题，我国现行法律法规有哪些明确规定？
中国政法大学网络法学研究所所长 李怀胜：《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者要承担网络信息内容生产者的一个法律地位，而且生成的内容不得实施或者用来侵害他人人格权、名誉权、个人信息权益等相关权益。如果说相关的内容造成他人损害，就按照民法典的一般侵权的过错责任原则来进行相关的审查。
专家表示，为规范人工智能发展，我国已初步形成以《中华人民共和国民法典》等法律为基础、《生成式人工智能服务管理暂行办法》为核心规范，并辅以《人工智能生成合成内容标识办法》等多层次制度框架的AI生成内容法律规制体系，在一定程度上能够为规制AI“幻觉”提供基本依据。
当前技术条件下，AI生成内容难以做到百分之百准确，是由于技术发展的不完善造成的，但这并不意味着AI服务提供者可以免责，作为平台，需承担以下法律义务。
中国社会科学院法学研究所研究员 支振锋：对于法律禁止的“有毒”、有害、违法信息负有严格审查义务。AI服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。对于涉及国家安全、社会公共利益以及他人合法权益保护的违法信息，平台不得以“系AI生成”为由免除审查责任。
专家表示，平台要以显著方式向用户提示AI生成内容可能不准确，对可能生成的有害信息提供事前预防和事后救济途径。
中国社会科学院法学研究所研究员 支振锋：在事前预防层面，平台应尽可能做到功能可靠性的基本的注意义务，采取同行业通行的技术措施提高生成内容的准确性。事后救济层面，如果平台发现或接到投诉知悉存在一些AI生成的不实信息内容后，应当及时检验生成内容，并在确认侵权后第一时间采取删除内容、禁止传播等必要措施，防止损害扩大，平台是可以有作为的，也是有可能会承担相应的法律责任的。
专家：当前"AI幻觉"
不能完全避免但可缓解
专家告诉记者，作为平台方，“AI会产生幻觉”这件事本身，是完全可预见的，但具体何时、针对哪个问题会出现幻觉，却难以判断。不过，在当前技术条件下，AI幻觉虽无法完全消除，仍可通过预防措施来降低其发生概率。
某人工智能公司首席AI专家王占一表示，可以通过这些手段综合起来可以将幻觉尽量去降低。
在数据层面做一些优化。
在训练层面，通过强化学习的训练方法，让它能够更准确。
在后面模型应用时，在里边加一些工程化的手段，让它尽量去缓解幻觉，校验可以用多个大模型或者智能体之间去相互校验，
可以做一些类似于护栏手段，比如说输出涉及容易出幻觉的地方，这些可以做一个交叉验证，是不是别的地方也有这种足够翔实的来源。
遭遇"AI幻觉"造谣误导侵害
如何维权？
AI会一本正经胡说八道，会出现幻觉，所以专家也提醒，网友在使用AI时 就不能完全相信AI搜索得出的结论，务必要进行交叉印证。我们如果遭遇了AI“幻觉”造谣、误导侵害，该如何维权呢？
中国政法大学网络法学研究所所长 李怀胜：
第一是应当及时固定证据，通过截屏录屏或者公证的方式，来留存相应的自身权利受到侵害的证据。
第二是向相关的网络平台及时进行举报，要求网络平台撤除相关的侵权信息。
第三是向相关的网信监管部门及其有关的行政主体来进行行政举报，
第四是向人民法院提起司法诉讼。当然如果相关的侵权内容严重损害自身的合法权利，涉嫌犯罪的，也可以向公安机关提请报案。
随着生成式人工智能深度融入我们的生产生活，“有问题问AI”已经成为不少人的习惯，但AI带给我们便利的同时，也伴随着一些问题，比如有人就发现，AI提供的内容并不那么准确，有时甚至会出现严重的错误。当AI一本正经地“胡说八道”，就是AI“幻觉”的典型表现。
北京的律师黄贵耕就被AI“幻觉”搞得挺闹心，他无端被AI捏造了多项不实罪名，职业名誉也因此受损。这到底是怎么回事？
律师被捏造多项罪名
竟是"AI幻觉"惹祸
黄贵耕是北京的一名律师，去年5月，他经朋友介绍，成为一起刑事案件的代理律师。被告人家属为了了解他的情况，就在百度平台检索相关信息，不料平台AI竟自动生成了多条关于黄贵耕律师的虚假负面内容。
黄贵耕：比如说搜黄贵耕律师办理的案件，百度跳出一大堆，关于黄贵耕涉嫌威胁法官、私刻印章、介绍贿赂等。当事人家属搜到之后，就感到很震惊。这个律师怎么存在这么多污点。
黄贵耕告诉记者，这些不实内容均与他本人无关。起初，他还以为是有人在恶意诋毁。
黄贵耕：我当时都没有想到是百度AI自动生成的，我还怀疑是同行，因为当时我的当事人还请了另外一个律师。
后来，被告人家属告知，相关内容是搜索时百度AI自动生成的。黄贵耕核查发现，所谓恐吓法官被罚款3万元一事，实际是人民法院报报道的发生在四川成都天府区法院的新闻中，“律师黄某”因判决结果与预期不符，对承办法官进行侮辱、恐吓，黄某被法院罚款3万元。百度AI则将新闻中的“律师黄某”，直接替换成了“黄贵耕”。
而“伪造公司印章”，实际是媒体报道过的另一起案件:“法律顾问黄某”伪造印章试图追讨1000余万元债务。百度AI把“法律顾问黄某”直接替换成了“黄贵耕”。
黄贵耕：对这种AI会生成这么恶劣信息，就是突破一般人的想象，他不会相信这是假的。如果百度AI这种不负责任的行为，就是生成虚假负面信息，如果得不到遏制的话，很多人都会成为它的潜在受害对象。
于是，黄贵耕律师决定起诉北京百度网讯科技有限公司，案件正在审理中。目前，百度搜索已不再显示AI生成的关于“黄贵耕律师犯罪”等虚假信息。
AI将个人电话号码
错误标注为某养殖场
类似的事件还有不少，近日，一位网友吐槽，自己的手机不断接到陌生电话，对方开口就问是否卖猪。起初他以为是恶作剧，后来才发现，这些电话竟然来自豆包AI的搜索结果，他的号码被AI错误标注为某养殖场的联系方式。AI为何会产生这样的“幻觉”？这种“幻觉”能否避免呢？
某人工智能公司首席AI专家 王占一：AI的幻觉现在主要指的是大模型的幻觉，那就是大模型在它的生成、回答的过程中，看似生成了很多合理的、很流畅、很自然、语义语法、也没问题的回答，但是它在事实性、真实性上面是有问题的，可能比较自信，一本正经在说什么，但是其实是不对的。
当AI一本正经地“胡说八道”时，便是“AI幻觉”的典型表现。由于AI给出的回答读着通顺、语气笃定，用户往往很难判断其真伪。那么，AI为什么会产生这种幻觉呢？
某人工智能公司首席AI专家王占一解答：
第一个方面是在数据层面，训练的数据有可能质量差或者数据缺失，数据的时效性不够，以及问题可能是它没有学过。
第二个也是最关键的，就是模型本身的实现机制。因为它本身是一种概率模型，它依赖于前面的上文去推理下一个词，这个过程中可能就会有一些“幻觉”，是因为它去回答的时候是更加关注于怎么样更加流畅，但是它没有关注到事实性。
第三个，在推理和上下文的时候，上下文过长，会对模型的能力提出挑战，用户他的输入和指令可能也有前后矛盾的，模型可能也不知道应该选哪个，这也有可能识别错。
AI出现"幻觉"导致侵权事件发生
谁担责？
AI“幻觉”导致虚假信息频发，有时候甚至会侵犯名誉权等，面对这类问题，我国现行法律法规有哪些明确规定？
中国政法大学网络法学研究所所长 李怀胜：《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者要承担网络信息内容生产者的一个法律地位，而且生成的内容不得实施或者用来侵害他人人格权、名誉权、个人信息权益等相关权益。如果说相关的内容造成他人损害，就按照民法典的一般侵权的过错责任原则来进行相关的审查。
专家表示，为规范人工智能发展，我国已初步形成以《中华人民共和国民法典》等法律为基础、《生成式人工智能服务管理暂行办法》为核心规范，并辅以《人工智能生成合成内容标识办法》等多层次制度框架的AI生成内容法律规制体系，在一定程度上能够为规制AI“幻觉”提供基本依据。
当前技术条件下，AI生成内容难以做到百分之百准确，是由于技术发展的不完善造成的，但这并不意味着AI服务提供者可以免责，作为平台，需承担以下法律义务。
中国社会科学院法学研究所研究员 支振锋：对于法律禁止的“有毒”、有害、违法信息负有严格审查义务。AI服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。对于涉及国家安全、社会公共利益以及他人合法权益保护的违法信息，平台不得以“系AI生成”为由免除审查责任。
专家表示，平台要以显著方式向用户提示AI生成内容可能不准确，对可能生成的有害信息提供事前预防和事后救济途径。
中国社会科学院法学研究所研究员 支振锋：在事前预防层面，平台应尽可能做到功能可靠性的基本的注意义务，采取同行业通行的技术措施提高生成内容的准确性。事后救济层面，如果平台发现或接到投诉知悉存在一些AI生成的不实信息内容后，应当及时检验生成内容，并在确认侵权后第一时间采取删除内容、禁止传播等必要措施，防止损害扩大，平台是可以有作为的，也是有可能会承担相应的法律责任的。
专家：当前"AI幻觉"
不能完全避免但可缓解
专家告诉记者，作为平台方，“AI会产生幻觉”这件事本身，是完全可预见的，但具体何时、针对哪个问题会出现幻觉，却难以判断。不过，在当前技术条件下，AI幻觉虽无法完全消除，仍可通过预防措施来降低其发生概率。
某人工智能公司首席AI专家王占一表示，可以通过这些手段综合起来可以将幻觉尽量去降低。
在数据层面做一些优化。
在训练层面，通过强化学习的训练方法，让它能够更准确。
在后面模型应用时，在里边加一些工程化的手段，让它尽量去缓解幻觉，校验可以用多个大模型或者智能体之间去相互校验，
可以做一些类似于护栏手段，比如说输出涉及容易出幻觉的地方，这些可以做一个交叉验证，是不是别的地方也有这种足够翔实的来源。
遭遇"AI幻觉"造谣误导侵害
如何维权？
AI会一本正经胡说八道，会出现幻觉，所以专家也提醒，网友在使用AI时 就不能完全相信AI搜索得出的结论，务必要进行交叉印证。我们如果遭遇了AI“幻觉”造谣、误导侵害，该如何维权呢？
中国政法大学网络法学研究所所长 李怀胜：
第一是应当及时固定证据，通过截屏录屏或者公证的方式，来留存相应的自身权利受到侵害的证据。
第二是向相关的网络平台及时进行举报，要求网络平台撤除相关的侵权信息。
第三是向相关的网信监管部门及其有关的行政主体来进行行政举报，
第四是向人民法院提起司法诉讼。当然如果相关的侵权内容严重损害自身的合法权利，涉嫌犯罪的，也可以向公安机关提请报案。
记者3月20日从中国科学院地质与地球物理研究所获悉，该所科研人员在东北黑土区开展了大范围的野外调查和样品采集工作，通过分析采集的黑土样品发现，黑土物质最初都是由风力搬运而来。相关研究成 科技日报从哈尔滨工业大学获悉，北京时间2024年3月20日8时31分28秒，“天都一号”“天都二号”通导技术试验星伴随探月工程四期鹊桥二号中继星任务搭乘长征八号遥三运载火箭从文昌航天发射场发射 记者3月21日从中国科学技术大学获悉，该校物理学院张斗国教授课题组，提出并实现了一种基于矢量光场调控原理的动量空间偏振滤波器件。该滤波器件安装于传统无标记光学显微镜后，可采集到单个纳米 AI芯片巨头低调赚钱 骆轶琪 在过去一年半导体行业下行周期中，除了英伟达以GPU霸主身份实现业绩快速成长之外，另一些主营虽非GPU，但是立足于AI定制芯片市场的半导体巨头也低调实现了稳健的成长性。 据Gartne 记者3月22日获悉，中山大学、深圳华大生命科学研究院与复旦大学的研究团队合作，揭示了多种蚊虫在不同生境下病毒的多样性、传播分布的影响因素及地理谱系特征，在多维尺度上为研究蚊虫病毒组提供 俄罗斯国家航天集团23日发布消息说，俄当天成功发射了“联盟MS-25”载人飞船。消息说，莫斯科时间23日15时36分（北京时间20时36分），“联盟MS-25”载人飞船搭乘“联盟-2.1a”运载火箭从哈萨克斯坦境 。本文链接：AI为啥会胡说八道？被误导后如何维权？专家解读http://www.sushuapos.com/show-2-16373-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： AI如何更好地与实体经济融合？