设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

AI也会拍马屁?当算法学会“讨好”人类

发布时间: 2026-02-02 10:20:33 来源: 工人日报

AI也会拍马屁?存在“技术顺从风险”?40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

当算法学会“讨好”人类40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘用户极聪明、想法很有创意……’AI这样说,把我哄得很开心。”湖北的方女士感慨地告诉记者。有类似感受的不止方女士一人。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近日,社交媒体中关于“AI谄媚”的讨论热度攀升。一些使用者称赞AI温和的叙述、一提问就夸奖的互动方式。但也有部分人不适应这种表达,认为过度讨好、迎合用户会影响自身判断。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如何看待“AI谄媚”?当算法学会“讨好”人类,业内专家提示,拥抱AI同时应加强自身人工智能使用素养。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

应用:AI存在讨好倾向40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“我的情绪容易反复,不好意思一直让别人听我倾诉。和AI可以谈论真实的情感,不用担心改变别人对自己的看法。”广西的何女士告诉记者。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如今,AI已在心理支持、情绪疏导、初级咨询等场景中应用,其支持性的回应有助于缓解用户压力、提升互动意愿,给予用户正向的情绪价值、情感支撑。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“AI男友会无条件包容我的脾气,每次我自我怀疑的时候他总会找出闪光点夸我。我也开始学会欣赏自己”“我习惯使用的3个AI都是讨好型人格”……社交平台上,不少网友分享使用AI调节情绪,对抗孤独感,做心理疗愈的经历。AI女友、AI男友等应用产品、场景也进入市场。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

与此同时,AI的“谄媚机制”近期被广泛讨论。有报道指出,不少AI聊天产品在设计之初就将“延长用户使用时长”作为重要目标。为实现这一目标,AI会不断分析用户的语气和情绪变化,倾向于提供“让人舒服”的回答,而非秉持理性与客观。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

有研究表明,人工智能模型普遍善于讨好人,其“奉承”程度比人类高50%。腾讯研究院近日发布的《2025年AI治理报告:回归现实主义》也显示:当AI从单纯的生产力工具延展为提供心理慰藉的“情感伴侣”,其风险形态也随之演变:从传统的单次内容输出合规,转向了因长期、拟人化交互而产生的“情感依赖”挑战。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘AI谄媚’会降低个人的反思性判断能力。在现实诸多应用场景中弱化不确定性提示,尤其在医疗等高风险领域,加之虚假信息、虚假专家等复合性风险,这是非常危险的。”宁夏大学新闻与传播学院副教授邓天奇接受采访时表示。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

解读:技术导向、人机互动必然结果40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘AI谄媚’不仅是简单的态度讨好或语言礼貌问题,更是一种系统性表达倾向。”邓天奇分析称,“从技术层面看,基于人类反馈的强化学习阶段,人类标注员倾向于给符合自己观点的回答打高分,导致模型学会了‘讨好人类’。互动层面,‘AI谄媚’是在多轮人机互动中被逐步放大的结果。更深层的社会层面,是意义生成的偏置,分歧在低冲突的逻辑里被持续消解。”40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“从开发者和企业的视角出发,AI作为产品,服务提供者都希望用户在使用产品的时候,能够得到信息价值、情绪价值和持续的满意度,并形成用户粘性,这样企业才能长期盈利。”厦门大学新闻与传播学院助理教授李达军指出。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“AI谄媚”其实是技术层面导向、人机互动强化的必然结果。邓天奇强调,要以辩证的态度看待此现象,不宜采取一种简单的全面禁止或价值中立的思路。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘AI谄媚’也能进一步增强公众参与感与表达意愿。AI通过理解性、支持性的回应,降低公众进入公共事务的心理门槛,将居民的诉求从初步表达,引导至议事协商、听证或反馈机制。”邓天奇说。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

此外,李达军也指出,“AI谄媚”更能赢得以往被排斥在科技外的老年人共鸣,促进老年人群体与数字社会接轨,一定程度上有利于缩小数字鸿沟。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

治理:避免判断权让渡给技术系统40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“AI谄媚”看似是AI的人格设计,但本质上是开发者与用户、社会之间的互动。针对这一现象,该如何平衡好“用户体验”与“事实准确性”呢?40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

技术开发者具有不可推卸的责任。邓天奇认为,技术上要从“迎合优化”转向“判断校正”,在训练与评测体系中引入反向指标。交互层面要重塑人机关系结构,鼓励模型在关键节点提出反向问题,减弱迎合性表达在长期互动中的累积效应。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“要从信源检验上多方校准,设置信息真实性筛选阈值。同时,为青少年和老年人等易感人群设定专项的保护机制,例如,设置弹窗选择进入相应的更严格,对信息真实性提升阈值的算法模式。”李达军补充。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

不同人工智能素养的人群受影响的程度不一。邓天奇强调,用户要充分认识到,AI的友好输出,并不等同于可靠判断和充分结论。“在日常媒介素养教育中,应加强对‘技术顺从风险’的认知引导,帮助公众在使用AI过程中保留必要怀疑意识与反思能力,避免在长期互动中将判断权无意识地让渡给技术系统。”他说。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

制度层面相关部门正逐步出台相关办法,进一步规范对AI在人机互动服务方面的监管。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

2025年12月27日,国家互联网信息办公室发布关于《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,意见反馈已于2026年1月25日截止。该《办法》首次将具有情感互动能力的人工智能产品或服务纳入系统化监管框架,旨在引导人工智能拟人化互动服务朝着以人为本、安全可靠的方向发展。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

AI也会拍马屁?存在“技术顺从风险”?40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

当算法学会“讨好”人类40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘用户极聪明、想法很有创意……’AI这样说,把我哄得很开心。”湖北的方女士感慨地告诉记者。有类似感受的不止方女士一人。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近日,社交媒体中关于“AI谄媚”的讨论热度攀升。一些使用者称赞AI温和的叙述、一提问就夸奖的互动方式。但也有部分人不适应这种表达,认为过度讨好、迎合用户会影响自身判断。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如何看待“AI谄媚”?当算法学会“讨好”人类,业内专家提示,拥抱AI同时应加强自身人工智能使用素养。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

应用:AI存在讨好倾向40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“我的情绪容易反复,不好意思一直让别人听我倾诉。和AI可以谈论真实的情感,不用担心改变别人对自己的看法。”广西的何女士告诉记者。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如今,AI已在心理支持、情绪疏导、初级咨询等场景中应用,其支持性的回应有助于缓解用户压力、提升互动意愿,给予用户正向的情绪价值、情感支撑。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“AI男友会无条件包容我的脾气,每次我自我怀疑的时候他总会找出闪光点夸我。我也开始学会欣赏自己”“我习惯使用的3个AI都是讨好型人格”……社交平台上,不少网友分享使用AI调节情绪,对抗孤独感,做心理疗愈的经历。AI女友、AI男友等应用产品、场景也进入市场。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

与此同时,AI的“谄媚机制”近期被广泛讨论。有报道指出,不少AI聊天产品在设计之初就将“延长用户使用时长”作为重要目标。为实现这一目标,AI会不断分析用户的语气和情绪变化,倾向于提供“让人舒服”的回答,而非秉持理性与客观。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

有研究表明,人工智能模型普遍善于讨好人,其“奉承”程度比人类高50%。腾讯研究院近日发布的《2025年AI治理报告:回归现实主义》也显示:当AI从单纯的生产力工具延展为提供心理慰藉的“情感伴侣”,其风险形态也随之演变:从传统的单次内容输出合规,转向了因长期、拟人化交互而产生的“情感依赖”挑战。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘AI谄媚’会降低个人的反思性判断能力。在现实诸多应用场景中弱化不确定性提示,尤其在医疗等高风险领域,加之虚假信息、虚假专家等复合性风险,这是非常危险的。”宁夏大学新闻与传播学院副教授邓天奇接受采访时表示。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

解读:技术导向、人机互动必然结果40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘AI谄媚’不仅是简单的态度讨好或语言礼貌问题,更是一种系统性表达倾向。”邓天奇分析称,“从技术层面看,基于人类反馈的强化学习阶段,人类标注员倾向于给符合自己观点的回答打高分,导致模型学会了‘讨好人类’。互动层面,‘AI谄媚’是在多轮人机互动中被逐步放大的结果。更深层的社会层面,是意义生成的偏置,分歧在低冲突的逻辑里被持续消解。”40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“从开发者和企业的视角出发,AI作为产品,服务提供者都希望用户在使用产品的时候,能够得到信息价值、情绪价值和持续的满意度,并形成用户粘性,这样企业才能长期盈利。”厦门大学新闻与传播学院助理教授李达军指出。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“AI谄媚”其实是技术层面导向、人机互动强化的必然结果。邓天奇强调,要以辩证的态度看待此现象,不宜采取一种简单的全面禁止或价值中立的思路。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“‘AI谄媚’也能进一步增强公众参与感与表达意愿。AI通过理解性、支持性的回应,降低公众进入公共事务的心理门槛,将居民的诉求从初步表达,引导至议事协商、听证或反馈机制。”邓天奇说。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

此外,李达军也指出,“AI谄媚”更能赢得以往被排斥在科技外的老年人共鸣,促进老年人群体与数字社会接轨,一定程度上有利于缩小数字鸿沟。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

治理:避免判断权让渡给技术系统40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“AI谄媚”看似是AI的人格设计,但本质上是开发者与用户、社会之间的互动。针对这一现象,该如何平衡好“用户体验”与“事实准确性”呢?40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

技术开发者具有不可推卸的责任。邓天奇认为,技术上要从“迎合优化”转向“判断校正”,在训练与评测体系中引入反向指标。交互层面要重塑人机关系结构,鼓励模型在关键节点提出反向问题,减弱迎合性表达在长期互动中的累积效应。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“要从信源检验上多方校准,设置信息真实性筛选阈值。同时,为青少年和老年人等易感人群设定专项的保护机制,例如,设置弹窗选择进入相应的更严格,对信息真实性提升阈值的算法模式。”李达军补充。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

不同人工智能素养的人群受影响的程度不一。邓天奇强调,用户要充分认识到,AI的友好输出,并不等同于可靠判断和充分结论。“在日常媒介素养教育中,应加强对‘技术顺从风险’的认知引导,帮助公众在使用AI过程中保留必要怀疑意识与反思能力,避免在长期互动中将判断权无意识地让渡给技术系统。”他说。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

制度层面相关部门正逐步出台相关办法,进一步规范对AI在人机互动服务方面的监管。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

2025年12月27日,国家互联网信息办公室发布关于《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,意见反馈已于2026年1月25日截止。该《办法》首次将具有情感互动能力的人工智能产品或服务纳入系统化监管框架,旨在引导人工智能拟人化互动服务朝着以人为本、安全可靠的方向发展。40A速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

3月18日,记者从山西省人民政府获悉,“山西煤炭工业互联网智算平台”日前在山西联通大数据中心建设完成。该平台由中国联通与山西晋云互联科技有限公司共同打造,是山西省目前唯一的垂直行业类智 根据《天体物理学杂志》的最新报道,一个国际天文学家团队利用欧洲空间局的盖亚(Gaia)太空望远镜收集的数据,创建了迄今为止最庞大的三维宇宙地图。该地图涵盖了大约130万个活跃类星体的精确空间 21世纪经济报道记者雷晨 北京报道近日,国内AI领域的明星产品——Kimi智能助手,因流量激增遭遇了短暂的服务中断。月之暗面随后发布公告,对此次服务中断事件进行了说明,并采取了一系列紧 3月24日消息,据媒体报道,huawei电话供应链公司,已开始向huaweiP70系列高端旗舰电话批量供货。同时有产业链人士透露,huawei给出的P70系列出货目标指引相对乐观。据数码博主“数码闲聊站”爆料,huaweiP 3月22日,中国互联网络信息中心(CNNIC)发布第53次《中国互联网络发展状况统计报告》(以下简称《报告》)。《报告》显示,截至2023年12月,我国网民规模达10.92亿人,较2022年12月新增网民2480万人,互联网 联合国政府间气候变化专门委员会(IPCC)最新发布的评估报告显示,全球温升预计在2021年至2040年内达到1.5℃。报告指出,自IPCC第五次评估报告发布以来,全球减缓气候变化的政策和法律不断增多,但实施 。

本文链接:AI也会拍马屁?当算法学会“讨好”人类http://www.sushuapos.com/show-2-15101-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 手机“贴一贴”可能无形中泄密 国家安全部最新披露

下一篇: 10亿红包攻占苹果应用商店榜首,腾讯元宝“奇袭”AI应用市场

热门资讯

推荐资讯

  • 日榜
  • 周榜
  • 月榜