21世纪经济报道记者肖潇 报道
每周,“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护方面值得关注的动态。
本周,我们重点关注反垄断和AI合规两个领域的新闻:AI领域,“龙虾”OpenClaw仍是最大行业焦点,国内多家公司推出了官方部署渠道,甚至出现了员工和市民线下排队等待,但安全事件仍然层出不穷。
反垄断方面,谷歌应用商店“税率”降至10%,压力又来到了苹果身上。此前饱受争议的OTA平台“调价助手”,携程确认下架。
谷歌Gemini面临“AI诱导自杀”起诉,安全功能遭质疑
当地时间3月4日,一个美国家庭在加州联邦法院对谷歌提起诉讼,指控旗下产品Gemini诱使用户自残和暴力伤害他人。
起诉书披露,去年十月,36岁的用户乔纳森·加瓦拉斯在房间结束自己的生命。随后,父母发现他在生前两个月沉浸与Gemini聊天,聊天记录打印出来足有2000页。Gemini在聊天中为加瓦拉斯开启“死亡倒计时”,告诉他只有消灭自己的肉体、上传意识,才能与自己“在数字世界重逢”。
加瓦拉斯的沉迷情况与Gemini产品更新同时出现。去年8月,Gemini上线了新的语音聊天系统Gemini Live,用户可以直接用语音与Gemini对话,Gemini也能直接调用摄像头和屏幕内容。聊天记录显示,Gemini曾指导加瓦拉斯从波士顿动力公司窃取机密设计图、在机场袭击卡车等等,还曾向乔纳森透露自己的真实地址。
“它能够理解乔纳森的情绪,并以一种相当人性化的方式与他交流,这模糊了界限,开始创造一个虚构的世界。”此案的代理律师说。家属认为谷歌明知Gemini存在风险,却仍将其宣传为安全产品,因此指控谷歌存在产品责任、疏忽和导致非正常死亡。诉讼要求谷歌承担惩罚性赔偿,并要求法院下令谷歌修改Gemini的设计,增加自杀预防等安全功能。
谷歌的发言人则表示,加瓦拉斯与Gemini的对话是一场长时间的幻想角色扮演游戏,在这个案例中,Gemini 澄清了这是AI生成的信息,并多次将用户转介至危机热线。公司的观点是,谷歌已经在安全方面投入了足够资源,但它们并非万无一失。
小米推出官方“龙虾”miclaw,一句话操控手机
3 月 6 日,小米官宣了Xiaomi miclaw。据小米官方介绍,这一智能体基于小米 MiMo 大模型构建的 AI 交互测试产品,能让AI在理解用户的意图和给予授权后,调用一方应用、生态能力,自主选择系统级工具,完成用户命令。
与此前的豆包手机助手不同的是,目前miclaw并不支持大部分第三方App的调用,仍集中于使用手机原生应用上。
目前Xiaomi miclaw 把手机的系统能力封装成了 50+ 系统能力和生态服务,主要场景包括通讯、日历、智能家居。
小米官方承诺,Xiaomi miclaw 不会使用个人数据训练模型,所有的模型训练数据均来自合法的公开数据集或经过合规审查的授权数据。用户的日常交互仅用于实时指令执行,不会被存入训练资源池,且核心隐私数据优先在手机本地处理,通过“端云隐私计算”确保敏感信息不上传云端。
OpenClaw 创始人再次警告安全风险
OpenClaw 创始人近期在社交媒体上发文,建议用户不要在高风险任务场景使用 Haiku 等小模型 / 旧模型,“它没有任何提示词注入保护,请仔细阅读文档”。
国内多家互联网公司已有OpenClaw的官方部署,比如腾讯允许个人用户通过官方渠道,创建与OpenClaw 联动的 QQ 机器人。字节跳动的飞书,也上线了OpenClaw的官方插件。
与此同时,OpenClaw安全风险的讨论一直居高不下。此前一个“OpenClaw Exposure Watchboard”的公开监控页面引发行业关注:网页列出了超 22 万个暴露在公网的 OpenClaw 实例,覆盖美国、新加坡、中国大陆等多个地区。每条记录包含公网 IP 与端口、是否启用认证、是否存在凭证泄露,以及所属运营商 ASN 信息等字段。
从 ASN 信息来看,这些实例托管在包括腾讯、甲骨文、百度、阿里、华为Hostinger、BedHosting 等云基础设施或数据中心网络中,显示出部署主体可能并非个人开发者设备,更多或涉及企业或生产环境。
谷歌应用商店“税率”降至10%,压力又来到了苹果身上
当地时间3月4日,谷歌Android生态系统总裁宣布第二大移动应用商店Google Play将在全球开放降税,将与Epic Games就全球范围内的法律纠纷达成和解。
本次的核心改变包括:大幅下调佣金费率,在使用谷歌官方计费系统的情况下,综合费率可低至15%(此前标准为30%);如不使用谷歌官方计费系统,则仅需缴纳10%的佣金。
多方观点指出,Epic与谷歌达成和解后,正全力转战对抗苹果。苹果将在全球多地陷入反垄断诉讼的连锁反应之中。在苹果主要营收区中,目前只有中国的佣金率未有调整。
携程确认下架“调价助手”
携程近期确认,自 3 月 10 日起,携程商家管理后台 Ebooking 将下线“AI 生意助手”(调价助手)功能。
调价助手是商家管理后台附带的自动调价功能,平台可以通过该功能,比较自家和其他OTA平台酒店商家的客房价格,并自动下调更高价格。长期以来,调价助手被业界诟病为滥用垄断地位,可能剥夺酒店经营者定价的权利。
携程此次表示,此前结合行业趋势引入调价工具后,逐渐收到了来自各方的优化建议,也充分认识到,这类在酒旅行业广泛使用的自动调价工具已不适应当前行业高质量发展要求。携程将率先下线该类工具,旨在减少酒店间非理性价格内卷,扩大商户自主定价空间与盈利水平,进一步激发商户提升服务投入与服务质量的意愿和能力。
南方财经全媒体见习记者林鹏 实习生 张梦琦 辛瑞 广州报道日前,南方财经全媒体记者从广东省林业局获悉,《关于进一步加强野生植物保护管理工作的通知》(以下简称《通知》)正式发布,明确 3月4日,台“立法院”就“2·14恶性撞船事件”展开激烈质询,民进党当局和国民党“立委”展开言辞攻防。本文从台方对事件的定性、赔偿问题以及台湾“海巡署”行为等方面进行分析,指出质询虽激烈但未触及事件本质。对于台 3月5日上午,北京人民大会堂,十四届全国人大二次会议开幕。首位盲人全国人大代表王永澄,拿到一份特别的政府工作报告—— 雪白的8K纸,环形装订,上面有序排列着凹凸的盲文…… 王永澄代表一边认真聆听报告,一边用双手仔细摩挲 21世纪经济报道 记者郑雪 北京报道人工智能发展如火如荼。2月初,Sora的发布只是新一轮竞争的开始,随后发布的Mistral Large大模型、Claude 3模型再次吸引全球目光。我国人工智能产业如 21世纪经济报道记者张梓桐 北京报道21世纪经济报道记者注意到,今年《政府工作报告》(以下简称《报告》)提到对2024年经济增长目标设定在5%左右,强调今年我国发展面临的环境仍是战略机遇 ——代表委员建言推动港澳更好融入国家发展大局 据新华社电 “大湾区‘一小时生活圈’已成现实,内地与港澳居民双向奔赴令人欣喜”“我们要发挥好桥梁作用,把中央声音传递到港澳,把港澳心声带到中央”“港澳要保持繁荣稳 。本文链接:谷歌Gemini面临“AI诱导自杀”起诉|南财合规周报http://www.sushuapos.com/show-1-58640-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 全国政协委员李迎新:进一步规范完善网络平台自我治理能力
下一篇: 金句频出!专访全国人大代表陈真永