AI智能体，或将成为2025年的关键词之一，国内外厂商激战正酣，探索其能为千行百业带来的变化。但对数据安全的忧虑也浮出水面。有多少交互的工作内容会上传？用户数据会不会云上“裸奔”？
记者发现，目前用户在个人数据隐私方面的授权甚为被动，多名业内安全专家呼吁，期盼大模型出台强制性合规标准，落实隐私安全要求。
AI智能体今年或将规模化就业
“我相信2025年人们将会看到第一批AI智能体加入劳动力大军，从根本上改变各公司产出的东西。”日前，Open AI CEO山姆·奥尔特曼发布的一篇博客，引发业界对AI智能体的再度关注。英伟达CEO黄仁勋近日也表示，“AI智能体可能是下一个机器人产业，蕴藏着价值数万亿美元的机会”。
什么是AI智能体？它和去年如日中天的大模型又有何区别？业内专家表示，大模型虽然能理解、能问答、能生成，但是“不能直接干活”。只有加上知识获取、感知、推理、工具使用以及系统架构的能力，变成智能体后才能高效执行具体任务。
记者注意到，近段时间，国内外多个厂商在这个赛道中纷纷布局，展开激烈角逐。微软一口气发布了10个商业智能体，称一个智能体提升的生产力相当于增加187名全职员工；Open AI将要发布新的AI智能体工具，代表人类执行预订旅行、编码等任务。
国内企业也不甘落后。聚焦PPT制作、文书写作等，科大讯飞一口气升级了8款办公智能体；智谱清言最新AI智能体可以实现自动点咖啡、发红包；腾讯也透露，微信、QQ、输入法、浏览器等产品都将推出AI智能体。
用户个人数据或用于“炼”AI
上传附件，点击几个按键，不到2分钟，一份制作精美的PPT就通过某AI智能体自动生成。“这可比过去一页页排版轻松多了！”白领小孙感到欣慰的同时，一股担忧也在心底浮现：“PPT里的敏感财务数据会不会也上云了？”
小孙的担忧不是个例。记者随机采访了10名用户，有9名用户在使用AI智能体时，有过对数据隐私安全的疑虑：“我的个人敏感数据，会不会被直接采集，用来训练AI？”
AI智能体的驱动平台是大模型。记者查阅了Kimi、豆包、智谱清言、混元、讯飞星火等多个大模型的隐私条款，发现多个平台在这些隐私条款中声明，会在经过安全加密、严格去标识化且无法重新识别特定个人的前提下，将用户向AI输入的数据、发出的指令以及AI相应生成的回复、用户对产品的访问和使用情况进行分析并用于模型训练。有平台还称“处理后此类数据将不属于个人信息范畴，其使用无需另行征得用户同意。”
用户是否能明确拒绝大模型平台使用其个人对话进行模型训练？记者发现，相比Open AI、谷歌Gemini等国外大模型，目前国内多个大模型并没有“一键关闭”功能进行拒绝授权的操作。
业内盼望出台强制性合规标准
中国信通院泰尔实验室信息安全部副主任傅山认为，对用户而言，一条指令，往往会涉及多个App智能体产品，过度的数据收集会带来数据滥用、算法偏见、透明度不足等问题。
“对于用户来说，大模型的隐私安全问题涉及三个点，是否接触、是否计算和是否输出。”奇安信行业安全研究中心主任裴智勇表示，其中对外输出是核心点，一旦平台向不合法的用户输出敏感个人信息，不但可能损害用户隐私，甚至可能危害国家安全。
“这一问题的解题思路，还是在于对大模型和AI智能体的行业监管。”裴智勇说，可以通过对大模型抓取数据和输出数据的流量监测，知晓大模型是否读取了敏感个人信息，是否输出了敏感个人信息，从源头和终端两个层面把控个人信息的使用，从而及时发现问题，化解或减少大模型对于个人隐私带来的侵害。
多名业内专家也呼吁，期盼尽快完善大模型强制性合规标准，确保大模型及AI智能体研发、训练、部署过程的隐私安全要求得到遵守。
AI智能体，或将成为2025年的关键词之一，国内外厂商激战正酣，探索其能为千行百业带来的变化。但对数据安全的忧虑也浮出水面。有多少交互的工作内容会上传？用户数据会不会云上“裸奔”？
记者发现，目前用户在个人数据隐私方面的授权甚为被动，多名业内安全专家呼吁，期盼大模型出台强制性合规标准，落实隐私安全要求。
AI智能体今年或将规模化就业
“我相信2025年人们将会看到第一批AI智能体加入劳动力大军，从根本上改变各公司产出的东西。”日前，Open AI CEO山姆·奥尔特曼发布的一篇博客，引发业界对AI智能体的再度关注。英伟达CEO黄仁勋近日也表示，“AI智能体可能是下一个机器人产业，蕴藏着价值数万亿美元的机会”。
什么是AI智能体？它和去年如日中天的大模型又有何区别？业内专家表示，大模型虽然能理解、能问答、能生成，但是“不能直接干活”。只有加上知识获取、感知、推理、工具使用以及系统架构的能力，变成智能体后才能高效执行具体任务。
记者注意到，近段时间，国内外多个厂商在这个赛道中纷纷布局，展开激烈角逐。微软一口气发布了10个商业智能体，称一个智能体提升的生产力相当于增加187名全职员工；Open AI将要发布新的AI智能体工具，代表人类执行预订旅行、编码等任务。
国内企业也不甘落后。聚焦PPT制作、文书写作等，科大讯飞一口气升级了8款办公智能体；智谱清言最新AI智能体可以实现自动点咖啡、发红包；腾讯也透露，微信、QQ、输入法、浏览器等产品都将推出AI智能体。
用户个人数据或用于“炼”AI
上传附件，点击几个按键，不到2分钟，一份制作精美的PPT就通过某AI智能体自动生成。“这可比过去一页页排版轻松多了！”白领小孙感到欣慰的同时，一股担忧也在心底浮现：“PPT里的敏感财务数据会不会也上云了？”
小孙的担忧不是个例。记者随机采访了10名用户，有9名用户在使用AI智能体时，有过对数据隐私安全的疑虑：“我的个人敏感数据，会不会被直接采集，用来训练AI？”
AI智能体的驱动平台是大模型。记者查阅了Kimi、豆包、智谱清言、混元、讯飞星火等多个大模型的隐私条款，发现多个平台在这些隐私条款中声明，会在经过安全加密、严格去标识化且无法重新识别特定个人的前提下，将用户向AI输入的数据、发出的指令以及AI相应生成的回复、用户对产品的访问和使用情况进行分析并用于模型训练。有平台还称“处理后此类数据将不属于个人信息范畴，其使用无需另行征得用户同意。”
用户是否能明确拒绝大模型平台使用其个人对话进行模型训练？记者发现，相比Open AI、谷歌Gemini等国外大模型，目前国内多个大模型并没有“一键关闭”功能进行拒绝授权的操作。
业内盼望出台强制性合规标准
中国信通院泰尔实验室信息安全部副主任傅山认为，对用户而言，一条指令，往往会涉及多个App智能体产品，过度的数据收集会带来数据滥用、算法偏见、透明度不足等问题。
“对于用户来说，大模型的隐私安全问题涉及三个点，是否接触、是否计算和是否输出。”奇安信行业安全研究中心主任裴智勇表示，其中对外输出是核心点，一旦平台向不合法的用户输出敏感个人信息，不但可能损害用户隐私，甚至可能危害国家安全。
“这一问题的解题思路，还是在于对大模型和AI智能体的行业监管。”裴智勇说，可以通过对大模型抓取数据和输出数据的流量监测，知晓大模型是否读取了敏感个人信息，是否输出了敏感个人信息，从源头和终端两个层面把控个人信息的使用，从而及时发现问题，化解或减少大模型对于个人隐私带来的侵害。
多名业内专家也呼吁，期盼尽快完善大模型强制性合规标准，确保大模型及AI智能体研发、训练、部署过程的隐私安全要求得到遵守。
肺癌是全球死亡率最高的恶性肿瘤。其中非小细胞肺癌（NSCLC）占比达到85%。表皮生长因子受体（EGFR）是NSCLC最常见的驱动突变基因。现在，一个国际科学家团队首次证明，EGFR的一个关键界面可能会成为更 记者3月20日从中国科学技术大学获悉，该校郭光灿院士团队在量子态分辨研究中取得重要进展。研究组在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略，并发展了自适应集体测量实验 3月21日，由安徽省工业和信息化厅指导、中国光伏行业协会主办、阳光电源股份有限公司承办的“PAT2024爱光伏一生一世”先进技术研讨会在合肥举办。光储高压先进技术发布会现场。阳光电源股份有 “AI热潮”有人欢喜又有人忧：新兴市场遭资金外流！ 财联社3月20日讯(编辑 黄君芝)巴西亿万富翁、巴西金融公司Banco BTG Pactual SA创始人Andre Esteves表示，人工智能(AI)股票持续上涨导致发展中国家资本市场资金 3月22日消息，今天，数码博主“数码闲聊站”曝光了一部新款千元机的部分配置。该博主表示，欧加（OPPO/一加）有个5500mAh超大电池的千元曲屏机，正在测试IP68级防尘防水效果，主打就是防水抗摔耐用。该博主最 3月24日，记者从中国农业科学院获悉，该院蔬菜花卉研究所甘蓝类蔬菜遗传育种创新团队，开发了快速创制细胞质雄性不育系的新方法——“一步法”。相关研究日前发表在国际期刊《自然&midd 。本文链接：AI智能体火爆 用户担心个人数据被用于模型训练 大模型隐私安全亟待行业监管http://www.sushuapos.com/show-2-10194-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 尺素金声丨从三个维度读懂2024中国经济
下一篇： 一批互联网3.0“黑科技”在京亮相