近日，安徽一名女子使用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片，发送给在外聚餐的丈夫，本想测试其反应，不料丈夫信以为真，当即报警求助。
民警现场核实情况，确认是虚假信息，对该女子的行为进行了提醒：“AI技术生成的内容虽逼真，但以此制造恐慌并引发警方出警，属于浪费公共资源的行为。”
类似由AI生成图片引发的“乌龙事件”并非个例：广东广州某小区业主的孩子用AI生成图片后发给父母称“流浪汉试图闯进家门”，图片被转到业主群后引起楼栋业主恐慌;近日，多名电商平台卖家曝光，有消费者利用AI工具生成商品变质、损坏的图片，以此申请“仅退款”;山东威海网民张某为博取关注，使用AI工具编造“在监狱直播带货”图片的谣言信息并发布，引发大量网民关注讨论，张某因扰乱公共秩序已被公安机关处以行政处罚。
今年9月1日，《人工智能生成合成内容标识办法》正式实施，要求人工智能生成合成内容应当通过显著标识、数字水印等方式进行显式与隐式标注，以保障内容的可识别性。这标志着，AI生成内容全面进入“持证上岗”时代。
然而，《法治日报》记者近日对多个主流平台展开的调查显示，新规落地效果参差不齐，仍有大量未标识内容在各大平台持续传播。这些愈发逼真的AI生成图无标识“裸奔”，使“有图有真相”的传统认知面临挑战，公众难辨真伪。
AI图片“随心定制”
记者在调查中发现，如今网络上存在多款AI制图软件，一些社交平台甚至自带AI生成图功能。只需上传相关人物、背景素材，输入一句指令，短短几秒便能生成一张几可乱真的AI图片，还可随意按照个人喜好对图片的细节和内容进行调整。
受访专家指出，如今AI生成图片或视频已很难从面部表情、肢体结构等方面识别真伪，如果不对内容作显著标识，很容易让人信以为真。
为调查平台与创作者对AI生成内容的实际标注情况，记者在一周时间内于6个主流短视频平台及社交平台的推荐页面，分别随机浏览并记录了100条AI生成或高度疑似AI生成的视频内容，并就其标注情况展开记录。
经统计，在随机浏览的视频中，约有60%的视频附有作者主动标注的AI创作声明;约30%虽未获作者标注，但被平台在显著位置标识为“内容可能为AI生成”。然而，在各大平台中，仍有部分高度疑似AI生成的视频，既无作者标识，也无平台提示。
以某短视频平台一个拥有30多万名粉丝的账号为例，其发布的内容多以萌宠、儿童和农村生活为主题。其置顶的3条视频，内容均呈现明显的AI生成痕迹：小狗轻易撞破机场玻璃;行李箱的颜色瞬间变化;数十名长相雷同、头身比例严重失调的婴儿一边走一边喊“奶奶”。然而，其中仅1条在视频右下角有AI创作标识。
在该账号的首页介绍中，明确附有其私人社交账号，并注明“可学习教学”。记者添加该账号私聊咨询后，对方承认所有内容均为AI生成，并表示“120元即可获取提示词以及全套教程，包教包会”“制作一条AI视频仅需十几分钟”。
靠AI生成内容引流卖货
此外，AI生成内容也被用于引流与商业推广。
“在××(地名)，女儿已经过上了普通人里最好的生活”。近日，在某社交平台中，记者频繁刷到以此为标题的帖文。不同的帖文中，这个地名被换成北京、长沙、珠海等不同城市。
在这些帖文中，孩子父母的“人设”高度一致：爸爸做生意、妈妈在国企工作，父母学历均为985本/硕。虽然是不同账号发布的内容，但文案几乎完全雷同，均为教育经验分享或情感激励类内容，极易引发家长群体的共鸣。
这类帖文的配图普遍采用父母和孩子在校门前或景点前的合照。尽管账号的IP地址显示在不同地区，且背景不断变化，但画面中父母和孩子的形象高度一致。
同一张脸、同一个家庭，却有多段“精彩人生”?记者下载相关帖文照片后发送给多个AI软件询问“是否为真实图片”，得出的结论是“背景元素存在逻辑冲突、人物细节有AI特征，高度疑似AI生成图”。
然而，平台并未对这些图片添加提示AI生成的相关内容，图片本身也未包含任何水印标注。
记者进一步观察发现，这些账号用AI生成图塑造“成功家庭”形象的目的实为兜售课程。在某账号发布的帖文中，其表示“成功家庭”的核心秘诀是孩子的教育，进而围绕塑造孩子数学思维，展开长篇论述。评论区内不少网友留言“求推数学思维课”。记者咨询后，对方发来某数学课程商家账号，该账号经营的店铺内售卖标价为5450元的新数理课程。
值得注意的是，部分账号的主页直接关联某些线上教育机构的官方账号，并在后缀标注“产品体验官”“规划师”等身份标识。这类绑定关系显示出其内容与商业推广间的明确关联，客观上构成软性广告，但大多数家长往往难以辨别其营销性质。
除此之外，AI生成技术也被广泛应用于直播带货与商品展示。
某社交平台部分穿搭博主账号分享的内容中，AI生成特征较为明显：背景杂志上的人物和标题多为乱码、电梯场景中楼层按钮明显失真，并非真人实穿。然而，平台和博主均无任何关于AI生成的标注，博主还会通过评论区与用户积极互动：当粉丝询问服装链接时，博主会直接引导至商品橱窗;对于涉及身高、体重等个人特征的问题，博主也未提示任何AI生成属性。
在某购物平台上，多家销售睡莲的店铺均使用相同的商品宣传图，图片呈现明显的AI制作特征：背景失真、花朵呈半透明状。相关商品的买家评论最多达7万余条，而其评论区却几乎未见成功开花的反馈。在偶有的一些开花图片中，花朵数量和形态也与宣传图相差甚远。而上述商品宣传图中，均未出现AI生成图片的相应提示。
去标识就能“骗”过平台
为验证平台对AI内容的识别能力，记者购买了一款宣称“可去除品牌水印”的某AI软件会员，使用该软件可生成视频并进行去水印处理。随后，记者将有水印与无水印版本同时发布于4个主流社交平台，且均未主动标注AI创作。
调查结果显示，上述平台对有水印的版本均作出“含AI生成内容”的标识，对于无水印内容，仅有一个平台在后期补充了AI内容标识，并在后台私信发来风险提示外，其余平台均无提示。
为验证AI生成内容标识系统的实际有效性，记者对当前市面6款使用人数较多的生图软件展开调查。结果显示，虽然在内容生成时全部默认标注水印，但有些软件只要充值成为“高级会员”，即可解锁“去水印”功能。
此外，市面上存在多家提供低价去水印服务的商家。其中一款售价6元、宣传“终身包更新”的软件包，明确提示可去除图片与视频中的各类水印，并且不限使用时间和次数。
记者购买了该安装包进行实测，在按照要求完成软件安装后，发现仅需对水印位置进行简单涂抹，即可完整去除AI标识，且不破坏画面整体效果。随后，记者将去水印后的图片上传至4个社交平台进行验证，结果显示，这些原本带有AI水印的内容，在去除水印后均未触发任何平台的AI生成提示机制。
受访专家认为，平台在AI内容标识的落地执行方面还有很大的提升空间。不少网友把使用AI生成图视为娱乐或恶作剧，却忽视了背后可能存在扰乱社会治安、引发恐慌的风险。因此，在完善技术监管机制的同时，也要加强公众网络素养教育，提升公众对AI生成内容的辨识能力和社会责任意识。(记者 赵丽 实习生 王艺霏)
中新经纬1月12日电 “上海市消保委”微信号12日发布2023年投诉情况通报。其中提到“小程序”“短视频”夸大宣传问题突出等7方面问题。 据通报，2023年上海市消保委共处理消费者投诉422874件，同比上升36.68%，推进 直播电商人才：是“野蛮生长”还是“学院派”培养 在2024年寒假来临之前，北京电子科技职业学院电子商务(京东定向培养)专业的学生，迎来了一次直播实操培训课。 整个教学安排持续了近两周。前4天，由合作企业的老 平台数据显示春节中国游客足迹遍布全球1700多个城市 中新社北京2月17日电 (记者 刘亮)中国在线旅游平台去哪儿17日发布的数据显示，今年春节假期中国游客足迹遍布全球115个国家，覆盖全球1754个城市。 据去哪儿 【光明论坛】近日，中共中央印发《党史学习教育工作条例》（以下简称《条例》），对于推动党史学习教育常态化长效化，推动全党全社会学好党史、用好党史，从党的历史中汲取智慧和力量，弘扬伟大建党精神，传承红 中新经纬2月23日电(罗琨 实习生 徐畅)“中国确实是面向未来的全球技术中心，我很高兴又一次来到中国，在这里进行深入研究。”近日，科勒集团全球首席品牌官赛米・巴尔(Samie Barr)在广州接受中新经纬专访时表示。赛米 湖南铁路科技职业技术学院党委书记康月林接受纪律审查和监察调查 中新网2月22日电 据中央纪委国家监委网站，据湖南省纪委监委消息：湖南铁路科技职业技术学院党委书记康月林涉嫌严重违纪违法，目前正接受湖南省纪委 。本文链接：“去水印”即可绕过监管？AI时代的真伪博弈http://www.sushuapos.com/show-5-78698-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。