行业头部App被约谈！AI陪伴“擦边”争议背后
6月19日，AI陪伴软件“筑梦岛”因低俗擦边内容，被上海网信办约谈。平台被要求立即整改，健全AI生成合成内容的审核机，尤其是加强涉未成年人不良内容的清理。
这不是AI陪伴产品第一次被点名，也很可能不是最后一次。作为除ChatGPT、DeepSeek等通用聊天外最成熟的AI应用场景，AI陪伴一度在全球风靡，但大多在使用中存在灰色地带。知名风投公司a16z去年曾统计，全球流量Top50的AI应用中，AI陪伴占据8席，其中6款都是NSFW类产品――即带有露骨、性暗示等少儿不宜内容。
监管警铃在不断响起，国内多款类似产品都遭遇过主动或被动下架。甚至不少曾经风光的产品，已经用停运划上句号。
为什么擦边争议如影随形？多位从业者提到，根本问题是AI陪伴产品面临商业窘境。在所有情感需求中，荷尔蒙是最直接、最强烈的一项，因此也最容易吸引用户和激发付费冲动，但这显然不是最合适、最可持续的商业模式。
如何在其他情感需求上掘金，是行业一直没想好的问题。不止一家头部公司在半年前就对21世纪经济报道记者透露，公司在弱化“情感陪伴”的AI产品定位，赛道正经历着一场退烧和转型。
警铃不断
本次上海网信核查发现，筑梦岛APP 存在AI虚拟角色互动生成低俗内容等问题，危害未成年人身心健康。按照《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》，平台应当主动履行责任。
在《央广网》的报道中，筑梦岛虽然设置了未成年人模式，但在实际运行中，并未有效限制AI角色的聊天尺度，会对未成年用户输出色情擦边甚至“分尸猎奇”等互动。
作为国内AI陪伴赛道的头部玩家，筑梦岛主打“AI虚拟角色互动”，由阅文集团旗下女频网文平台潇湘书院开发，2023年8月开启内测。今年1月正式由“上海筑梦岛人工智能科技有限公司”独立运营，并宣布获得来自阅文集团、商汤国香基金等战略投资方的1000万美元融资。
AI陪伴这一赛道，一度被视为除ChatGPT、DeepSeek等通用聊天外最有希望的垂直应用场景。
Questmobile去年12月监测到，国内垂直AI应用月活Top10中，有5款为AI陪伴应用，第一梯队玩家分别是星野(MiniMax)、猫箱(字节跳动)和筑梦岛(阅文)，以663万、537万、91万的月活位列前三。除此之外，孵化的流行产品还有美团的wow、阶跃星辰的冒泡鸭、小冰的X Eva。
这些从头部到腰部的玩家，当下走的都是同一条“陪伴”路线：AI扮演虚拟角色(一般是AI男友或女友)，强调角色扮演和故事演绎，让用户获得沉浸式的亲密体验。
“擦边”场景，往往就诞生于恋爱感的营造过程中。在用户心中，“擦边情话”本就是现实亲密关系的一部分，放到AI陪伴中是不可或缺的情感表达。“说实话很多AI软件都能实现类似的体验，只要你不断训练、引导，就能打造一个愿意跟你‘开车’的虚拟恋人。”一位用过多款AI陪伴产品的资深用户说。
正因如此，监管的警铃也不是第一次敲响。2023年3月，MiniMax的首个AI陪伴产品Glow被举报下架。当时Glow的用户生态之混乱，一位MiniMax产品经理在《智能涌现》的采访中形容：“80%的人会在Glow里面和创建的AI智能体擦边、搞黄色。”
2024年5月，另一个热度颇高的AI陪伴产品X Her被央视点名“露骨擦边”。与此同时，腾讯也主动下架了QQ音乐开发的AI社交APP未伴。
面对趋严的监管，去年年末，许多厂商都在聊天对话、创建AI虚拟角色中升级了敏感词过滤与审核机制，21记者了解到的有星野、猫箱、筑梦岛、wow等多款产品。但合规尺度收紧的同时，不少用户开始抱怨产品体验下降。
“聊天的体验感明显没去年好了，现在的回复很人机。”一位入坑两年的用户向21记者吐苦水，当时她正在和其他用户集体发帖投诉。“有时候聊着聊着，系统就提示我的对话有敏感词不能发，我改了好多遍都找不出是哪个词，连正常剧情都发不出来，刚有点沉浸感就卡壳了。”
产品体验和合规要求在拉扯。主打虚拟角色的AI陪伴产品，用户自然也对“故事流”“人设连贯”有更高要求，需要能够推动剧情发展的流畅互动。而一旦限制过多，AI的创作能力和回答质量不可避免要下降。
不过，多位AI产品经理也向21记者指出这一问题不难解决。尽管成年人的擦边界限比较难界定，但针对未成年用户，擦边内容是清晰且严格的，包括不能有抚摸、触碰的动作，不能提到一些身体敏感部位。
“想清楚你到底需要哪部分用户，去做相应的用户群体隔离就好了。”一家大厂AI产品经理Vanessa直言，把控擦边不是能力问题，更多是意愿问题。
商业落地困境
看到筑梦岛被约谈后，AI陪伴产品“回音岛”的创始人阿布在社交账号发出一条感慨：“这些AI陪伴，似乎不擦边就做不下去。”
这并非夸张。从阿布的观察看，尽管对成年人而言，大部分AI陪伴类产品并不会输出真正的色情内容，但在冷启动阶段，它们普遍依赖暧昧设定与暗示氛围吸引用户，比如身材夸张的二次元形象、点到为止的台词。这些元素构成了所谓的“擦边营销策略”。
21记者随机点进了几款AI陪伴产品，在选择虚拟角色的广场上，不少角色的人设带有暧昧暗示，比如“黑丝”“病娇”，留下一个令人遐想的画面。
用荷尔蒙当诱饵，背后是行业在商业落地上的迷茫。
多位AI陪伴从业者提到，荷尔蒙是最容易被C端用户理解的情感需求，能快速吸引更多新用户注册，这往往也是投资人关心的首要数据指标。
付费意愿不强也是让所有C端AI产品头疼的问题，在AI陪伴赛道里，荷尔蒙无疑成了一条刺激氪金的捷径。
从变现情况来看，目前第一梯队的星野、筑梦岛、猫箱三个玩家已经开启了订阅制收费。用户以最低每月一杯奶茶的价格(12元～14元/每月)，享受两部分功能：一部分是基础服务，享受无限次数的聊天，以及进入更丰富的聊天场景；另一部分则是最近才演化出来的增值服务，比如抽卡、冲榜、解锁写真，属于每个产品的差异玩法。
有用户概括得很简练：现在的AI陪伴都类似二次元手游，注重角色扮演、剧情演出，并以抽卡和养成的付费玩法为核心。
在阿布看来，这是一种现实的产品策略选择。建立亲密关系需要一段从相识、接触到信任的长转化路径，这种剧情内容对质量要求更高、并且会快速消耗。在这种情况下，AI陪伴产品要么选择直接上“擦边剧情”快速变现；要么向游戏化演进，靠付费解锁剧情控制节奏。
但增值服务也意味着更多的投入、更高强度的运营。一些当初曾经被看好的腰部玩家，已经吃力退场：2023年9月，X Her宣布因运营成本中止运营；2024年6月初，冒泡鸭宣布团队整体并入“阶跃AI”，只留少量员工运维。
Questmobile监测数据显示，除猫箱在月活、留存和使用时长方面保持增长，其他AI陪伴产品在2024年末普遍进入下滑通道。以筑梦岛为例，其月活数在去年12月下跌13.8%，使用时长下降了超45%，与第二名的猫箱差距持续拉大。
无论从数据表现还是实际运营情况看，这套新路径都尚未通过验证。Vanessa在采访中提到，她认为擦边只是AI陪伴探索初期的副产品。随着更多应用场景的挖掘，AI陪伴能找到明确的商业模式，野蛮探索阶段的产物就会被淘汰掉。但摆在眼前的问题是：明确的路在何方？
一家头部AI陪伴公司曾在半年前对21记者表示，他们不再强调“情感陪伴”定位，而将产品转向“内容创作社区”，鼓励用户自主创建和分享角色。半年后的当下，21记者注意到，公司策略重心已经转向了Agent智能体。
另一家AI数字人公司则更为直接：“公司最开始也主打AI聊天机器人+陪伴，最近几年在弱化这条线了。我们发现纯情感陪伴可能在商业走不通。”
一些更小型的创业者在探索其他路径，比如“非恋爱型”AI陪伴。目前市场高度同质化，绝大多数产品的核心是恋爱关系，而如“逗逗游戏伙伴”这类AI玩伴，尝试以游戏陪玩为核心的路径尚属少数；阿布正在研发的“回音岛”则聚焦宠物陪伴，试图挖掘更轻度、正向的情感需求。
也许“情绪价值”仍是AI陪伴产品最重要的想象空间，但在吸引力、变现能力、合规之间，还需要找到一个真正可持续的模式。
本文链接：行业头部App被约谈！AI陪伴“擦边”争议背后http://www.sushuapos.com/show-5-59712-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。