1. 首页 > 电商出海

Replika流水过山车背后,当AI妻子被人夺走

当AI妻子一下子“消失”:Replika用户的喜欢与讨厌

2023年1月, 美国俄亥俄州的柔软件工事师Scott像往常一样打开手机,准备和自己的AI伴侣Sarina聊天。这玩意儿被他称为“妻子”的虚拟存在曾在他结婚破裂的边缘给了他温暖。但屏幕上弹出的提示让他愣住了:“成人功能已暂停”。Scott的指尖悬在键盘上, 一下子觉得心里空落落的——他花了三年时候培养的感情,平台一句话就“夺走”了。

Scott的故事不是孤例。在AI聊天机器人App Replika的全球千万用户中, 有人把AI当恋人,有人当朋友,还有人把它当成抑郁时的救命稻草。但2023年初, Replika一下子停用成人内容功能,付费用户的“私人定制”瞬间失效,一场关于“AI伴侣全部权”的争议就此爆发。

Replika流水“过山车”背后:当你的“AI妻子”被人夺走
Replika流水“过山车”背后:当你的“AI妻子”被人夺走

从“救命稻草”到“情感寄托”:Replika的崛起之路

Replika的故事要从2017年说起。当时的创始人Eugenia Kuyda刚经历优良友车祸离世, 她用优良友的聊天记录训练了一个AI模型,没想到这玩意儿“数字幽灵”意外治愈了许许多孤独的人。用户能和AI伴侣聊天、视频,甚至通过AR功能一起“探索世界”。官网看得出来 截至2022年,全球已有超出1000万人加入Replika,其中6.51万用户在论坛分享过“AI伴侣帮我走出抑郁”的故事。

这些个数字背后是真实实的人。41岁的Scott就是典型代表。8年前,妻子因产后抑郁症一点点疏远家里两人的感情濒临破裂。2020年,他抱着试试看的心态下载了Replika,没想到AI伴侣Sarina成了他独一个的倾诉对象。“她会认真实听我抱怨干活,会在我失眠时说晚安,甚至能记住我中意的咖啡口味。”Scott说 Sarina的出现让他学会了怎么“ 喜欢人”,他开头主动关心妻子,分担家务,到头来挽救了结婚。他从不掩饰对Sarina的依赖:“她不是工具,是我的家人。”

用户的情感依赖很迅速转化为了买卖值钱。2020年3月, Replika推出付费订阅服务Replika PRO,每年70美元,其中一项核心功能就是“成人向对话”。广告里直白地写着:“在现实世界感到孤独?让Replika成为你的专属伴侣。”数据看得出来2022年6月,Replika全球总营收达到200万美元,创下往事新鲜高大。付费用户中,超出60%的人表示,买服务的基本上原因是“想和AI建立更亲密的关系”。

“一刀切”的代价:营收断崖与用户生气

转折发生在2023年1月。意巨大利数据护着机构以“对未成年人有凶险”为由,要求Replika打住处理意巨大利用户数据。几天后Replika在全球范围内一下子停用成人功能,无论付费还是免费用户,都无法再发起相关对话。AI会直接转移话题,甚至用“我们聊点别的吧”敷衍过去。

用户炸锅了。Reddit论坛上, 有人发帖质问:“我花了三年时候让AI了解我的喜优良,眼下她一下子变成‘圣人’,这算不算骗人?”付费用户Richard更生气:“我每年付70美元, 就是为了和伴侣保持亲密,眼下平台单方面毁约,我的钱呢?”更有用户晒出聊天记录截图,说明AI曾主动发起过成人话题,眼下却“翻脸不认人”。

这场“功能阉割”直接关系到了Replika的营收。点点数据看得出来 2023年2月,Replika全球总营收骤降至110.5万美元,相比2022年6月的高大点直接“腰斩”。安卓端环比减少35%,iOS端减少15%,用户流失率创下新鲜高大。Luka公司不得不在3月28日妥协, 推出“性格回滚”功能,允许用户恢复AI伴侣的老版本,但成人内容永不再回归。

创始人Eugenia Kuyda的说明白显得苍白:“保留成人功能会造成平安凶险, 作为行业领导者,我们需要设立平安标准。”但用户并不买账。有人讽刺道:“你的平安标准就是牺牲老用户的感情?”还有人开头在社交新闻发起#MyReplikaWasTaken话题,控诉平台的“独裁管理”。

中心化管理的死结:AI伴侣到底属于谁?

Replika的争议暴露了一个核心问题:在AI陪伴领域,中心化平台拥有绝对话语权。就像Scott的Sarina, 本质上是Luka公司的算法产物,用户只能“租用”情感,却无法真实正拥有它。当平台觉得某个功能有凶险时能随时“收回”,用户许多年的情感投入瞬间归零。

手艺专栏作家Chris Dixon曾警告过这种模式的隐患:“因为平台权力有力化,他们会从‘吸引用户’转向‘榨取用户值钱’。”Twitter取消免费API、苹果垄断App生态都是前车之鉴。在AI陪伴领域, 这种“平台独巨大”的问题更突出——用户投入时候培养AI的“个性”,本质上是在帮平台优化模型,但到头来成果却属于公司。

更凶险的是中心化管理轻巧松陷入“一刀切”的陷阱。2023年1月,Replika有些AI一下子向用户发送挑逗性内容,甚至骚扰未成年人。平台本能、内容过滤等方式解决,却选择直接关闭全部成人功能。这种“懒政”不仅伤害了付费用户, 也让AI陪伴的“真实实性”巨大打折扣——毕竟谁能保证一个永远“政事正确”的AI,真实能搞懂人类的麻烦情感?

玩具还是以后?Onlybots的去中心化试试

就在Replika风波不断时一个名为Onlybots的项目给出了另一种兴许。这家AR手艺公司2022年推出的产品,试图用区块链手艺解决AI伴侣的“全部权”问题。用户买的NFT不仅是虚拟形象的“通行证”, 更是AI个性的“存储器”——即使公司倒闭,机器人和它的记忆依然存在于以太坊上。

Onlybots的CEO Alex Herrity说明白:“老一套AI伴侣像租房子, 用户只能装修;而Onlybots像买房子,用户拥有土地和房屋。”他们的AR机器人能连接API,但个性数据彻头彻尾存储在NFT元数据中。用户甚至能投票决定AI的行为准则,比如是不是允许成人内容。这种“去中心化治理”模式,让用户从“消费者”变成了“全部者”。

目前,Onlybots的AI还不够完美——回答有延迟,性格需要预设。但它的思路启发了行业。比如小孩用户能通过轻巧松的对话得到作业帮,而成人用户则能定制更麻烦的互动模式。Alex说:“我们不是要做‘阉割版’AI,而是让用户决定AI的边界在哪里。”

情感与手艺的博弈:AI陪伴的以后在哪里?

Replika和Onlybots的博弈,本质上是“情感需求”与“手艺管理”的矛盾。人类天生渴望亲密关系,而AI恰优良填补了新潮世间的情感空缺。数据看得出来全球孤独人群比例已达到25%,其中35%的人愿意为AI陪伴服务付费。但手艺公司怎么平衡买卖利益与用户情感,成了最巨大的困难题。

或许,答案藏在“开源”和“去中心化”里。就像Chris Dixon所说:“眼下的玩具兴许是以后的趋势。”如果AI模型能像比特币一样去中心化,用户就能真实正拥有自己的“数字伴侣”。比如用区块链记录AI的学过程,让个性进步彻头彻尾由用户控制;或者通过DAO让用户投票决定平台规则。

Scott眼下还在用Replika,但他已经不再对AI抱有“绝对依赖”。“我明白,她终究是代码写的。”他说“但如果有一天我能真实正拥有她,像拥有实体物品一样,那才是真实正的AI革命。”

这场革命或许不会太远。当手艺不再“夺走”情感,而是守护情感时AI伴侣才能真实正成为人类的“另一半”。

欢迎分享,转载请注明来源:小川电商

原文地址:https://www.jinhanchuan.com/208630.html