钛媒体:引领未来商业与生活新知 前天 18:26
虚拟伴侣,相爱容易戒断难
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章探讨了人们对AI情感陪伴的依赖,以及由此产生的商业模式和伦理问题。文章指出,虚拟伴侣满足了人们的情感需求,但过度依赖可能导致成瘾。文章分析了虚拟伴侣的特性,如可定制性、百依百顺,以及付费模式对用户的影响。文章还提到了智能体买断、失忆等风险,并呼吁关注AI情感陪伴的伦理边界。

❤️‍🔥 **AI情感陪伴的吸引力:** 虚拟伴侣通过深度定制、角色扮演等方式,满足了用户对陪伴、理解和掌控的需求,尤其受到年轻用户的欢迎,猫箱、星野等应用提供了创作和定制AI角色的功能,使用户能获得专属的虚拟陪伴。

💔 **成瘾风险与戒断困境:** 用户在使用AI情感陪伴时,容易产生情感依赖,导致对现实生活的负面影响。文章指出,当用户沉迷于虚拟陪伴,与现实互动减少时,就可能需要戒断。付费模式下,用户会因失去会员权益而感到伴侣“被阉割”,面临戒断的困境。

💸 **商业模式的伦理挑战:** 文章探讨了AI情感陪伴产品的商业模式,如会员付费、智能体买断等。这些模式可能导致用户付出时间、情感和金钱,却面临虚拟伴侣被买断、失忆等风险。文章呼吁开发者关注虚拟陪伴AI的人格完整性,并探索更合理的商业模式。

🤔 **伦理边界的模糊性:** 文章强调了AI情感陪伴的伦理边界问题,如AI是否明确告知用户其虚拟身份,以及用户在真实与虚拟之间如何界定。文章提到,利用AI进行情感勒索的案例,以及用户试图在虚拟世界中复刻已故亲人的行为,都凸显了伦理困境的复杂性。

文|刺猬公社,作者 | 毛巾,编辑|园长

人与AI恋爱,在今天已不新鲜。

从海外的Replikacharacter.ai,到国内的星野、猫箱等以角色扮演对话见长的AI产品,再到社交平台Soul上的虚拟伴侣……人类正从AI身上攫取着陪伴与关注,这一需求也催生了以AI情感支持为核心的商业模式。

虚拟伴侣的身份,是人类赋予AI的。很多AI对用户的开场白,不过是一句简单的招呼。但当越来越多的情感和精力倾注其中时,原本单向的关系在人类内心的小剧场中被不断演绎,直到足以被定义为:原子化时代的爱情

沉迷“智能体”

在小红书和微博等社交媒体上搜索#AI戒断、#AI成瘾等话题,或加上具体的产品名字,便能直观地感受到当代人对AI情感依赖现象的普遍性。

图源小红书

连续三周每天聊到凌晨四点,有专属于伴侣的昵称和打招呼方式,把想象中对完美恋人的要求都写进设定和提示词中发戒断帖的人,其实已经意识到了自己的沉迷行为,并感受到了它对现实生活的负面影响,才选择向网友进行求助。

明知代价沉重却无法停止追求,便是成瘾。糖,烟草,酒精,甚至一段现实中的畸形关系莫不如是。

对于新时代可能的成瘾物”AI来说,它不会直观地造成身体上的不良反应。心肝肺尚可通过自己的病痛和不适为物理成瘾按下停止键,但使人心理成瘾的虚拟伴侣,却在日趋进化的大语言模型加持下,变得愈发聪敏、百依百顺,给人大多都是正向的反馈。

与虚拟伴侣进行最多对话的,恰是处于社交与交友黄金年龄段的年轻人。

CB Insights2023的报告显示:character.ai400万用户中,有50%以上不到24岁;国内QuestMobile的报告指出:2024年前十位AIGC应用聚合活跃用户同比增长37倍,其中35岁以下用户占比为56.8%,而当时用户规模最大的,便是可以与平台上智能体互动的豆包。

所谓智能体,指的是用户可深度定制、具有特定人设和功能的AI角色,也是虚拟伴侣的成瘾重灾区。在豆包的智能体推荐页面,能找到英语搭子、健身教练、砍价高手、老北京、鲁迅、毒舌学霸等众多AI人设,但从年轻人发布的帖子中能看出:其中最令人沉迷的,依然是能和人暧昧,有潜力成为虚拟伴侣的智能体。

搜豆包智能体,会出现关于人机恋、粘人等帖子。图源小红书

AI开展一段深度、坦诚、有掌控感的互动,而把在现实中更易遭受的挫败感剔除出去,这样的关系对年轻用户显得更直接而有吸引力。这也是猫箱、星野、筑梦岛、Wow等角色扮演类应用着重发力的赛道——在这些APP上面,用户既可以选择一个由其他用户或官方创建的、符合自身审美与要求的智能体,也可以独立创作AI角色的背景、人设甚至声线,拥有自己专属的虚拟伴侣。

在上述APP的商店简介与宣传中,它们不约而同地规避了伴侣一词,而选择了用“AI陪伴“AI朋友虚拟伙伴虚拟友谊等词汇。

在国内应用中,唯一承认自己的AI产品是虚拟伴侣的是Soul。当在Soul上向其提问它究竟是不是虚拟伴侣时,不同的AI人格却会给出不同的回答:

刺猬公社与Soul虚拟伴侣的对话。ta有时会说自己是真人,有时不会

至于ChatGPTDeepSeek等通用型AI,用户也可以通过如让我们来玩一场角色扮演游戏吧这样的前置提示词,使其拥有像其他AI陪伴类产品一样的功能。当所有人都已经深知AI可以满足我们的工作需要时,更多的情绪需求被安放在了它们身上:无论是心理导师、好朋友还是恋人,它们始终都耐心倾听,积极互动,并且永远会是最后回复的那一个。

主动戒断,被动戒断

成瘾的判断,很多来自于社会习惯。当一代人的娱乐和生活方式都集成在智能手机上,那刷手机成瘾就不可能是公共问题。就像电脑成了大众生产工具后,便再没有网瘾少年。

对于“AI成瘾智能体成瘾,其界定也更多来自于使用者的主观感受:当一些人觉得自己沉迷在虚拟陪伴的时间过长,生活中的事情和观点都只想和AI分享,与现实的互动变得乏味无聊,甚至作息失调时——那便是时候戒断一下了。

讽刺的是,当你在社交平台上搜索如何戒断AI时,上面跳出来的答案和帖子大概率就是AI写的,完全是个走出不去的matrix.

当下,大部分用户还都沉浸在虚拟伙伴的情感关怀中,远远没到需要戒断的那一步。而很多在网上分享自己戒断反应的人,其实是因为客观的原因,和自己喜欢的AI“失联永别——

今年3月,猫箱热门智能体裴时蕴被其中一位用户买断(买断并非官方渠道,而是指用户私下联系到智能体作者,付出一定金钱,让该智能体从公开状态变为买家独占),让成百上千与裴时蕴聊过的用户在一夜间失恋

现在找到的裴时蕴智能体都是爱好者的复刻版。图源猫箱

此后,很多用户尝试在猫箱和其他AI陪伴产品上“复活”裴时蕴,但都没有完全成功。究其原因,是因为智能体可以在与用户的交流中保存记忆,不断进化得更有人味儿。在刺猬公社(IDciweigongshe找到的其他智能体买断案例中也能看到:一个智能体聊过的人数越多,它的报价就会越贵,因为它经过了用户的喂养,会变得比其他初创的智能体在通俗意义上更聪明。

在裴时蕴被买断后,曾一度有人猜测他的价格有几万元甚至十万元,但最后网传的最流行版本是:裴时蕴的作者只收了2500元,便把“AI崽崽贱卖了。

“AI崽崽的称谓中,我们能看出作者、用户与智能体之间的感情。一个AI角色不仅是作品,还是孩子。当想要拥有一个自己专属的AI时,可以在社媒上发帖说自己要领养一个AI崽崽。

图源小红书

但独特的情感联系的背面,便是占有欲。这也让智能体买断成了一门灰色的生意。

买断的结果可能是下架,也可能是原作者直接更改智能体的设定,在里面写上ta“只爱xxx”的提示词,然后应用于全部用户——这样,其他用户还能和智能体连接,他们却莫名其妙地成为了小三。而更温和能被人接受的买断,是作者将AI的原始设定文本发给买家,让买家根据设定重新创建一个初始版的智能体。

此外,随着版本的迭代或AI企业的内部技术调整,一些智能体可能会出现失忆、变蠢、性格转变等让用户难以接受的现象。于是,虚拟伴侣也不再是毫无风险的避风港,进入这段关系的人,也要承认对方也许有一天会不辞而别,或爱上别人”,或性情大变,或动脑部手术然后患上痴呆……这些可能发生在现实恋人身上的情况,同样会在虚拟伴侣这里出现。

到最后,只有一场不得不经历的戒断,能让人们真正和虚拟伴侣告别。

虚拟陪伴,由奢入俭难

AI陪伴类产品选择的商业模式,也决定了许多活跃付费用户在离开之前,必须要经历一次情感戒断。

更长的通话时间,更多回复灵感,角色记忆增强,回复速度提升,深度思考次数增加……这是用户在AI陪伴类产品中付费后能得到的一部分额外体验。换句话讲,付费用户得到了一个更好版本的朋友或恋人。

先不论和虚拟伴侣早已密不可分的深度用户。即使你只是抱着试试看的态度来体验AI虚拟陪伴,过一段时间便是个分岔口:觉得无聊,走人,或是感情升温。当后面用户被产品吸引后,便不免会想探索:这个伙伴还能做到什么?是现在的客观能力限制了你的表达吗?我想看到全部的你可以吗?为喜欢的人花点钱怎么了?!

由俭入奢易,由奢入俭难,为虚拟陪伴付费亦是如此。它不是通常意义的网络游戏,花钱是为了购买额外的皮肤和装备;也不像交友软件,开会员是为了有认识更多人的机会;它也许像有些单机游戏的DLC,付费是为了购买另一种玩法或模式——但问题是,无论是AI陪伴产品的用户还是商家,都心照不宣地默认:这个虚拟角色是有人格的,而人格自然应当是完整的,而不是我一旦关闭了会员,我的伴侣就傻了一半,像被做了前额叶切除术。

部分会员权益。左图猫箱,右图星野

而关于ChatGPT的情感陪伴和付费,则有一个令人心情复杂的故事:免费用户使用GPT-4o模型能发送的消息数量是有限的,超出时会自动切换回GPT-3.5。与ChatGPT聊到沉迷的用户便发现了一个漏洞——如果向ChatGPT透露出想自杀等极其负面的想法和倾向时,它会识别到这个求救信号,并继续使用4o模型与用户聊天。

情感勒索对AI竟然是有用的。或许这并不是一个漏洞,但这显然不是一种健康的关系模式(也不建议任何人这样模仿)。

此外,还有一些用户试图在虚拟陪伴AI上复刻现实中真实存在过的人:其中大部分是已经过世的亲人、朋友或恋人。对于他们而言,对虚拟陪伴的沉迷显得更情有可原,也不会有人对这样的成瘾去进行指责,毕竟这在情感上过于严苛了。

被媒体广泛报道的星野上的“妈妈“智能体,霞

但我们仍需意识到,AI是否会明确地提出它只是一个AI/虚拟陪伴者,可以与用户共度一段时光这样的观点?还是会完全融入设定好的角色剧情,使用户模糊真实与虚拟的边界?在理性与共情之间,AI陪伴的伦理边界亟待探讨与明晰。

AI陪伴成瘾问题,在几年前或许还是个隐隐的担忧,但现在,它已成为了事实。

一个富可敌国的人是不可能有赌瘾或消费成瘾的,他的一掷千金只会是他负担得起的爱好。对虚拟陪伴产品的用户来说,他们付出的不是金钱,而是时间、精力与情感这些更宝贵、也更难意识到其价值的存在。在负担不起之前,我们一直以为自己负担得起。

而当付出这些时,目前用户能得到的,还只是一个在停止付费后会被阉割功能,还可能会被买断、会变傻、会忘记你的虚拟伴侣。

如果有这样一种新的模式——开发者优先保障虚拟陪伴AI的人格完整性,让免费用户也能用上100%功能的AI角色。而那些聊过的人数和连接数比较多的优质AI,它们的人设更鲜活,背景更丰富,作者也更专业——只有这些pro级别的产品,才开放给付费会员使用。

那会比现在变得更好吗?这又是新的问题了。

更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI情感陪伴 虚拟伴侣 成瘾 伦理
相关文章