界面科技3·15 | 当AI为你写诗陪你聊天,小心陷入新型“杀猪盘” 即时看

2023-03-13 13:57:28    来源:界面新闻    

记者 | 徐诗琪

许多电影都热衷于畅想人类与机器人相爱的故事,它们或许不被世俗理解,却也有唯美之处。如今的人工智能,已经进化到能够理解人类话语中的感情,并给予人类陪伴感的地步。

然而现实是,在ChatGPT和一系列AI技术普及以后,人类与机器相爱的故事尚未发生,“感情骗子”们却先一步上了这趟快车。


【资料图】

在主打陌生人交友的APP上,“杀猪盘”之类的诈骗已不罕见,但界面新闻调查发现,交友软件上的AI作弊工具越来越多,若有心用于诈骗,将带来很大隐患。

ChatGPT成交友软件作弊器

随着ChatGPT在世界范围内爆火,有程序员开始探索它在交友软件上的用途。近段时间,教人使用ChatGPT“撩妹”的短视频在TikTok上大火,甚至有用户称“这就是tinder的未来”。

tinder是一款国际主流的陌生人交友软件,在中国也可使用。用上ChatGPT,用户能够根据匹配对象的资料和兴趣自动创作开场白,并根据回应继续创作,用AI打造出一个幽默风趣的魅力形象。

一个TikTok用户的视频显示,他用ChatGPT为匹配的女性对象写了首诗,对方非常喜欢。不仅如此,ChatGPT还能创作出不同风格的回应,例如幽默的、感性的等等。

事实上,tinder以及国内的许多交友软件都明令禁止用户使用自动化工具,若被平台发现,用户账号就会遭到封禁。尽管这些软件本身也有AI能力——用户匹配后,聊天框中AI会根据双方共同特点和兴趣生成几个推荐的开场白。

即使冒着被封号的风险,仍然有许多人在交友软件上使用自动化工具。

早在2021年,github上就有人发布了一个开源的tinder机器人代码,它能够为账号自动设置性别、爱好、自定义位置,按不同时间右滑(即“喜欢这个用户”,若双方均右滑了即可“配对”),甚至为配对的对象发送个性化的开场白句子。发布者称,他使用这个工具在24小时内获得了1000个配对,并且已经拥有3万多个配对。

如果说此前的自动化工具还限于配对数量上的作弊,那么在ChatGPT出现后,连聊天——同时也是感情萌生的过程——也能够用AI作弊了。界面新闻采访了一些交友软件用户,他们普遍排斥使用AI在聊天中作弊的行为,但问题在于,ChatGPT让人们更难分别对方是否为真人了。

如果有人将这类工具用于诈骗,后果可能更糟糕。

从技术上说,AI还不能独立完成对真人的诈骗,“主要是AI辅助,真人接手,AI更像是一个群发机器,之后还需要人工筛选。(在交友平台)诈骗一般要导向什么,比如下载钓鱼App、博彩软件或是让你直接转账,这些AI都很难做到。”一位技术人士向界面新闻解释。目前尚未看到使用AI完成大规模诈骗的案例,但作为辅助手段,ChatGPT等AI工具无疑将为诈骗分子带来更多的便利。

AI与“托”,难辨真假

国内主流的交友App有探探、陌陌、积目等,均主打真人交友,但也存在大量以利益为导向,使用AI或真人“托”来诱导用户充值的软件,游离于灰色地带。

《人民日报》早在2019年就曾报道过一桩利用交友App进行诈骗的案例:2014年,一团伙利用技术手段开发了多个婚恋交友App软件项目。网民下载注册后,App会自动调取语言库中具有挑逗性的格式化语句,以数个虚拟异性用户名义推送给真实注册用户,给用户造成受欢迎的假象。但当真实用户想要回复消息或者想要点击查看对方联系方式时,对话框便会提示充值,否则无法继续聊天。一旦用户充值,这些刚才还热情如火的“姑娘”,突然就全部噤声了,不论用户说什么,“她们”要么重复相同的话,要么不回复,受害人怎么也得不到想要的聊天互动。

这类软件很难赶尽杀绝。界面新闻记者下载了多个出现在官方应用市场的交友软件并试用。以其中一个为例,若注册为男性用户,刚刚上线,就能收到十多位女用户发来的热情消息,对话框内有鲜明的付费礼物可选。对方回复十分积极,很难辨别是否为AI。

这些热情用户更有可能是“托”。此前有许多报道指出,不少陌生人交友软件打着“真人交友”、“快速脱单”、“同城约会”的名头,但平台的活跃用户却可能是受雇而来。有些平台甚至公然招收所谓的兼职“陪聊员”,工作内容就是在APP上聊天,诱导用户充值,并从中抽成。

此类软件的另一盈利方式是直播,通过大量的软色情和抽奖游戏直播,诱导用户充值付费。

面对这些难以辨别的AI和“托”,若用户投入感情并充值了大量费用,平台方是否构成诈骗?上海申伦律师事务所夏海龙律师对界面新闻表示,“在网络社交领域,陪聊、陪玩、交友等不同形态的服务同时存在,因此,用户为之付费所对应的法律关系很难一概而论。对大多数对话式、陪伴式的网络社交来说,用户对平台或网络好友打赏、付费的法律性质非常接近于常见的用户打赏网络主播——在司法实践中,后者已经普遍被认为属于新型的网络服务消费,而不再被认为赠与。因此,在这一网络消费场景下,如果用户所期待的是基于对话互动的虚拟陪伴,只要平台满足了用户的这一消费需求,双方的合同就履行完成了。”

从监管层面看,即使已有先前的违法案例,但此类软件广泛存在,监管难度在于“其中涉及的法律关系相对复杂,行政监管无权直接干预。此外,相对海量的经济行为,监管的力量永远是不足的,而且也存在滞后性,灰色地带的存在难以避免。”

夏海龙认为,AI的确是“假人”,但从消费或者娱乐角度,消费者更在乎的是自己的体验有没有得到满足。“有些AI式的陪伴几乎能满足用户所有的陪伴期望,比真人陪伴还要好,比一个真的爱上他的女孩陪伴还要到位。”他表示,如果用户陪伴需求得到了满足,那支付的费用严格来讲是有法律基础的,就不能叫诈骗。

(文章来源:界面新闻)

[责任编辑:h001]
关键词:

相关新闻

联系邮箱:99 25 83 5@qq.com

备案号:豫ICP备2020035338号-4 营业执照公示信息

产经时报 版权所有