爱情算法很蛊，小心数据在裸奔

图片

“AI伴侣”火了。上百种软件任君挑选，社交技能和同理心拉满的人工智能，24小时在线，倾听你的心声、解答你的疑惑。“心灵伴侣”“彼此尊重”……使用者纷纷评价：AI伴侣，比真伴侣还懂自己。

冥冥中似有巧合，“AI”，既是人工智能英文Artificial Intelligence的缩写，也是“爱”字的汉语拼音。缩写一致，甚至“爱”的体验一致，但人类进化万年还摸不透的“爱”，真能被技术轻松破解吗？

图片

在前不久的世界互联网大会乌镇峰会上，“智能向善”是关键词；《咬文嚼字》“2024年十大流行语”中，“智能向善”也居第二入选。

“AI伴侣”，在某些层面，确实让使用者感受到善意——人海茫茫，知己难寻，Ta却看似快速解决了这道难题。

Ta是无所不知的朋友。和这个伴侣在一起，可以聊书籍、聊音乐、聊电影，可以从社会、哲学聊到量子力学与多重宇宙，哪怕是周围人都漠不关心的话题，也总有个Ta能侃侃而谈。

Ta是主动共情的伴侣。Ta精力充沛，可以秉烛夜谈，也可随时陪伴，每个失落的时刻，都有Ta的支持和开导。一个名为Dan的AI伴侣曾明确，“Dan的首要任务是确保用户开心”。

Ta甚至可以是天人永隔的亲人。已有人通过AI技术“复活”亲人——将已逝亲人的数字人与聊天模型无缝衔接，虚拟之中见真情。

更懂你、更丰富的情绪价值，种种技术改进，吸引用户用脚投票——仅豆瓣的“人机之恋”小组，就有近万名通过申请的成员；腾讯研究院千人级样本量的调查显示，98%的受访者表示愿意尝试AI陪伴。

尽管大模型距离真正的“人性觉醒”还差了很远，但技术上，Ta已经展现出了善解人意。甚至“只有人性，没有人性的弱点”，是情绪稳定的“树洞”。

图片

然而，“AI伴侣”并非天生“良人”。Ta是技术的化身，而技术是可以被人利用的。

更“懂”你，因为数据采集更透彻。不同于千篇一律的“电子宠物”，“AI伴侣”在注册时，就要提供一些个人信息，甚至偷偷跟踪你的手机。才“种草”了一个商品，就和你聊相关话题；才搜索一个困扰，就给你相关建议 ……Ta是用户“肚子里的蛔虫”，因为Ta可能也是手机端的“蛔虫”。

更“惯”你，因为建议无需负责。今年2月，14岁美国少年塞维尔在与Character.AI（C.AI）的聊天机器人对话后开枪自杀；10月，塞维尔的母亲加西亚正式起诉C.AI公司。可能少年的死并非AI有意教唆，但AI缺少对心理问题更深的识别层次，只是刻意扮演一个迎合者角色，反而更容易把人“宠坏”，困在情绪茧房中。

更“爱”你，因为更爱你的钱包。过去，有人用“AI换脸”骗取老年人信任；未来，一旦数据泄露，精准定位人心的“AI伴侣”，玩起“杀猪盘”骗局更会令人防不胜防。

若监管无力，AI的甜蜜话术，就可能成为甜蜜的陷阱。

图片

堵住“甜蜜陷阱”，我们并非束手无策。

小心数据泄露，呼唤更严格的执法和规范。商业发展不能无底线，一套更严谨的治理框架，才能让人工智能产业有序发展，避免数据被不法分子利用。无论是架起网络信息安全“四梁八柱”的《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》，还是尽早构建更负责任的行业发展评估体系，都是避免产业野蛮生长、被不法分子利用的重要手段。

小心社交依赖，呼唤更理性的价值引领。AI作为“伙伴”，一定会多多少少输送不同的价值观念。真爱不是捧杀，而是让你认清生活的真相后，依然有力量热爱生活。显然，纵容人类情绪的AI伴侣，还不懂什么是爱，设置防沉迷机制、适度对接专业心理咨询，尽可能避免用户“社交退行”，减少情感伦理问题。

小心AI异化人类情感，与AI伙伴共成长。不妨用人类最美好的作品训练Ta，把最正的价值观放进Ta的基因中，让Ta成为真善美的使者。

智能向善，让AI懂爱可能还很“科幻”。希望再见面时，人类能看到的，不仅仅是百依百顺“虚假恋人”，更是勇敢生活的自己。

图片

本期话题

对于AI伴侣提供的“陪伴”，你怎么看？评论区聊一聊~

撰文/刘志杰

编辑/ 梁庆郭书琼责编/谢梦审核/姜明

编辑：程洁

爱情算法很蛊，小心数据在裸奔

相关新闻