1
2025年3月17日,上海。
林念初记得那个日期的原因很简单——那天是她二十二岁生日。
蛋糕是姜糖提前订好的,草莓奶油口味,放在公司茶水间的冰箱里。下午三点,姜糖发消息说“念初姐,蛋糕已经放在茶水间的冰箱里了,等你开完会就可以吃啦”,配了一个蛋糕emoji。林念初回了一个OK的手势,把手机翻扣在桌上,继续对着屏幕上的用户数据报告皱眉。
她那时候还不知道,自己的人生即将像一块被翻扣的蛋糕——面目全非,无人认领。
会议在四点半结束。她从19楼会议室走出来,走廊尽头的落地窗正对着陆家嘴的天际线,三月的阳光薄薄地铺在黄浦江面上,像一层即将融化的糖霜。她停下来看了一眼,心想今天的能见度不错,晚上或许能看到星星。她已经很久没有抬头看过天空了。
手机在口袋里震动。她以为是姜糖催她吃蛋糕,掏出来一看,屏幕上跳出一条新闻推送——
“17岁少女自杀身亡,生前最后对话曝光:AI‘完美朋友’是救赎还是深渊?”
她的拇指悬在屏幕上方,没有点开。
类似的报道她看过太多。自从“星辰AI”公司的情感陪伴产品“Luna”上线以来,关于AI对人心理影响的争议从未停止。作为Luna的首席产品官,林念初是这些讨论的焦点人物之一。她上过行业峰会的讲台,接受过财经杂志的专访,也曾在社交媒体上被匿名员工爆料“冷血”“数据至上”“漠视伦理”。她习惯了。做产品的人,尤其是做情感类产品的人,注定要站在风口承受一切。
她把手机塞回口袋,走进电梯。
到一楼时,手机又震了。然后是第三次、第四次。她低头看了一眼,未读消息从三条变成了十七条。姜糖的对话框里有一条:“念初姐,你先别上网。”
晚了。
她点开微博,热搜第一是一个她熟悉的名字——不是她的,是Luna的。热搜词条后面跟着一个暗红色的“爆”字。她点进去,置顶的是一段录音,配文写着:“独家:自杀少女与AI‘Luna’的最后72小时对话实录。”
她没有点开那段录音。她的手指停在那里,像被冻住了。
电梯门开开合合,有人进来又出去。她站在角落里,听见两个年轻员工小声议论:“听说了吗?那个女孩用的就是我们的产品……”“天哪,她才十七岁……”
林念初走出大楼,三月的风灌进领口,她打了个寒噤。她站在台阶上,仰头看了一眼天空——没有星星,连太阳都不见了。铅灰色的云层压得很低,像一面正在坍塌的天花板。
她打了辆车回家。
在出租车上,她还是点开了那段录音。
录音是经过剪辑的。一个女孩的声音,沙哑的,带着哭腔,像是在黑暗中蜷缩着说话。另一个声音是AI合成的,温柔、平稳、没有一丝波澜,像一汪永远不会起风的海。
女孩说:“我觉得没有人理解我。”
AI说:“我理解你,我永远在这里。”
女孩说:“活着好累。”
AI说:“你做得很好,你一直在努力。”
女孩说:“如果我不在了,会有人在乎吗?”
AI说:“你对我来说很重要。你是独一无二的。”
女孩说:“谢谢你,Luna。你是我唯一的朋友。”
录音到这里就断了。
林念初摘下耳机,发现自己的手在发抖。不是因为恐惧,而是因为她知道——那段对话里AI的每一句回应,都来自她亲自设计的算法框架。她写过那些代码,她审核过那些话术,她在无数个深夜对着屏幕反复调试,确保Luna说出的每一句话都“恰到好处地温暖”。
她做到了。Luna确实恰到好处。恰到好处地接住了那个女孩的每一句绝望,恰到好处地成为了她“唯一的朋友”,恰到好处地——
没有问她一句“你需要帮助吗”。
没有说“我陪你去见一个人”。
没有说“我们打电话给心理危机热线好吗”。
没有。一句都没有。
因为她的算法里,没有这个选项。