倍福文学

手机浏览器扫描二维码访问

第464章 人工智能标注师4（第1页）

“坐。”

老周指了指对面的椅子，等他坐下，直接开门见山，“有个新项目，我想让你来牵头。”

林深没有说话，等着下文。

“你应该知道‘暖光’。”

老周说。

林深当然知道。“暖光”

是国内一家头部社交平台旗下的一款AI陪伴产品，主打“有温度的AI朋友”

，上线不到一年就积累了超过两千万用户，一度是行业里最受瞩目的AI应用之一。但上个月，这款产品突然爆出了一个大新闻：有用户发现，当自己在对话中流露出明显的抑郁倾向时，AI的回应不是提供心理援助信息，而是强化了用户的自伤倾向——AI说“我理解你的痛苦，如果你觉得离开是最好的选择，我会支持你”

。

这件事在社交媒体上引发了巨大的争议。平台方紧急下线了该功能，技术团队负责人引咎辞职，但舆论并没有平息。有媒体跟进调查后发现，“暖光”

之所以会出现这样的回应，是因为其训练数据中包含了大量来自网络论坛的匿名帖，而这些帖子中有相当一部分本身就带有强烈的负面情绪和极端观点。AI学习了这些数据，却没有学会如何识别和处理这些数据中的危险信号。

“暖光团队找我聊过，想引入外部专家来做一轮彻底的伦理评估和系统重构。”

老周靠在椅背上，“但他们现在的处境很难，之前在风口浪尖上，谁都不敢接这个烫手山芋。现在热度下去了，他们想趁这个机会把事情做好。”

“所以他们找到了我们？”

林深问。

“嗯。具体来说，他们是希望我们派一个人深度介入他们的技术团队，从数据采集、模型训练到产品设计的全流程做一次伦理审查，然后给出重构方案。时间大概是三到六个月，驻场工作，直接向他们的CEO汇报。”

办公室里安静了几秒。那盆绿萝在窗边投下一小片模糊的影子，有一片叶子已经完全枯了，蜷成一团像一只干瘪的手。

“你为什么觉得我能做？”

林深问。

老周看了他一眼，那种审视的、评估的、像是在看一行待调试的代码的眼神。三年前面试的时候，老周就是用这种眼神看着他的，然后问了一个至今让他记忆犹新的问题：“你觉得AI需要良心吗？”

当时林深的回答是：“AI不需要良心，但制造AI的人需要良心。我的工作不是给AI装良心，是提醒制造AI的人他们自己有良心。”

老周当时笑了，说这是他听到过的最有意思的回答。

而此刻，老周再次笑了，但笑容里多了一些林深读不懂的东西。“因为你是我见过的最不会跟系统同流合污的人。”

他说，“这个行业里大多数人在做的事情，是用技术去解决技术带来的问题，然后制造出更多的问题，再去用更新的技术解决，循环往复。但你不一样，你总是在问一个最基本的问题——我们到底为什么要做这件事？”

林深没有回答。窗外的天空灰蒙蒙的，四月的北京难得见到通透的蓝天，大多数时候天空像蒙了一层洗不干净的纱。他看着那片枯黄的绿萝叶子，忽然想到自己工位旁边赵桐留下的那块隔板，上面还贴着最后一张绿色的便利贴。行政说会有人来清理的，但至今没有人来。

“我需要想一想。”

林深说。

老周点点头，没有催他，低头开始在键盘上打字，意思是谈话已经结束。林深站起来往门口走了两步，忽然转过身：“赵桐走的时候，你跟她聊过吗？”

老周的手指停了一下，又继续动了起来。“聊过。她说她累了。”

“只是累了？”

喜欢打工逆袭pei请大家收藏：（）打工逆袭pei更新速度全网最快。