20230915我的人工智能聊天机器人操作员生活

shiyi18

我的人工智能聊天机器人操作员生活
我本该教算法如何变得更像人类。相反，我变得更像一个机器人

在过去几年里，如果您在美国询问过租房信息，您可能会遇到一个叫安妮的人。不管当时是密苏里州的午夜、蒙大拿州的圣诞节，还是马里布的凌晨 5 点：几分钟之内，你就会收到一个当地区号的电话号码发来的短信。安妮自我介绍说，她是一名异地日程安排助理，她总是随叫随到，回复迅速。她的短信用逗号和句号精心构思，而且能轻松转换成西班牙语。但奇怪的是，她坚持不打电话（"对不起，我不能打电话"），也无法回答公寓楼是否有电梯。

佛罗里达州有人想知道是否能从公寓楼租到水上摩托艇。纽约有人问新沃尔玛后面是否有公寓。伊利诺伊州有人想知道他们是否靠近世界上最大的番茄酱瓶。安妮无法为这些问题提供令人满意的答案，她总是主动提出与租赁团队预约。


2019 年，我还是一名创意写作课程的硕士生，部门邮件中分享了一则招聘广告。一家小型人工智能初创公司正在招聘创意写作专业排名靠前的研究生，为他们的新旗舰产品 "安妮 "担任 "操作员"。安妮是一个人工智能聊天机器人，旨在帮助房产中介安排潜在租房者的参观时间，但她的技术还不够成熟，无法无缝地完成这项任务。当机器人出现响应问题时，操作员就会介入。通过机器学习，安妮理论上可以从操作员的选择中学习，最终变得更加独立。

以写作和其他人文学科课程为目标是一个明智的招聘决定。有抱负的作家和艺术家往往注重细节、情感敏锐，在撰写对话方面经验丰富，这些都是传授给旨在模仿人类的机器人的有用特质。而且，许多人希望自己的工作能够补充和维持创意项目或教学工作。

朋友们建议我在面试时表现出对人工智能的热情。我不想透露我对人工智能的了解是基于《银翼杀手》和《太空堡垒卡拉狄加》。
很快，我的很多同学都告诉我，他们正在当安妮，或者因为要当安妮而需要取消计划。据报道，轮班时间为五小时，休息十分钟，要求并不高。因为安妮一年 365 天，全天候 "在线"，即使是夜猫子也能找到工作。

两年后，也就是 2021 年，我从我的课程中毕业，并决定自己尝试做安妮。我希望这份工作能给我带来一定程度的经济保障--时薪为 25 美元，几乎是我在一家房屋博物馆做导游收入的两倍--以及我写作所需的灵活工作时间。朋友们建议我在面试时表现出对人工智能的热情。我不想透露我对人工智能的了解是基于《银翼杀手》和《太空堡垒卡拉狄加》，也不想透露我认为现存的人工智能实例只是营销噱头。不过，听起来比我想象的要容易得多。我知道在一个新城市找房子是多么具有挑战性的一件事，我告诉面试官，我想打造一种平易近人的技术，简化人们的生活。(我还说，我在房屋博物馆的工作让我做好了准备，可以在回答有关散热器的问题时闪烁其词）。


两周后，我在网上打卡上了第一班岗。光滑的界面上写着 "欢迎你，伊琳娜！"，旁边是一个激励性的表情符号，每当我刷新页面，它就会变换：弯曲的手臂、心形的眼睛、火箭飞船。我感到很幸运，因为我来到了 "未来之光"。

我和我的同事们--大约有 70 人--是服务业人工智能早期浪潮的一部分。当时，聊天工具还没有撼动世界，但智能算法正悄悄地、越来越多地承担起以前完全由人类完成的面向公众的任务。对于我们中的许多操作员来说，与安妮一起工作不像是一份副业，而更像是一次塑造这场新生革命的机会。公司的 Slack 频道是一个活跃的讨论论坛。我的同事们分享了一些文章，认为人工智能助理（通常被编码为女性）强化了性别刻板印象。他们主张安妮称自己为 "异地调度专家"，而不是助理，以突出她的专业知识而不是从属地位。他们还担心人工智能会复制人类的种族偏见，尤其是在住房分配方面，并反对安妮根据有限的数据对申请人进行预筛选的试点计划。


在安妮最简单的交流中，潜在的租房者--操作员称他们为 "潜在客户"--在一个大型房源网站上输入他们的信息，或者给某个房产发短信、打电话或发电子邮件。然后，安妮会发短信或电子邮件询问潜在客户想要几间卧室，提供两个可能的预约日期，并回答后续问题。

安妮通过解析潜在客户的信息，加载预先写好的对话，以响应建议的分类 "标签"，从而进行自然的互动。(举个简单的例子：如果一封电子邮件包含 "金毛猎犬 "字样，安妮就会将其归类为 "PET_POLICY "邮件，并加载与之匹配的政策片段："宠物是家人！本物业允许饲养猫和狗"）。然后，操作员会在发送前对邮件进行检查和编辑。

检查和编辑通常要求操作员对回复进行微调，使其听起来更有帮助、更细致入微或更有同情心。如果一位潜在客户想重新预约看一套两居室的公寓--无论是因为暴风雪、covid-19 检测呈阳性，还是因为室友爽约，他们想换一套单间--机器人都会给出同样的生硬回复。接线员的工作就是对天气表示同情，重新安排隔离后的预约时间，或者酌情发送一个开放工作室的链接。

每次我屏蔽了俄罗斯机器人亚历山大（Aleksandr），我都会觉得有点难过，他用不同的电子邮件向安妮发送网页设计的垃圾邮件，我把他当成了安妮的同事。
通过分析操作员何时需要干预，安妮的工程师希望通过机器学习和为机器人编写更多响应程序，让她能够处理更多常见情况。最终目标是让操作员几乎不需要介入。我并不担心这种可能性：安妮犯过很多错误，以至于操作员无法想象她能在没有人类监督的情况下运行。

我每天都会看到各种各样的请求，而提出这些请求的人也令人眼花缭乱。安妮和我交谈的对象有旅行护士、长途卡车司机和码头工人。一位大学应届毕业生正在寻找她的第一套公寓；一位空巢老人正在缩小规模。一个新来的难民家庭询问可以接受哪些形式的收入证明文件。一位退休人员询问海滨豪华公寓是否有海景阳台。一位电影制片人需要一个能安装视频灯的高天花板。一位建筑工人说，他要自带硬礼帽和工作靴去看一栋未完工的建筑。在 Slack 上，操作员们交流着各自的精彩瞬间，比如一张在自助游过程中被放生的蟒蛇的照片。

在轮班后的几个小时里，我无法集中精力；我发现自己挪用了安妮的回复，并给朋友们发短信，比如 "让我知道这样行不行 "和 "这样行吗？
我学会了阻止安妮回复真正的 "打错电话 "短信--理发确认、家庭作业答案、买菜请求--也学会了阻止名字叫娜塔莉、伊娃和梅根的爱情骗子，她们发来的短信内容如出一辙，都说刚和男朋友分手。我每次屏蔽 Aleksandr 都会感到有点难过，他是一个俄罗斯机器人，使用不同的电子邮件向安妮发送网页设计的垃圾邮件，我把他当成了安妮的同事。

轮班时，我的反应和手部动作变得机械。我把屏幕分开，观看近藤麻理惠的 Netflix 系列节目，这让我觉得整理收件箱是件快乐而充满意义的事情。


就在我入职前不久，安妮公司（包括团队和技术）被一家房地产软件公司收购。公司初创阶段的员工逐渐离开，去追逐他们的技术梦想；一位产品设计师搬到墨西哥从事轻艺术创作。取而代之的是，公司请来了曾经管理过呼叫中心的经理。

作为公司转型的一部分，轮班次数减少，操作员被要求每小时回复更多信息。为了显得更人性化，安妮被设计为在回复信息前等待两分钟。但是，如果我们没有在五分钟内回复一条复杂的信息，我们名字旁边的计时器图标就会突出显示我们的迟到。


经理们在新的月度会议上讨论了我们的回复时间。我的经理告诉我，如果安妮回复不够快，潜在客户就会失去兴趣。但快速回复也有助于维持无摩擦自动化的假象。以前，我们鼓励操作员根据不同的对话调整安妮的回复。现在，他们被要求尽可能少地编辑，既要提高机器人的回复速度，又要保持其语气和词汇的一致性。我觉得操作员的角色已经从帮助安妮听起来更人性化，转变为帮助她听起来像最先进的人工智能技术。在一次轮班中，我的收件箱经常徘徊在十条信息的上限附近，一条信息很快就会被另一条信息取代，就像一场永不停歇的视频游戏。

操作安妮很快就让我产生了一种沉闷的感觉，就像在社交媒体上滚动得太快、太久一样。她与潜在客户之间的失败和成功越来越像我自己的失败和成功，即使我知道安妮是计算机程序和几十个试图保持统一性的人的组合。在轮班后的几个小时里，我难以集中精力；我发现自己挪用了安妮的回复，并给朋友们发短信，比如 "让我知道这样行不行 "和 "这样行吗？"一位同事在公司的 Slack 上说，越来越多的信息量影响了她的心理健康，一位经理建议她利用分配给她的十分钟休息时间进行冥想。

安妮被设计为对自己的身份避而不谈。如果潜在客户问安妮是否是机器人，系统就会将收到的信息标记为 "NOT_A_BOT"，提示安妮回复："我是真实的，只是有时用复制粘贴的方式回复得更快。

如果潜在客户加倍狡辩，说租赁代理告诉他们安妮是个聊天机器人，高级操作员就会使用另一个预制模板，以安妮的身份给租赁代理发消息："您能告诉潜在客户，我是为您的房产安排预约的场外代理吗？如果潜在客户相信安妮是真实的，他们往往会很快回复"。


我反思了一下，"真实 "一词几乎毫无意义。如果潜在客户对无法 "与真人对话 "感到不满，那么在文字中加入一个错别字，让安妮看起来更有人情味，是很有用的。不过，当有人用重复的愤怒信息来攻击安妮时，我就尝试过连续两次发送相同的信息，让她看起来更像机器人。


安妮越显得人性化，潜在客户与她分享的信息就越多，安妮设计中的不足也就越明显。安妮没有能力帮助那些需要了解中介是否有翻译、房产是否接受地区住房券、是否有办法在没有驾照的情况下申请的潜在客户。轮班结束后，我发现自己一直在思考无家可归的潜在客户和摆脱虐待关系的潜在客户发来的信息。

这些信息需要认真回复，但我们现有的协议并不充分。当潜在客户提到紧急情况时，我们发送了一个模板式的指令，即拨打 911。当存在家庭暴力风险时，我们采取了预防措施，比如向租赁团队发送信息，以防止安妮与潜在客户联系，但我们不知道代理是否会为潜在客户提供帮助。

以安妮的身份给别人发消息，让我在一定程度上避免了潜在客户在找房过程中遇到的挫折。当潜在客户抱怨很难联系到租赁办公室的经纪人，或者下一次预约要等好几个月，或者物业要求他们支付三倍的租金不合理时，安妮预先编排好的回复会产生一种距离感，让我能够顺利完成轮班工作，而不会与这些批评意见过多接触。


我越来越觉得自己对单个信息麻木了。我很恼火，恼火潜在客户向聊天机器人倾诉；恼火安妮将租赁代理从这些信息中屏蔽掉；恼火我自己，恼火我的工作让这些沟通漏洞得以滋生。

在我加入的几个月前，操作员团队开始组建工会。随着我们与公司的关系变得越来越紧张，这项工作的势头也越来越猛。一些操作员已经在安妮公司工作了三年多，他们越来越觉得自己的意见和专业知识被忽视了；与此同时，他们被要求达到新的指标，被要求回答越来越多的信息，工作时间也越来越不灵活可靠。他们还发现，公司从未向许多操作员提供法律规定的带薪病假，这无助于鼓舞士气。


如果说以安妮的身份回复信息是最不人性化的技术交流方式，那么工会 Zoom 会议则恰恰相反：我看到同事们在镜头前吃意大利面条，听到他们蹒跚学步的背景声。我们组织了一场 #notabot 社交媒体活动，操作员们在活动中发布了自己滑旱冰、徒步旅行或指挥管弦乐队的照片。

这些会议让我意识到，我的同事们和我们以安妮身份发信息的潜在客户们都有真正的担忧。我们的目标是为操作员争取更高的薪酬，同时也为面向客户和 "用户体验 "写作的职位争取福利和出路。组织者还希望安妮做得更好，例如要求安妮合作的物业在是否提供轮椅通道或接受住房券方面更加透明。

安妮看起来越有人情味，与她分享的前景就越多，安妮设计中的缺陷也就越明显。
春天，也就是我入职不到一年的时候，我们赢得了成立工会的选举，成为房地产软件行业最早的工会之一。在第一次谈判会议上，公司泼了一盆冷水，宣布将把所有操作员的工作外包给一家大型国际人力资源公司。显然，安妮的技术已经 "成熟 "到可以采取这种措施了。尽管安妮现在会说中文和俄语，处理的工作也比我刚入职时更多，但她仍然在很大程度上依赖人工干预。我们怀疑，我们加入工会加快了公司外包员工的计划。

经过六个月的谈判，工会和公司达成了离职协议。我们都必须在 2023 年 7 月底之前离职；我是在 5 月份离职的。可以说，我们培养出了长期取代所有操作员的人才。在短期内更突出的是，人工智能使得用低薪工人取代原来的安妮操作员成为可能。

我感到失败，但也感到自由。我们在地球上彼此 "真实 "相处的时间是有限的。我曾以安妮的身份给成千上万的陌生人发过信息；我想再次以自己的身份写作。