亚马逊的三声欢呼'的人类窃听者

现在注册

(彭博社)-Alexa,您真的是人吗?

亚马逊大批员工听取了公司数字助理记录的对话的消息暴露了人工智能炒作与使技术在现实生活中发挥作用的低薪人员大军之间的对比。正是这些营领导着硅谷大规模的隐私入侵。

人工智能应该擅长模式识别和自然语言处理。但是,几乎不可能训练神经网络来确定语音或面部表情。必须不断地重新训练那些必须与人类进行无缝交互的算法,以允许changes语的变化,带来新口音的人口流动,文化现象和时尚潮流。

魔术不会发生这种情况;这些算法将无法独自找到最新的流行音乐或电视连续剧。在去年的俄罗斯世界杯足球赛中,当局使用了先进的面部识别系统,将知名的流氓拒之门外。直到最后一场比赛,朋克乐队Pussy Riot的成员身着警服冲上场,一直有效。他们不在数据库中。

为了使人工智能发挥作用,需要持续不断的人工输入。但是销售基于AI的产品的公司不想告诉客户Wired的莉莉·纽曼(Lily Hay Newman)称其“隐蔽的劳动力”所扮演的角色,这有两个原因。

一种是,要用数千个人注释从客户那里收集的数据,听起来并不像“深度学习”,“神经网络”和“人类水平的图像和语音识别”那样神奇。另一点是,人们准备将他们的秘密委托给一个无形的算法,就像迈达斯国王的理发师对国王的驴耳朵低声说着一样。但是,如果这些机密有可能被人类听到,尤其是那些有权访问可能识别客户的信息的机密,那将是另一回事。

在迈达斯神话中,理发师的耳语被回声拾起并放大了-巧合的是,用来召唤Alexa的亚马逊设备的名称。注释音频录音并帮助培训虚拟助手以认识泰勒·斯威夫特(Taylor Swift)并不意味着要抢购西装的员工不会看到客户的全名和地址,但是,显然,他们可以访问帐号和设备序列号。

这并不是一个很大的区别,尤其是涉及涉及金融交易或敏感家庭事务的私人对话时。当然,当数字助理被意外触发时,Alexa会拾取这些内容。

这种访问级别与Amazon拥有的安全摄像头公司Ring的基辅办事处的员工所享受的访问权限之间没有太大区别。 《侦听器》(Intercept)今年早些时候报道说,对客户不为人知的是,负责给视频添加注释的员工正在观看人们在家中和房子外的摄像头。

可以说,亚马逊对Intercept故事的回应措辞与它提供给彭博社的回应相同。该公司表示,“对系统滥用的容忍度为零”。这种样板反应几乎没有激发信任。

当然,亚马逊并不是唯一一家做这种事情的公司。 2017年,Expensify帮助公司管理员工的费用账户,在亚马逊拥有的人工交易所Mechanical Turk上雇用了工人,以分析收据。去年,《卫报》(Guardian)写下了所谓的伪AI的兴起,并指出了许多案例,其中科技公司雇用低薪人员来生成人工智能的培训数据。

训练和模仿之间的界限很窄:要创建必要的数据集,有时需要有人来复制算法预期的工作,并且这可能会持续很长时间。我怀疑Facebook和Google是否会摆脱成千上万的承包商,这些承包商扫描帖子中的令人反感,敏感或犯罪的内容,因为如果没有人工帮助,他们的算法将永远无法防止丑闻失败。

原则上,人类参与基于AI的工作没有错。实际上,如果我们要避免劳动力市场发生大灾难,这就是应该如何运作。正如麻省理工学院的达伦·阿斯莫格卢(Boron Acemoglu)和波士顿大学的帕斯卡·雷斯特雷波(Pascual Restrepo)在最近的一篇论文中写道,“自动化的作用被新任务的创造所抵消,而在这些新任务中,劳动具有相对优势。”那些“隐蔽的劳动力”正在做没有人工智能就不会出现的任务。

问题出在其他地方。从事AI项目的公司应该对人类参与诚实。 脸书和Google已经存在:他们的主持人和质量评估者所做的工作与亚马逊的Alexa培训团队所做的工作类似。

当然,开放将揭开AI的神秘面纱,并可能抑制诸如Echo之类的侵入性产品的销售。但是,如今,许多人会为了方便而牺牲隐私,因此使用这些设备仍然可以赚钱。

监管机构在这里可以发挥有益的作用。他们应确保公司真正将其AI培训数据集匿名化,并使其不可能将敏感数据链接到实际人员,而不是取决于公司的商誉或执法实践。

还要由当局来检查这些以数据为导向的新职业中工人的工资和条件。这些人在科技行业通常被认为是没有必要,不合格且容易更换的人,但他们的工作却在情感和心理上受到了人们的不充分理解。

尽管签署了保密协议,但这些工人仍与记者交谈的原因是,他们没有得到足够的重视,他们在技术水平很高的灰色行业中工作。他们的重要角色不应成为肮脏的秘密。

对于本文的转载和许可请求, 点击这里.