□ 俞飞

(资料图)

前不久,一则关于美国互联网巨头Meta公司的消息令人不寒而栗——这家公司采用算法随机解雇了60名美国劳务派遣员工。

值得一提的是,此前,Meta创始人兼首席执行官马克·扎克伯格警告员工:“市场低迷是我们近年来最为严峻的挑战,必须通过积极的业绩评估来淘汰表现不佳的员工。实际上,公司里很多人可能不应该来。”

近年来,全球诸多大型科技公司、互联网平台热捧算法,Meta无疑是其中之一。然而,在此次算法大裁员事件中,算法黑箱、算法歧视、算法暴政等负面效应一一暴露,引发了国际舆论的强烈关注。

“算法解雇”屡见不鲜

太阳底下没有新鲜事。早在2020年8月,游戏支付处理公司Xsolla“重组”,一次性裁掉美国洛杉矶450名员工中的三分之一。该公司表示:这次裁员完全是算法断定,这150名前员工“缺乏敬业精神,效率低下”。

“无论如何,解雇员工的人永远是雇主、一个或几个高管。但算法这台无形机器成为裁员的最新理由。这甚至不是新闻了。”西班牙劳动法专家内瓦多如是说。

“从道德的角度来看,你可能会被一个运用通用标准的算法解雇,这种算法绝不考虑个人情况。最关键的是,公司不愿展现最起码的尊重和同理心亲自与你沟通。”内瓦多感慨道,“老板和人力资源部门以算法技术创新为借口,推卸解雇责任,劳资关系一步步失去人性。如果不加改变,未来一片黑暗。”

类似的“算法解雇”事件正在不断上演。

镜头拉回到去年10月2日凌晨3点,美国凤凰城合同司机诺曼丁醒来,看到手机上一封自己为之工作4年的亚马逊的最新电邮。跟踪他一举一动的算法判断:您没有正确地完成工作,评级低于可接受的水平,公司遗憾地解除合同。63岁的他顿时手足失措。

原来,有一次他将包裹送到后,却无法打开亚马逊储物柜。他与支持人员通话30分钟,对方告知包裹退回送货站即可。然而,就是这次看似不起眼的小事故,让诺曼丁的个人评分突然闪崩。诺曼丁心急如焚,但公司告诉他“不用担心”。

“他们从来没有恢复我的评分。”诺曼丁说。

无奈之下,诺曼丁向亚马逊创始人杰夫·贝佐斯直接投诉:“我要求提供解雇决定的具体细节,希望对我4年送货全记录进行彻底审查。我相信自己始终如一的最高水平表现,证明我是一个理性而谨慎的人。”

12小时后,诺曼丁收到电邮,贝佐斯派人处理。但好几天过去了,投诉没有结果。是时候再次直接与人类打交道了,已经改行的诺曼丁直言:“算法对现实世界的运作方式没有任何常识!”

算法革命的附带损害

“人工智能算法优化工作流程,长期来看,它创造的就业岗位将远远多于它摧毁的就业岗位。”贝佐斯曾强调:唯一重要的商业决策是“战略决策”。其他的事情,不管它们有多重要,他更愿意把它们留给算法,因为它们的行动是“考虑到所有相关信息而不受情感干扰”。

对于贝佐斯这般巨富而言,高歌猛进的算法革命带来的附带损害,或许无足轻重。但是对于像诺曼丁这样的输家,荒谬至极。他说:“我是一个老派的人,每份工作都付出了110%,我究竟做错了什么?没人告诉我。”

在亚马逊将人力资源业务交给算法后,软件成了职员、仓库工人、合同司机、独立承包者的监控方,负责雇佣、评估和解雇数百万亚马逊员工。贝佐斯坚信,机器算法决策比人更快更准确,成本更低,竞争优势更大。

沙希德与诺曼丁有着相似的遭遇。

2019年,沙希德在英国伯明翰为优步公司开车。此前5年,这位金牌司机得到的客户评分为4.96——接近满分5分。那年8月早上,他发现无法登录上班,损失惨重。

后来才知道,优步算法检测到沙希德存在“持续的不当使用”,因而禁止他进入公司系统。沙希德无法申诉,而优步也拒绝透露司机错在何处,因为“这是公司的商业秘密”。

“过去一年半里,我给优步打了60次电话。我恳求他们,没有回应。”沙希德说。

2020年10月,代表沙希德和其他3名在英葡萄牙司机的运输工人国际联盟代表,在存储优步欧洲数据的荷兰起诉,指控算法不当解雇。“多年来,优步一直被允许违反雇佣法而不受惩罚,现在我们看到了一个奥威尔式的工作世界,工人没有权利并由机器算法管理。如果不制止优步,这种做法将成为每个人的常态。”

原告律师强调,欧盟《通用数据保护条例》(GDPR)(以下简称《条例》)第22条规定:“数据主体有权不受仅基于自动化决策所作决定的影响,包括那些会对他们产生法律效力或类似重大影响的特征分析。”据此,司机遭不当解雇,公司不仅未给出解雇理由,还剥夺司机申诉权,显然违背了《条例》的要求。值得重视的是:受害欧洲司机人数超过1000人,但此前无人起诉。

被告律师反驳,优步收到顾客投诉,算法检测到司机谎报行车路线,安装使用操纵软件,严重影响公司正常运营。对此,原告律师反击道:《条例》保护个人免受不公平的算法自动决策的影响,作出解雇决定前,必须有人参与;希望法官强制优步披露秘密决策全过程。

谁来监管“数字老板”

次年4月,阿姆斯特丹法院判决:优步解雇司机的决定可被视为仅基于自动化处理(包括分析)的决定,这对原告具有负面法律后果,严重影响他们依据《条例》第22条第1款所享有的基本权利。优步必须在一周内恢复司机工作。

“存在明确伦理后果的领域,永远不允许人工智能轻易取代人类推理经验和能力。换言之,永远不允许机器决定谁被处决,谁被碾死,谁被解雇。算法基于纯粹的效率标准行事。重大决策不能自动化,不能脱离负责任的反思——这是人类特有的优势。”《机器人新法则》的作者——纽约布鲁克林法学教授帕斯夸里批判,“人沦为纯粹的工具,丧失自由和理性生物的地位,完全失去人性。把人当作非人对待,数字老板永远是一个暴君”。

西班牙工会在《劳动关系中的算法关系》文件中表示,防止使用算法解雇员工的安全网必须采取明确规定的形式,要求人工智能使用透明的标准;必须采用预防原则,因为算法会犯错,会对“人的安全和基本权利”产生严重的负面影响。

Meta高管哈巴斯也提醒,算法甚至对创建它们的工程师来说都是黑箱。机器学习系统和软件算法由数以万计的数据点组成,一般为即时计算,难以检索原始输入。公司往往不愿投入大量人力、物力、财力,追踪算法输入输出全过程,除非新法或法院裁决强制推行算法审查和算法解释,公司才会这样做。算法偏差最常发生在没有提供足够多样化的训练数据的情况下。这会导致算法产生盲点并提供不准确或有偏见的决策。

由此可见,在悄然来临的算法时代,法律监管算法已经刻不容缓。否则,人类有朝一日难免沦为算法的奴隶。