优步司机工会要求欧盟法院通过算法推翻机器人射击

代表英国Uber司机的工会对欧洲的乘车巨头提出了第二项法律挑战。这次，工会争辩说，Uber所谓的“自动射击”做法违反了《欧盟通用数据保护条例》(GDPR)第22条，该条例旨在保护个人免受自动决策的影响。

该诉讼已提交给Uber欧洲总部所在地的阿姆斯特丹地方法院。它由三位英国前Uber司机发起，并得到了App Drivers&CouriersUnion(ADCU)的支持，ADCU是英国的一家为基于App的公司工作的司机和信使的工会。支持该行动的还有非营利组织“工人信息交换”，该组织旨在帮助演出经济工人。来自葡萄牙的第四名车手在国际基于应用程序的运输工人联盟(IAATW)的支持下加入了挑战。

这是一系列引人注目的案例中的最新案例，这些案例使推力算法成为人们关注的焦点，声称存在偏见并且缺乏责任感。例如，去年，高盛(Goldman Sachs)在用于确定Apple信用卡信用额度的算法中遭到性别歧视指控后登上头条。

做决定

这是ADCU在过去几个月中第二起此类案件，此前该组织代表司机起诉Uber，要求其从所谓的“秘密档案”中获取数据。该组织认为，Uber保留了用于对驾驶员施加“管理控制”的关键数据，例如用于监视驾驶员绩效的指标。该案定于12月16日开庭审理。

最新的挑战将与第一个挑战同时发生，它使用GDPR监管规定来应对人类很少监督的自动决策。GDPR第22条规定：

数据主体有权不接受仅基于自动处理(包括配置文件)的决定，而该决定会对其产生法律效力，或对他或她产生类似的重大影响。

ADCU的最新案件称，Uber基于算法将驾驶员从其平台上踢了出来，并指责他们“欺诈活动”而没有提供任何上诉途径。该文件承认了优步的论点，即它使用“专业员工”来评估帐户停用。但是驾驶员律师安东·埃克(Anton Ekker)认为，优步没有“进一步证实这构成了有意义的人工干预”，也没有对员工进行培训以了解“人工智能系统的工作原理”。该文件内容如下：

特别是，Uber并未证明参与自动决策的员工：

对决策产生有意义的影响，这意味着，除其他外，这意味着他们必须具有“权威和能力”来反对该决策

考虑所有可用数据并考虑其他因素，“权衡”和“解释” Uber人工智能系统的建议

可以预测如果调整“输入”，系统的“输出”将如何变化

能够确定哪个输入对特定输出的贡献最大

能够确定何时输出不正确

证据

法院文件指出，在这四个案件中，司机“在Uber表示其系统检测到欺诈活动后被解雇，”司机否认。此外，该文件称，Uber从未向司机提供任何证据来支持其主张。ADCU表示，它认为Uber实际上是在欺诈指控背后隐藏了与性能相关的停用，包括在需求低迷且价格不高时驾驶员可能退出Uber应用程序的情况。

这是两个单独的法律挑战重叠的地方，因为这两种情况都取决于指控Uber不允许其驾驶员访问其自动化系统用来制定决策的数据类型，包括性能指标。

“我们认为，Uber已将停用驾驶员的程序自动化到一定程度，使其容易受到滥用和错误的影响(与索赔人一样)，并且没有有意义的人为干预，” Worker Info Exchange总监James Farrar告诉VentureBeat。“从本质上讲，这些都是未经适当审查或上诉权的自动解雇。因此，这违反了GDPR下的法律。”

Uber在发给VentureBeat的一份声明中说，它“提供了要求的个人数据和个人有权获得的信息”。“当我们无法提供某些数据时，例如当数据不存在或披露该数据会侵犯他人根据GDPR享有的权利时，我们将给出解释。作为我们常规流程的一部分，在这种情况下，只有在我们的专家小组进行手动审核之后，才会停用驱动程序。”

ADCU正在要求受到停用影响的其他Uber司机和快递员注册并加入“潜在的未来行动”。它还发起了一项众筹活动，力争在未来三周内筹集20,000英镑(合26,000美元)，以资助法律诉讼。