这家有争议的以色列人脸识别公司,把生意做进了美国各大赌场

以色列的面部识别技术正被用于美国的各大赌场里,这引起了人们对私营机构将如何使用强大监控工具的担忧。

每一天,俄克拉荷马州塔尔萨市河灵赌场 (River Spirit Casino) 保安室的一排排监控屏幕上都会出现数千张面孔。

每一张出现的面孔都会与该赌场的禁止入内人员监控名单进行比对,而这份名单里包含了骗子、已知罪犯,以及可能心怀不满、伺机捣乱的前雇员。

该赌场的安保系统采用了以色列监控初创公司Oosto的面部识别技术。这家有争议的公司原名是AnyVision,因向以色列政府提供用于监控约旦河西岸边境的技术而在2019年登上了各大新闻媒体的头条。

如今,该公司已更名,并将业务重心更多地转移到了私营公司,其中就包罗赌场。

本年7月,《福布斯》的一名视频制作人实地观看了该赌场监控中心的运作。只见一个蓝色的方框出现在一名戴着口罩的女性的头上,接着这个方框变绿了。对于这个软件来说,绿框是一个危险的标识表记标帜,尽管这位女性遮住了脸,但Oosto的面部识别系统仍然高度必定地表示她是一个不受欢迎的人。

博彩公司Muscogee Nation Gaming Enterprises的合规与监控主管Travis Thompson指着运行Oosto软件的屏幕说:“她必定在试图隐藏本身的身份,因为我们的系统给她打出了一个很高的分数。”

他说,在该软件中进行标识表记标帜之后,他们就会亲自核查这个人的身份。如果此人在被禁止入内的名单上,工作人员就会给他/她一张表格,提醒对方在这里不受欢迎,并告诉其已经出现在了赌场的面部识别数据库中,然后把他们送出赌场。

塔尔萨河灵赌场的监控控制室显示,Oosto技术正在扫描人脸。图源:FORBES MEDIA

这种监控技术正在覆盖美国各地的私人和公共场所,而这种强大的技术不仅掌握在了警察和联邦政府手中,并且还被卖给了私营机构,无论是赌场还是零售店。

虽然在企业看来,这不外是一种实现机构安全自动化的方法,但这种在过去主要由情报和执法机构使用的工具的私有化仍然让隐私庇护活动人士感到害怕。

美国电子隐私信息中心 (EPIC) 负责国内监控的律师Jake Wiener说:“将面部识别技术卖给私营公司,实际上会增加警察滥用技术的风险,因为私营公司会向警察出售或提供这种技术权限。面部识别技术破坏了人们的隐私,它被使用得越多,在公共和私人空间里追踪人们的动向就越容易。”

不外,Oosto仍然希望本身能成为这个市场的顶级供应商,因为有很多欧美私营机构想要让本身的监控更加顺畅。自2015年成立以来,该公司已经从软银和高通创投 (Qualcomm Ventures) 等机构筹集了3.8亿美元资金。

2019年,以色列媒体《国土报》 (Haaretz) 报道称,这家监控企业向以色列军方提供了用于识别西岸边境的巴勒斯坦人的工具,之后微软的融资部门M12便撤出了持股。

不外,Oosto引用了一份所谓的针对其用例的独立审计报告,称其技术并没有被用于开展大规模监控活动,而是在边境进行“准入控制”,即在人们来往于约旦河西岸和以色列之间时进行面孔比对。

自上述报道发布以来,Oosto便改变了其品牌名称,并将重点更多地转移到私营部门,以及为更广泛的地域提供办事。目前,该公司的技术办事对象包罗在本土观看比赛的美国球迷、参观印度泰姬陵的游客、参观特拉维夫私人拉斐尔病院的访客,以及进入悉尼澳大利亚赛马俱乐部的观众。

赌场是Oosto非政府业务的主要组成部分。公司声称本身在为拉斯维加斯大道上一些最大的赌场提供办事,但表示不能提供这座“罪恶之城”里的客户名字。

此外,它还为坐落于伦敦上流社区梅菲尔区的私人赌场Les Ambassadeurs提供面部识别办事。在那里,Oosto的技术被用于发现不法分子,还有识别VIP客人并为其提供办事。但出于伦理方面的考虑,河灵赌场的老板决定不使用它来检测贵宾。

“我们希望我们的赌场有一种对客户友好的氛围,所以不希望让他们觉得‘老大哥’一直在盯着他们。那不是我们的系统在这里的用途。”Travis Thompson说。

他补充称,本身的赌场之所以决定采用面部识别技术,是为了支持不胜重负的赌场安保人员,因为他们“很难亲自识别出人脸”。

Muscogee Nation Gaming Enterprises的合规与监控主管Travis Thompson

“在过去,这个职责是由我们的保安和楼层人员肩负的,他们要走出去,记住谁是不良主顾,谁是拙劣演员,并试图在每天的人海傍边识别出他们。”

Travis Thompson表示,他的赌场曾与执法部门合作过,而这个面部识别系统在把欺诈者关进监狱方面发挥了关键作用。他不肯透露具体的案例,不外赌场上常见的欺诈行为包罗利用监控设备在扑克牌局中作弊,以及暗中给赌局加注。

虽然该赌场表示,这项技术只会用于庇护大多数无辜的客户群体,且后者的脸部信息不会存储在其系统中,但面部识别技术的批评者说,这类办法不足以庇护人们的隐私

虽然警察和政府机构受到信息自由要求和其他形式的监督,但私营机构却不受此限制,并且它们有权将任何人列入本身的监视名单,并借用此技术将人送进监狱。

Jake Wiener说:“最起码,Oosto应该保留搜索和决策的记录。如果一个人因为这项技术而被拒绝参加某个活动,或者因为Oosto的识别而被逮捕,那么这个人应该要知道他们是如何被识别的。”

除了每天扫描成千上万人的脸所带来的蠕变因素外,这项技术也有一个无法成功检测非白人个体的历史。此前,该系统对黑人的面部识别错误就曾导致有人被错误逮捕,而在本年早些时候,也有美国参议员呼吁联邦机构停止使用该技术,因为它“对黑人、其他有色人种群体和移民群体构成了独特的威胁”。

在比来的一个案例中,伊利诺伊州公民自由联盟 (ACLU) 就成功地迫使一家名为Clearview AI的面部识别公司停止在该州或向美国私营公司进行销售(该公司已经表示不会向美国的非政府组织出售产品)。

佛蒙特州和俄勒冈州波特兰市则禁止使用面部识别,以至于这些地方的警察和私营机构都无法使用这种技术。

不外,一些禁令将在未来几个月里到期。在加州,警方目前被禁止在随身相机中使用面部识别和生物识别扫描仪,但该禁令的有效期只到明年1月;弗吉尼亚州曾禁止警察使用面部识别技术,但随后又在本年7月取消了该禁令,尽管该州的新法律只允许“在所有人口群体中具有至少98%的准确率”的面部识别产品。

塔尔萨市河灵赌场正在不竭地扫描黑名单上的面孔,它的监控系统供应商Oosto正计划在未来的软件中推出行为和身体部位识别。图源:FORBES MEDIA

Oosto的首席营销官Dean Nicolls表示,在很大程度上,主要供应商中已经克服了偏见问题。“如果你在一群中年白人男性身上训练人工智能,那么它将非常擅长识别中年白人男性,但对非裔美国女性的识别可能就不太好。不外这些偏见在很大程度上已经被消除了。如果你看看面部识别领域的所有主要参与者,你会发现,从年龄或种族的角度来看,他们几乎没有任何偏见。”

但是,该公司拒绝提供任何显示其技术在偏差测试中的表示数据。美国国土安全部去年开展的一项研究发现,最好的算法对人脸的检测准确率超过了95%,无论其肤色如何,可总体而言,该技术在检测白人男性方面的表示仍然好于任何其他群体。

Dean Nicolls说,Oosto其实并不仅仅专注于面部识别,它还计划进军同样有争议的行为识别领域。虽然有越来越多的证据表白,软件可以凭借超90%的准确率识别人脸,但尚未证明代码能够确定一个人是否会执行危险行为,或能否通过分析一个人的运动模式来确定其精神状态。

此前,《福布斯》报道过多家开展情绪检测和预测的公司,而研究机构AI Now的联合创始人Meredith Whittaker就报复该技术“并没有健全的科学共识”。

去年,《福布斯》曾报道了Oosto的一项专利,该专利将其面部识别技术应用于无人机,从而实现空中监控。然而,该公司尚未将这项技术付诸实践。

如果Oosto还打算继续鞭策监控技术的可行性,它将遇到更严格的技术和道德壁垒

当微软在2020年决定与这家科技公司分道扬镳时,尽管前美国司法部长Eric Holder已经确定这笔投资没有违反前者的任何道德政策,此举也清楚地表白了参与传播这项技术的风险。正如当时双方在联合声明中所说的:“从微软的角度来看,审计过程强化了在一家销售敏感技术的公司中担任少数股权投资者的挑战。”

随后,Oosto颁布颁发将不再接受面部识别业务的少数股权投资。

“福布斯”(ID:forbes_china),作者:Thomas Brewster,经。

未经允许不得转载:迪欧吧_技术交流_资源分享_热点资讯_免费VPS空间 » 这家有争议的以色列人脸识别公司,把生意做进了美国各大赌场