【报告】布鲁金斯:十大举措降低面部识别风险!
2019-11-04 20:54:12
  • 0
  • 0
  • 0

原创: 赛博研究院

因不愿意使用人脸识别,近日,浙江理工大学特聘副教授作为消费者将杭州野生动物世界告上了法庭。该案也成为国内消费者起诉商家的“人脸识别第一案”。面部识别(FR)软件的双重用途激发了人们不同的强烈反应。一方面,许多人担心识别技术将造成大规模监视和隐私侵犯,认为无处不在的摄像机、人工智能和数据分析相结合所形成的面部识别技术会伤害人类并限制个人自由。但与此同时,面部识别技术已被用于寻找失踪人员,提高学校和机场的安全性,帮助视力障碍者以及打击恐怖主义。2019年10月31日,布鲁金斯学会发布《保护人们免于面部识别软件风险的十大举措》报告,提出包括限制数据存储和共享,规定准确性标准,建立第三方评估等举措,旨在最大程度保护人们免受面部识别软件带来的风险。

全文共2058字,阅读时间约为7分钟。

01
限制数据存储时间

人们对面部识别最担忧的问题之一是图片和视频的存储时长,这些数据在将来存在多种被恶意利用的可能。人们担心信息被滥用并影响个人自由。一种有利于缓解担忧并限制滥用的改革措施是限制图片和视频的存储时间。如果视频在某一危险关头有用,那么一旦危险解除则无需保留相关数据。保留的时长因数据的使用类型而异,某些信息需要保留更长时间,而另一些信息则可以在短时间后删除。一种称为“联合学习”的机器学习方法可确保数据永远不离开相机(即永远不会发送到中央数据中心),从而提高了数据安全性。

02
限制数据共享

从组织A向组织B或C传输图像时,必须遵守明确的相关标准,证明组织B或C对信息具有合理需求。企业不应无限制地传输或出售面部识别图像。相反,对于面部识别图像的传输需要有清晰理由阐述。布鲁金斯学会调查公众意见发现,面部识别应用环境的不同会导致个人态度也有所不同。

03
在公共区域明确告知

若企业或政府机构拍摄、录视频或以其他方式收集可在人脸识别中使用的人员信息,应在公共场所张贴明确的通知,告知人们这些行为。此举可以提醒公众其脸部信息已被记录,因此反对者可以避开这些区域。此步骤将提高消费者对面部识别使用的认识,并使人们能够采取他们想要自我保护的任何个人行为。

04
要求精确度标准

面部识别的主要问题之一是对于不同种族群体具有不同的准确度。由于许多训练数据不完整或不能代表一般人群,因此基于这些信息的面部识别具有偏见。随着在执法、边境安全、零售和机场中部署面部识别,各种族群体之间的差异结果将造成偏见和歧视,并未各种不同结果提供基础。当然,在广泛部署面部识别之前确定其应具备的准确度是具有挑战性的。显然,准确度取决于对人们生活的影响程度,比如在执法领域,错误识别可能导致逮捕或监禁,故而准确性水平应该很高。

05
部署第三方评估

第三方评估有助于组织对面部识别产品和服务增强信心。消费者希望确保产品能够实现预期功能,并避免在使用中出现问题。第三方组织可以帮助建立对面部识别部署方式及其评估准确性的信心。

06
减少附属信息收集

一些面部识别应用程序会汇集大量与记录的主要目的无关的附属信息。除非证据与调查中的事件明显相关,否则执法部门无需保留调查以外的无关信息。当图像不再具有调查价值时,应将其模糊处理或直接破坏。

07
营销应用程序需要提供加入选项

与面部识别相关的营销应用程序应提供选择加入选项。此处的面部识别包括将个人名字与商业资料对号入座上并直接投放广告。由于消费者对个人隐私非常敏感,因此出于营销目的而使用的面部识别应该受到“选择加入”条款的限制。此外,部分情况下可以通过选择退出选项。为人们提供删除其图像的方法将使公众确信,这些图像不会被用于未经其批准的用途。被遗忘的权利将建立公众对面部识别应用的信心。

08
制定技术标准

技术标准是企业保护产品的常用方法。例如,在开发移动技术时,专家们确定了通信、安全性和互操作性的通用标准。所有智能手机都必须满足这些规格才能销售。国际机构将标准扩展到海外,这使智能手机在全球范围内更易使用。相同的逻辑适用于面部识别——应该有确保应用程序安全和隐私受到保护的技术标准。针对面部识别的监管,应与其他具有双重性用途的产品类似。

09
验证部分用途

企业系统的安全性已由国际标准化组织(ISO)等组织认证。该小组明确特定产品是否符合政府法规,并由第三方组织对产品进行合规性测试。这可以帮助消费者和企业了解应用程序的功能以及它们是否符合指定的规则。这是保证高度统一的一种方法,可以提高行业整体信心。在美国,NIST对产品进行认证。该机构使用公共数据库来测试面部识别软件并认证特定的应用程序。不过,有人认为NIST测试依赖于抓取自私人网站的数据,并且其测试无法转化为日常情况,缺乏对大量数据进行测试,而是过多地关注与执法相关的应用程序,并且测是否试通过取决于图像质量和操作功能。认证应将自动测试与人工检查相结合,以便获得最可靠的测试和认证。

10
确保面部识别测试基于代表性数据和实际现场条件

重要的是,在对面部识别软件进行认证、技术标准和政府合规性测试时,必须基于具有代表性和非特殊性的数据,并且这些数据是在符合实际条件的现场进行的。在具有大量专有信息的商业系统中,至关重要的是将代表性数据库用于基准测试和产品认证。特殊信息源(例如为大头照拍摄的图像)不能代表总体人口,因此不适用于测试目的。面部识别测试依赖于广泛的图像信息、现场条件和人群分组。鉴于面部识别水平随光线条件和图像分辨率的变化而变化,进行可靠的现场测试至关重要。

编译 | 贺佳瀛

原文链接:https://www.brookings.edu/research/10-actions-that-will-protect-people-from-facial-recognition-software/

最新文章
相关阅读