照片应用程序曾在不通知用户的情况下改变其业务
亚历克斯·卡斯特罗的插图 / Th
一款为用户提供免费,无限私人备份你一生的回忆的照片存储应用,一直在秘密使用客户的私人快照来训练和销售面部识别软件。
正如NBC News 的一篇报道所详述的那样,这家初创公司 Ever 于 2013 年作为一家简单的云存储业务推出,但在意识到照片应用不会成为风险投资后,于 2017 年转型为面部识别技术供应商商业。”。
但是,客户没有被告知这一变化——或者他们的照片和视频现在是如何被使用的。“技术考虑不能脱离社会影响。
用户没有被告知他们的数据正在训练面部识别
该公司最初的 2,500 字隐私政策指出,面部识别有助于组织用户文件,让他们将同一个人的图像组合在一起这些数据也被用于训练 AI 的唯一承认包含在一个神秘的行中:您的文件可能用于帮助改进和训练我们的产品和这些技术
在NBC 新闻4 月份联系该公司后,该公司更新了此隐私政策,并添加了一句话来解释这些产品包括企业人脸识别产品但专家表示,该公司未能告知用户他们的个人数据是如何被使用的,这显然侵犯了用户的隐私
纽约大学法学教授贾森舒尔茨告诉NBC 新闻: 他们正在商业上利用照片中人物的肖像来训练一种出售给军队和执法部门的产品 用户已经给予任何形式的真正同意的想法是可笑的
Ever 本身并没有将其软件出售给军方或执法部门,并强调它从不显示有关用户的个人数据。“开发面部分析技术然后武器化有什么好处?”带头调查面部识别偏见的AI研究员JoyBuolamwini去年告诉TheVerge。
使用公开照片训练人脸识别软件很常见
但它的支点显示了面部识别系统通常是如何通过从毫无戒心的公众那里拍摄的照片来训练的像MegaFace和Faces in the Wild等数百万张照片的巨大数据库被学术界和私营公司用来训练面部识别 AI它们通常包含从公共网站中抓取的照片
在 Ever 的面部识别系统网站上,该公司吹嘘自己拥有世界上最大,最多样化,专有的标记数据集之一,拥有超过 130 亿张图像和视频它表示其软件用于监视和监控,物理访问控制和数字身份验证,不仅可以识别个人,还可以根据他们的形象对他们的情绪,种族和年龄进行分类
当NBC 新闻询问该公司是否已采取足够措施告知用户他们的数据是如何被使用的时,Ever 的首席执行官 Doug Aley 表示他是这么认为的。
Aley 说:我认为我们的隐私政策和服务条款非常明确且清晰 他们不使用任何法律术语
。