苹果将在 iOS 15审查 iCloud 照片以保护儿童,引发隐私保护争议
日前,苹果美国官网表示,将在iOS 15中添加新功能,用于检测存储在iCloud照片中的儿童性虐待图片,同时防止儿童收发色情图片。
此举引发了多方反对,一份抵制该系统的联名信被刊发在网络平台Github上,已有超过7000个用户与30家组织签字。与苹果存在竞争关系或是曾对其提起诉讼的公司——Facebook旗下子公司WhatsApp的负责人以及Epic Games CEO同样表达了反对的声音。
对此,苹果公司近期发布《“扩大对儿童的保护措施”常见问题(FAQ)》的声明,再次重申隐私保护,希望减少外界对此功能的疑虑。苹果高管同样发声否认削弱隐私开“后门”的说法。
苹果新照片甄别系统引争议
根据苹果官网,苹果今年将在iOS 15、iPadOS 15、watchOS 8 和 macOS Monterey 的更新中通过两项举措加强对儿童的保护。
该计划中的第一项,是推出名为neuralMatch的工具,该工具将在图片上传到该公司的iCloud(在线存储工具)之前扫描它们,并将它们与已知的儿童虐待图片数据库(CSAM)进行比对,如果内容高度相同,将进入人工审查程序,违规用户的账户将被禁用,并且苹果将向美国国家失踪和受虐儿童中心(NCMEC)报告这些情况。
其次,苹果将在Messages 应用程序中添加新工具,能够自动识别色情图片,以在接收或发送色情照片时警告儿童及其父母。
此举收到NCMEC的赞扬,该组织首席执行官约翰·克拉克(John Clark)表示苹果的举动“改变了游戏规则”。
但该计划却引发了多方声讨。反对者认为苹果此举为政府通过手机监控市民提供了便利,同时苹果的监控范围是否会在未来持续扩大也不得而知。
在苹果公布新技术后,一份抵制该系统的联名信被刊发在网络平台Github上,该联名信由安全专家、密码学家、法律界人士和普通消费者等共同发起。联名信写道,尽管打击虐待儿童是一个毫无疑问的善意出发点,但该系统以及背后的智能算法实际上给苹果系统加装了一个削弱隐私的“后门”,这可能侵犯所有苹果用户的个人隐私。
美国华盛顿隐私保护团体“民主与科技中心”(Center for Democracy and Technology)表示“这标志着苹果背离了长期以来的隐私和安全协议”,加拿大非盈利组织“开放隐私研究协会”(Open Privacy Research Society)的负责人莎拉·杰米·刘易斯(Sarah Jamie Lewis)则认为此举或引发其他供应商效仿。
非营利性国际法律组织“电子前沿基金会”(Electronic Frontier Foundation,下称EFF)就此事多次公开表态对苹果的失望。8月5日,该组织发文表示“任何人都有权在没有审查的情况下交流,包括未成年人”,并认为对iCloud照片的扫描有可能发展为全球隐私安全事件,任何政府都有可能用类似技术对公民进行监控。在8月10日的推特中,EFF补充道,“经过深思熟虑的‘后门’,仍然是一个‘后门’。”
此前揭露“棱镜”计划的斯诺登,则在推特上号召人们加入抵制。斯诺登转发《金融时报》的一篇文章,并援引了安全工程教授罗斯·安德森(Ross Anderson)的一段话,称苹果这一技术路线终将导致对用户的大规模监控。
在反对苹果的声音中,出现了不少与苹果存在竞争关系或是曾经对其提起诉讼的公司。
Facebook旗下子公司WhatsApp负责人威尔·卡思卡特(Will Cathcart)表示,苹果公司的行为“非常令人担忧”,该系统可以很容易地被运用于扫描个人隐私。同时威尔·卡斯卡特认为,苹果对该技术的应用过程应当有更多专家与组织的介入。
2020年8月,游戏公司Epic Games旗下游戏应用《堡垒之夜》因向用户提供直接付款渠道而被苹果以违反政策从应用商店下架。就此,Epic Games向法院对苹果提起反垄断诉讼,该案尚未宣布判决。就苹果发布的新系统,Epic Games CEO蒂姆·斯威尼(Tim Sweeney)表达了激烈的反对,认为苹果对iCloud数据进行检查无异于搜查公民的个人物品。“我担心的是,苹果试图从‘后门’侵犯的不是我们的iphone数据,而是民主和法治本身。”
出了对隐私保护的担忧外,许多专家还将矛头对准了该系统的设计缺陷。约翰·霍普金斯大学密码学研究员马修·格林(Matthew Green)在推特提到,从理论上讲,可以用看似无害但匹配违规序列的图片让用户被封禁,同时,苹果可能为每个用户使用不同的CSAM数据集,并通过此举对某个用户采取更严格的审查。
哈佛大学网络法律诊所讲师坎德拉·艾伯特(Kendra Albert)也在一篇文章中指出,该系统对家长通报的年龄范围限定等方面不够明确。
苹果再次重申保护隐私
对于多方的担忧,苹果不止一次公开表示新系统不会影响苹果现有的隐私保护。
在媒体发布的采访视频中,苹果软件部门负责人克雷格·费代里吉(Craig Federighi)表示,人们对苹果新功能有广泛的误解,原因之一是苹果选择将两个功能一起公开。
就检测照片引发的争议,克雷格回应,苹果只会检查那些上传到iCloud照片库的照片,而不是手机上的全部照片,并且“扫描图片”的说法也并不准确,该系统只是用哈希算法检查图像的序列。同时,克雷格否认了开“后门”的说法。
外媒《9to5Mac》曾在文章中披露了苹果公司与NCMEC的内部对话。文中写到,苹果软件副总裁塞巴斯蒂安·马里诺-梅斯(Sebastien Marineau-Mes)在发给项目团队的信中表示,虽然苹果已经看到了新功能的许多积极回应,但意识到“一些人对这些功能的工作方式存在误解”,而且“很多人担心其影响”。尽管如此,塞巴斯蒂安强调这些功能对于“保护儿童”是必要的,同时也将继续维护苹果“对用户隐私的坚定承诺”。而NCMEC则在对项目团队的信中表示:“未来的日子将充满少数人的尖锐声音。”
斯坦福大学教授,前Facebook安全主管埃里克斯·斯塔莫斯(Alex Stamos)在推特写到,NCMEC与EFF的表态都令人感到失望。“二者公开或泄露的声明几乎没有留下任何对话的空间,而苹果的公开举动则促使他们更极端地维护自己的权益。”而对于NCMEC泄露的对话记录,埃里克斯表示,此举无助于苹果与反对人士展开更深层次的对话。
针对新系统引发的一系列争议,苹果发布《“扩大对儿童的保护措施”常见问题(FAQ)》的声明,再次重申了自己的隐私保护优势。“与其他公司采用的技术不同,iCloud中的CSAM检测技术提供了显著的隐私保护优势。该技术不会直接扫描图片。”
对于苹果将会扩大监控范围的指控,声明中写道,苹果曾被政府要求作出有损用户隐私的更改,但“我们坚决拒绝了这些要求,今后我们将继续拒绝他们”。
这让人联想到,2016年,美国联邦调查局(下称FBI)曾要求苹果协助解锁一部曾经被恐怖分子使用的 iPhone,而苹果首席执行官蒂姆·库克(Tim Cook)随即发表了一份声明,表示苹果将对 FBI 的要求抗争到底。当时,EFF表示将会为苹果的抗争提供帮助。
但这一次,他们对苹果的回应并不买账。EFF网络安全总监伊娃·加尔佩林(Eva Galperin)要求苹果作出更有力的承诺。“苹果说他们会拒绝政府的请求,他们到底会怎么拒绝呢?他们会在法庭上抗辩吗?他们会完全撤出这个国家吗?现在不是含糊不清的时候。”