【时讯】这种人脸识别“隐身衣”，帮你保护照片隐私数据

本篇文章2748字，读完约7分钟

关注原始的尖端科技量子比特。

萧箫鱼羊产于凹非寺

量子报道|公众号qbitai

左图，右图，你知道区别吗？

其实，算法已经在右边的照片上加上了少量的写入。

但是，在这种肉眼看不到的干扰下，微软、亚马逊、游戏可以100%撒谎——世界上最先进的面部识别模式！

所以意思是什么？

这意味着po不用担心用一些软件把网上的照片扒干净、打包和分类了。 几美分给了ai。

这是来自芝加哥大学的最新研究。 在照片上加上肉眼看不见的编辑，可以使你的脸“看不见”成功。

这样，即使是网络上的照片被非法捕获，用这些数据训练的脸模型，也不能真正识别你的脸。

在照片上穿“隐藏的衣服”

这项研究的目的是让网民共享自己的照片，更有效地保护隐私。

因此，“隐身衣”本身也“看不见”，所以不会影响照片的视觉效果。

也就是说，这件“隐身衣”实际上是以像素级对照片进行微编辑，掩饰ai的重新审视。

其实，对深神经网络来说，具有特定标签的微小干扰可以改变模型的“识别”。

例如，如果对图像施加噪声，熊猫就会变成长臂猿。

fawkes利用了这样的特征。

x是指原始图像，xt是另一种类型/其他脸部照片，φ是脸部识别模型的特征提取器。

具体而言，fawkes设计如下。

步骤1 :选择目标类型t

客户u、fawkes的输入指定客户u的照片集合，记为xu。

从包含多个特定分类标签的公开面部数据集中随机选择k个目标类型候补设备图像。

使用特征提取器φ计算各级k=1…k的特征空间的中心点，作为ck。

然后，fawkes从k个候补集合中选择特征表现中心点和xu中的全图像的特征表现之差最大的类别作为目标类型t。

第二步:计算每个图像的“隐藏衣服”

随机选择t的图像，计算x的“隐身衣”δ(x，xt )，根据公式进行优化。

其中|δ(x，xt)| <； ρ。

研究者使用的是结构dis-similarity index ( DD SIM )方法。 在此基础上进行隐身衣的生成，可以使隐身后的图像和原图在视觉上高度一致。

△原始图像vs解决后的图像

实验结果表明，无论面部识别模型受到多么刁钻的训练，fawkes都能提供95%以上的比较有效的防护率，保证顾客的面部无法被识别。

即使一点也不小心泄露的未隐藏照片被追加到面部识别模型的训练集中，通过进一步的扩展设计，fawkes也可以提供80%以上的防止识别成功率。

在microsoft azure face api、amazon rekognition、face search api这几种最先进的面部识别服务面前，fawkes的“隐藏”效果达到了100%。

现在，fawkes是开源的，可以在mac、windows和linux上使用。

安装简单，方便

这里以mac系统为例，简单介绍软件的采用方法。 招聘笔记本是macbook air、1.1ghz双核英特尔酷睿I3的解决方案。

首先，从github下载压缩安装软件包并解压缩。

然后，把想修改的照片全部放在一个文件夹里，记住路径。

以桌面上名为test_person的图像文件夹为例。 其中有三张照片。 其中一张包括两个人。

这里的图像路径是~/desktop/test_person，根据你的图像保存位置会变得明确。

然后打开启动台的终端，进入有压缩包的文件夹。

如果macos是catalina，则必须更改权限以管理员身份运行。 sudo spctl —master-disable就足够了。

这里的压缩包直接放在下载的文件夹里，直接用cd downloads就可以了。

进入下载文件夹后，输入./protection -d文件路径(文件路径是图像文件夹所在的位置。 在此输入~/desktop/test_person )。 对生成的图像执行“隐藏衣服”。

嗯？ 太好了。 看起来能识别一幅画中的两个人的脸。

慢慢运行……

据作者说，制作“隐身衣”的速度平均为40秒左右，还很快。

如果电脑配置足够的话，应该能做得更快。

但是双核并不奢侈…我们耐心等待。

在时间上，解决速度还是可以接受的。

唐！

看照片，生成三张图像的“隐身衣”在电脑上花了大约七分钟(一定是我的电脑太慢了)。

让我们看看生成的结果

如您所见，文件夹中的三个图像生成扩展名为_low_cloaked的图像。

在介绍中，生成的后缀是_mid_cloaked的图像，但软件提供的模式有“low”、“mid”、“high”、“ultra”和“custom”几种，因此扩展名因模式而异

以川普为例，看看实际效果。

两张照片几乎无差别，不难看，川普脸上的皱纹看起来还很光滑。

由此，我们可以把安心解决的脸部照片放在网上。

即使被恶意的人录用，被盗的数据也不是我们的脸数据，不用担心隐私会泄露。

不仅如此，这个软件还可以“修复”你在社会交流网站上晒黑的各种面部数据。

比如，你是冲浪高手，以前在社会交流网站上发布了大量的生活照片PO——

照片可能被软件剥得很干净……。

别担心。

放置这些解决的图像后，这些自动刮痧图的面部识别模型想增加越来越多的训练数据以提高精度。

此时，如果穿着“隐藏服”的图像，从ai来看是“更有效”，将原来的图像作为异常值废弃。

华人一作

论文的一部作品是中国学生单思雄，高中毕业于北京十一学校，现在刚获得芝加哥大学的学士学位，9月入学获得博士学位，向赵燕斌教授和heather郑教授学习。

作为芝加哥大学sand lab研究所的一员，他的研究重点是机器学习和安全的交互，就像是如何利用一点不被注意到的数据紊乱来保护客户的隐私。

从单同学的推特上看，他在这个“透明”的世界里，致力于为我们争取唯一的隐私。

论文的合作emily wenger同样来自芝加哥大学sand lab实验室，学习cs博士。 研究方向是机器学习和隐私的相互作用，目前正在研究神经网络的弱点、局限性和对隐私的影响。

项目链接:

github/Shawn-shan/Fawkes/tree/master/Fawkes

论文链接:

people.cs.uchicago.edu/~ raven Ben/Publications/PDF/Fawkes-USENIX 20.PDF

参考链接:

the register// 07/22/defeat _ facial _ recognition /

——完

本文是网易信息网易号特色文案激励计划合同账号【量子位】原创文案，未经账号授权，禁止擅自转载。

量子比特qbitai ·头条号签约人

' '跟踪ai技术和产品的新动态

原标题:“微软面部识别100%失败！ 北京十一学校出身的新研究“隐身衣服”有助于保护照片的隐私数据。

阅读原文。