"AI隐形衣"曝光：明明就在眼前 AI却不知道那是个人

电影中的隐形衣尚未成真，美国资安研究人员却找到让AI“视而不见”的方法。只要把电脑生成的特殊图纹印在衣服或贴到汽车上，监视器虽然仍会录下完整影像，背后的辨识系统却可能看不出画面里有人或车辆，因而不会发出追踪警报。



美国资安研究人员史威林根公布六个图案，但其实有效过更强的图案没有公布，以免被视觉辨识人员拿来加入训练。Tech Crunch

《TechCrunch》报道，美国资安研究人员史威林根（Bill Swearingen）过去一年反复进行约3100万次测试，开发出名为“noRecognition”的反辨识图纹。他表示，现在已能依需求生成图案，干扰美国街头常见的车牌辨识器、人体侦测及脸部辨识系统。

近年监视器不再只是把影像录下来。

搭配AI辨识演算法后，系统可以从数以万小时计的影像中，自动找出特定车牌、车辆、人物或脸孔，让警方不必逐一观看画面，就能像从干草堆中抽出一根针般锁定目标。

史威林根的图纹不会遮挡镜头，也不会让穿戴者从影像里真正消失，而是让辨识演算法无法判断被图纹覆盖的东西究竟是人、汽车或其他物体。

系统如果没有侦测到目标，就不会自动标记、搜寻或发出警报，使穿戴者重新变成埋藏在大量影像中的一根针。

“隐私是一项基本权利。”史威林根表示，他希望让不愿被追踪的民众，能够选择退出演算法监控。

史威林根住在密苏里州堪萨斯城，也是当地资安社群SecKC的共同创办人。

他说，居住地附近布满监视器，有些甚至仅相隔几英尺，但居民从未同意自己要受到全天候监看，他也从未同意政府把驾照照片拿去进行脸部辨识。

真正让他动手研发的原因，是去年曾想参加一场示威活动，却担心沿途监视器可能辨识、追踪行使集会与言论自由的参与者。

他自认身为住在美国中部的白人男性，过去很少因身分或外貌遭受歧视；如果连他都对监控感到不安，处境更弱势的人可能更加不敢公开表达意见。

史威林根最初建立小型实验室，逐一测试不同的开源影像辨识演算法，接着增加运算能力，将系统发展成一套强化学习模型。他形容，这个过程就像“教AI如何画画”。

每当生成图纹仍被监视器认出，模型就修改图案再次测试，反复尝试直到能同时骗过多种演算法。

史威林根宣称，目前模型已找到可以干扰11套开源辨识演算法的图纹。这套模型现在每分钟都能生成新图案，而且每一批的数学效果都比上一批更好。

史威林根8月7日在拉斯维加斯举行的DEF CON资安大会上，首度进行公开实地测试。他与汽车影音频道Donut Media合作，使用最新图纹包覆一辆2009年式Toyota Yaris，再让汽车通过车牌辨识摄影机，“我们证明它确实有效。”

不过，没有被图纹完整包覆的车轮仍是测试中的难题。Donut Media预计未来数周公开完整实验视频。



有特别图案的女性，AI无法辨识为人类。Tech Crunch