编辑:量子位    发布日期:2021-08-19 14:07:02

8 月 19 日消息 没想到苹果被打脸来得如此之快。月初,苹果表示将在 iOS 15、MacOS 12 中加入对用户照片的检测,目的是遏制儿童色情与虐童照片的传播。苹果还一再强调这项技术的安全性和准确性。

现在,不到半个月的时间,苹果的这项技术已经被一位名为 Asuhariet Ygvar 程序员“破解”了。

他成功将这个尚未正式发布的 AI 模型逆向工程,并在 GitHub 上提供转化成 Python 的教程。

几个小时后,另一位来自英特尔的工程师就发现了该模型的一个 bug。

这让苹果十分尴尬。

Ygvar 发现,其实早在 iOS 11.3、MacOS 11.4 开始,就已经在系统中加入了照片检测模型 NeuralHash,只不过尚未启用。

因此任何可以下载到苹果系统固件的人,都可以轻松将 NeuralHash 模型提取出来。

对于 MacOS 用户或者已经越狱的 iOS 用户来说,找到 NeuralHash 模型文件非常方便,就在以下路径中:

/System/Library/Frameworks/Vision.framework/Resources/ (MacOS)

/System/Library/Frameworks/Vision.framework/ (iOS)

你会发现 neuralhash 开头的 4 个文件:

至于未越狱的用户,可以下载 ipsw 格式刷机文件,找到其中最大的 dmg 文件,从这个镜像中找到模型。

由于步骤较多,在此不再赘述,具体操作看参照文末 GitHub 文档操作。

在这 4 个文件中,net 和 shape 结尾的文件都是 json 格式,使用苹果开源技术 LZFSE 压缩;weights 保存的是权重。

解压前首先需安装 LZFSE 解压工具:

将 net 和 shape 解压,和权重文件放在一个文件夹中:

为了把模型转换为 ONNX 格式,还要安装以下依赖项:

转换模型时,Ygvar 使用了腾讯优图实验室的 TNN,这是一款可以转换多种 AI 模型的开源工具,可以将苹果的 Core ML 转为 ONNX 格式。

模型转化为 ONNX 格式后,就可以算出任何图片的 96bit 神经哈希值。

说到这里,苹果的 NeuralHash 具体是如何生成图片哈希值的?

NeuralHash 是一种基于神经网络的图像感知哈希(perceptual hashing)方法,具体步骤如下:

1、将图像转换为 RGB;

2、将图像大小调整为 360x360;

3、将 RGB 值归一化到 [-1, 1] 范围;

4、用 NeuralHash 模型进行推理;

5、将运算得到 128 个浮点数的向量与 96x128 矩阵相乘;

6、对生成的 96 个浮点向量使用单位阶跃函数;

7、将 1.0 和 0.0 的向量转换为位,生成 96 位二进制数据。

这项技术保证图像被压缩或者大小被调整的情况下,哈希值依旧不变。

▲ 经过黑白处理的图片和原图片具有相同哈希值

但是 Ygvar 发现,虽然 NeuralHash 可以承受图像大小调整和压缩,但如果图像遭裁剪或旋转,哈希值则会发生改变。

这也意味着,不法分子可以通过后两种编辑图片的方法,逃过图片审核。

在 Ygvar 发布逆向工程的模型几个小时后,另一位高手就发现了 NeuralHash 的一个 bug。

英特尔工程师 Cory Cornelius 发现其中存在哈希值冲突漏洞,请看下面两张图:

只能说二者毫不相干,但是用 NeuralHash 模型计算一下却发现,二者的哈希值完全一样。

其实早在 11 天前,另一位名叫 unrealwill 的 GitHub 用户就上传了哈希值冲突攻击的代码,用来生成和原图哈希值一样的图片。

外媒 TechCrunch 针对这个漏洞询问了苹果。苹果还表示,现在被逆向工程的 NeuralHash 是早期版本,而不是即将推出的完整版本。

但苹果回避了哈希值冲突问题,强调有人工审核防止该功能被滥用。

破解 NeuralHash 的 Ygvar 表示,他的目的是希望帮助我们更好地了解该算法,在所有 iOS 设备上启用之前发现潜在的问题。

不知下个月的 iOS 15 正式版是否真有重大改进。

GitHub 参考链接:点击打开

苹果恢复大师Mac版 苹果恢复大师Mac版是全球第一款免费的数据恢复软件—苹果恢复大师的Mac版本,苹果恢复大师Mac版是专门针对苹果电脑用户开发的一款iOS设备数据恢复的Mac软件,是Mac平台下第一款免费的的iOS数据恢复软件;您可以免费下载。 简体中文 · 45.00 MBM ·

热点资讯

更多
2022年国内手机市场回顾:寒气传递到每个厂商,华为苹果抢占新高地 2022年国内手机市场出货量同比大幅下滑,本文从折叠屏逆势增长、联发科切入旗舰与卫星通信创新等角度分析厂商破局路径。
苹果不玩性能了?传iPhone15芯片或更注重电池续航而非性能 外媒爆料称iPhone 15系列将搭载注重能效的A17芯片以改善电池续航,全系可能标配灵动岛设计,Pro版采用3nm工艺,并或因欧盟规定改用USB-C接口,定价策略也有调整传闻。
MacBook产品线2023年将发多款旗舰新品 本文报道了苹果计划于明年初发布搭载M2 Pro与M2 Max芯片的14/16英寸MacBook Pro,以及15.5英寸MacBook Air、M3 iMac等新品传闻,梳理其产品线扩张策略。
多款新品问世,2023年VR/AR市场将迎来神仙打架局面 本文介绍了2023年即将发布的索尼PS VR2、Meta Quest 3与苹果MR头显等VR/AR头戴设备新品的规格、定价及市场预期,为关注虚拟现实领域的读者提供趋势参考。

相关教程

更多
256GB还不够用?如何正确管理手机存储空间? 智能手机存储空间虽大幅提升却常提示不足,除常规清理外,可通过精简APP、改用小程序与WEB版、定期备份照片视频至云空间等技巧长效管理存储空间。
部分用户反映苹果 2021 款 MacBook Pro 16 合上盖子后,出现无法充电的问题 部分2021款16英寸MacBook Pro在合盖关机时,MagSafe充电器指示灯琥珀色闪烁且无法充电。苹果官方支持页面提供了MagSafe恢复步骤,用户也可联系苹果支持换机处理。
微信支付亲属卡升级:新增五张可赠他人,可设置三张子女卡 微信支付亲属卡迎来重大升级,新增可赠予父母子女之外其他亲人的五张卡,子女卡增至三张。文章说明了优先扣款方式切换、每月3000元额度上限及红包与扫码支付等使用限制,帮助用户掌握新规则。
苹果 MacOS 12 Monterey 新增支持巨大鼠标指针/光标 在 Mac 上工作时易丢失细小的鼠标指针。macOS Monterey 支持在辅助功能中永久放大光标,通过系统偏好设置里的滑块即可调整指针尺寸与颜色。

相关软件

  • 苹果恢复大师Mac版 简体中文. 45.00 MBM · 苹果恢复大师Mac版是全球第一款免费的数据恢复软件—苹果恢复大师的Mac版本,苹果恢复大师Mac版是专门针对苹果电脑用户开发的一款iOS设备数据恢复的Mac软件 ...