|
前段时间，AI圈子里面发生了一件比较有争议的事情。一位名为“将记忆深埋”程序员博主公开表示自己准备上线一个“拯救老实人”的人脸识别工具。
接下来是重点：这个工具通过机器学习的方式把羞羞网站的人脸数据和各大社交媒体的人脸数据交叉对比，鉴别那些出现在羞羞视频里的“退休小姐姐”。按照博主的说法，这个工具已经成功识别了10多万从事不可描述行业的小姐姐，识别率高达99%。
消息一出，圈内圈外都炸了。赞成派感恩戴德，并主动为这个工具戴上了“原谅宝”的高帽；反对派群起而攻之，认为这是对女性隐私的极不尊重，有违公序良俗。
从技术逻辑上捋了捋，发现这玩意儿的BUG其实很多。一来没有任何证据佐证它的识别率，由始至终全凭博主一面之词；二是即便识别率高达99%，剩余1%造成的误伤也是极其致命的；再者网上存在着很多偷拍视频，把“被偷拍”等同于“从事羞羞事业”，从事实逻辑上也明显不通。
由于这件事引发关于隐私和道德的争议太大，博主最终选择删库、道歉、跑路以平息风波。本以为事情就这样随着志玲姐姐嫁人、宋仲基宋慧乔离婚的娱乐热点过去了，谁知道经由营销号“妙手回春”地炒作，“原谅宝”（经证实是山寨版）以H5的形式原地复活了。
于是，在这款“原谅宝”没被下线之前，亲自体验了一番“AI鉴绿”。
1分钟鉴绿帽，200万人都在用
顺着那个看起来很山寨的“原谅宝官方”提供的链接，顺利进入了这款原谅宝H5工具。工具页面上清楚地显示这实时使用人数，在我到达之前已经有超过250万人用过了原谅宝（没想到不相信另一半的人，竟然有这么多）。随着我多次体验摸索，发现这很可能是个局。
由于从未做过任何逾矩的事情，这次大大方方地按照页面指示上传了一张自己的正脸照。经过1分钟的等待，页面返回了一个称为“原谅指数”的数值“96%”。
根据介绍，原谅指数在90%以上可认为你们的感情安全。
又尝试着上传一张苍老师的照片，实测的原谅指数竟然高达97%（原地爆炸）。作为曾经业内收视率第一的知名人士，苍老师的原谅指数竟然在我这等凡人之上，简直是行业的奇耻大辱。不只是苍老师，根据其他网友的测试，其他业界名人的原谅指数也都在95%以上。
所以，这个所谓的原谅指数很可能是随机生成的。
披着技术外衣的PPT，处处是引诱
在体验的十几分钟里，原谅宝的使用人数增加了1万多，相当于每分钟就有100+人在使用。这其中离不开个人内生的好奇和窥探欲，同时，也少不了原谅宝中各种诱导的推波助澜。
原谅宝的出现，本身就是对那类有需求人士的最大诱惑。页面上诸如“专为保护老实人而生”、“想知道TA拍过的照片和视频吗”的挑逗暗示，则进一步放大的窥私心理。再加上绿得发黑的页面背景，从视觉上强化了心理冲击，把持不住的就放手一试了。
除了各种话术暗示之外，“靠谱”和方便是原谅宝的最大的诱源。
一进入页面，当头就是“人脸定位、智能模拟、数据对比”三个响当当的技术大棒，给你营造一种专业的错觉。在进行到所谓的“人脸解码”和“智能匹配”阶段，页面上则是事无巨细地把整个过程和你演示了一遍。当你看到“Se**8、陌*、探*”这些敏感字眼时，肾上腺立马分泌压力荷尔蒙，同时自动脑补出“哇，真的在匹配”的过程。
而比起传统的抓*在床、请私家侦探，原谅宝把操作难度将至最低。一张照片就能搞定，省时省力还不花钱。很多人就是抱着“试出了就是赚，没试出纯属娱乐”的心态上传了对象的照片。
俗话说“抓贼拿脏，抓奸在床”，私家侦探出马也知道像狗仔那样偷拍一些照片来坐实罪责。而从头到尾，我们在这个原谅宝上看不到任何真实数据，没有数据库说明，没有匹配来源明细，整个过程空口鉴绿帽。单凭一个指数就说我有问题？你倒是给个链接给个视频我看看啊！
你们忽视的这几个细节，我细思极恐
原谅指数是假，但是你上传的照片却是真真儿的。
在测试这款原谅宝的时候，特意上传了卡通头像和明星头像，发现都会被原谅宝拦截。要想获得原谅指数，只能上传真人像照。让人费解的是，在你上传照片之后，原谅宝会自动识别照片人物的性别、年龄和表情，准确率出奇地高（性别准确识别，年龄一般只偏差2~3岁）。
不鉴绿，还要识别真人，这是什么骚操作？
还有一个引起警惕的地方是，在完成人脸匹配之后，原谅宝需要你填写照片对象的名字，否则无法查看原谅指数。那些真想要测一测对象的人，大概率直接填了对象的真名。
还没发觉什么不妥？原谅宝丝毫不费功夫地套出了真人照和人名，利用上AI识别出来的性别、年龄，如果配合从黑市上买来的隐私数据，匹配出完整的个人信息不是没可能的事儿。
当心那些“以人性作套”的技术犯罪
当然，上面只是用原谅宝来阐述了一种可能性，但这种可能足以引起灰黑领域的骚动。
这种利用人性去套取信息，从而实施诈骗犯罪的手段，比起要背着伪基站蹲验证码、做个流氓APP常驻后台的方法更容易操作也更低风险。我们嘴上天天念叨着佛家的“贪、嗔、痴、慢、疑”（五毒心，不了解的可以百度一下），转身就因为这五毒而跳进了黑产的圈套。
贪小便宜点开了标着“2折nlke”的邮件，下一秒就成了黑产的挖矿肉鸡；想要和性感荷官亲密互动而下载了博彩APP，输尽3千块还没见到小姐姐的背影。这一次若开发者有意，完全有能力匹配好250万条个人信息（理想值），按照最不济的1分钱一条来算，开发者转手就能赚个二万五。
除了利用性恶的一面，原谅宝还搭上了AI的技术快车。不少技术开发者基于数据爬取、机器学习等手段，炮制出许多以假乱真案例。我们曾提及到DeepFake（AI换脸）给受害人造成的困扰和危害，无独有偶，在这个星期遭到全网封杀的DeepNude（一键脱衣）再一次刺激了社会对AI造假的敏感神经。在这个解锁扫脸、支付凭脸、贷款靠脸的人脸识别年代，我们很难想象黑产还会利用AI、利用我们的数据做出什么来。
原谅宝的做法打开了隐私盗用的新版潘多拉盒子，往后以人性为诱、以AI技术为手段盗用隐私的事件相信会更加频发。而在这里，只能提醒大家，万事小心。 | 
发表于 2021-4-8 20:59:58
