当前位置:首页  采购招标案例

采购招标案例

AI换脸,隐藏在科技背后的陷阱

发布时间:2023-10-23 浏览次数:10

AI是人工智能(Artificial Intelligence)的英文缩写,它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。AI换脸,通俗的说,是指通过AI人工智能技术,把别人的脸换成自己的脸。AI换脸最先进入大众视野,是应用于娱乐行业。比如传播度很高的换脸照片、换脸视频,“民族换装视频”实际上就是AI换脸技术的应用。已经拍摄完成的影视作品中,出演的演员由于种种原因不能再出镜时,也可以直接应用AI换脸技术将已完成的剧集替换演员脸部,而不是整个部分重新拍摄,虽然现在的观感还不够自然,但是为影视剧制作方节省了大量的资金。

科技发展为生活带来了更多便利性,但是与此同时,科技作为一个中性的工具,也成为骗术更新换代的巨大助力。2023524日,中国互联网协会发文提示“AI换脸”新骗局,利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。隐藏在高科技之后的陷阱正在频繁的出现在普通人的日常生活中。

一、利用AI换脸,侵犯他人人格权

发达的娱乐产业放大了明星这个身份的吸引力,由于明星具有天然的流量吸引力,能够带来巨大的经济收益,有相当一部分人选择运用AI换脸技术,把明星脸换在普通主播的视频上,以实现销售额的增加。这种行为涉嫌侵犯相关明星艺人的人格权。根据《民法典》第一千零一十九条规定“任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权”。涉嫌侵害明星的肖像权。

网络娱乐方式多种多样,还有的视频内容以“恶搞”、“丑化”、“低俗”为卖点吸引眼球。如果利用AI换脸技术进行“恶搞”、“丑化”,影响到明星的社会评价,则根据《民法典》第一千零二十四条规定“任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权”,涉嫌侵犯明星的名誉权。明星本身的社会影响力是可以被量化计算的,如果社会评价显著降低,引起巨大的经济损失,那么应用AI换脸的人员将可能面临巨额赔偿。

    二、不加防备,泄露个人信息被侵权

由于各种视频、拍照软件对于算法的应用,AI换脸已经是常见的娱乐方式,比如换装游戏、换脸合成名曲MV、换脸经典的影视作品片段。所有的算法基础都需要清晰自拍以完成换脸,根据作者体验过的AI换脸小程序,需要拍摄六个不同角度的清晰自拍照上传,用于生成换脸照片或视频。上传的这些清晰自拍照包含了我们个人的重要生物信息。众所周知,有相当多的重要app使用人脸识别,如果随意上传多角度的人脸近距离自拍,就是将自己的个人信息公之于众。

在太阳光下,AI换脸技术只是小小娱乐,是朋友之间的分享,但是在阳光照不到的地方,海量人脸生物信息被盗用、转手,应用于低俗视频且用于盈利,在你不了解的世界,可能是系统在使用你的“脸”作为一个陌生的你活在黑暗的世界。完全不设防的朋友圈,也会由于位置信息、生物信息、习惯偏好的暴露而可能限于定制骗局。被冒用人脸信息骗取家人、朋友信任,诈骗钱财已经不只是故事,而是案例。

三、面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。

(一)做好个人信息安全第一责任人

1、加强个人信息保护意识,防止信息泄露:不轻易提供人脸、指纹等个人生物信息给他人;不要轻易透露自己的身份证、银行卡、验证码等信息;不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。

2、陌生链接不要点、陌生软件不要下载、陌生好友不要随便加、不明二维码不要随便扫。管理好自己的朋友圈,不要向陌生人开启手机屏幕共享。

3、做好个人防护,安装安全软件,防止手机和电脑中病毒;对个人账户的安全状况保持警惕,尤其是陌生设备的登陆情况,防止微信、QQ等被盗号给亲朋好友带来麻烦。

4、对于不常用的APP,建议卸载前注销个人账号。

(二)远程转账务必多重验证,把好“钱袋子”

如果有人自称“家人”“朋友”“老师”“领导”通过社交软件、短信、电子邮件等以“手机掉水里了,学校需要紧急交辅导班学费”“人在境外旅游需要帮忙买机票”“给领导办私事需紧急转账”“遭遇车祸需要马上手术”“情况特殊,需要过桥资金拆借”等各种方式和理由诱导你转账汇款,务必第一时间提高警惕。在AI时代,文字、声音、图像和视频都有可能是深度合成的,在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款!

技术是中立的,技术能够产生什么作用取决于使用技术的人。人有原则和底线,技术才会成为承载人类发展和创造美好生活的重要载体,否则只能是加速毁灭。

(江苏中虑律师事务所 孟星星)


Copyright 2018 版权所有 南京医科大学审计与法务处.All Right Reserved.

地址:南京市江宁区龙眠大道101号 电话:025-86869052 邮箱:shenji@njmu.edu.cn