比较好的网页网站设计,电商平台财务如何做账,wordpress网页小特效,郑州网站建设君捷当前#xff0c;AI技术的广泛应用为社会公众提供了个性化智能化的信息服务#xff0c;也给网络诈骗带来可乘之机#xff0c;如不法分子通过面部替换语音合成等方式制作虚假图像、音频、视频仿冒他人身份实施诈骗、侵害消费者合法权益。你认为AI诈骗到底应该如何防范#xf…当前AI技术的广泛应用为社会公众提供了个性化智能化的信息服务也给网络诈骗带来可乘之机如不法分子通过面部替换语音合成等方式制作虚假图像、音频、视频仿冒他人身份实施诈骗、侵害消费者合法权益。你认为AI诈骗到底应该如何防范来说说你的看法吧以下方向仅供参考
一、“AI换脸诈骗”汹涌来袭
AI换脸和拟声技术是人工智能技术在图像和语音领域的重要应用之一它们可以通过深度学习算法从大量数据中提取特征并生成逼真的图像和语音。借助AI换脸技术我们可以将一个人脸图像中的面部特征替换成另一个人脸图像中的面部特征并保持原图像中其他部分不变。例如我们可以将一个人脸图像中的眼睛、鼻子、嘴巴等替换成另一个人脸图像中对应部位的眼睛、鼻子、嘴巴而发型可以保持不变。 AI拟声技术可以根据一个人语音样本中的音色、语调、节奏等特征生成与其相似或相同的语音并可以根据输入文本合成任意内容的语音。例如可以根据一个人的说话录音生成与其相同或相似的声音然后你可以用这个声音去和任何人交谈。 近年来随着AI技术的持续快速发展一些不法分子开始涉及这个领域非法敛财。利用AI技术融合他人面孔和声音、制造逼真的合成图像来实施新型网络诈骗类似骗局手段多样、门槛低、辨别难度大经常让人防不胜防短时间内造成较大损失。 今年4月20日福建省福州市某科技公司法人代表郭先生的“好友”突然通过微信视频联系他声称自己的朋友在外地投标需要430万元保证金且需要公对公账户过账所以想要借用郭先生公司的账户走账。这位“好友”向郭先生要了银行卡号声称已把钱转入郭先生的账户并将银行转账截图发给郭先生。基于视频聊天信任的前提郭先生并未核实钱是否到账就陆续转给对方共计430万元之后郭先生才发现被骗。对方通过利用AI人工智能通过“换脸”和“拟声”技术模仿受害人的朋友或亲戚的声音和外貌以此骗取受害者的信任进行网络诈骗。这是一起典型的AI诈骗案件也是一种新型诈骗方式。 2023年9月11日由中央宣传部、中央网信办、教育部、工业和信息化部等十部门联合举办的2023年国家网络安全宣传周在福建福州正式拉开序幕。作为重点配套活动在此前一天网络安全博览会在福州开馆。在馆内有参展企业工作人员演示了“AI换脸诈骗”的技术只需一张目标人物的照片依托人工智能合成站在摄像头前的你就能在屏幕上“变成”他还能通过网贷平台的人脸认证眨眨眼、摇摇头就把钱转出去了。 公安机关研判近期网上“AI换脸换声诈骗在全国爆发”传言不实全国此类案件发生不到10起但该动向值得高度关注。
工信部信息显示伴随AI技术快速发展合成技术门槛持续降低逐渐向低算力、小样本学习方向演进利用手机终端即可完成对算力和数据的要求下降明显。同时随着AI大模型的技术加持正逐步由面部合成向全身、3D合成发展效果更加逼真。
二、三个层面科学应对
这种“AI换脸诈骗”受到公众越来越多的关注如何预防此类诈骗案件的发生
一法律法规层面 2022年网信办、工信部和公安部制定的《互联网信息服务深度合成管理规定》明确深度合成服务者应采取技术或人工方式对使用者的输入数据和合成结果进行审核。 今年8月网信办发布的《人脸识别技术应用安全管理规定试行征求意见稿》明确人脸识别技术使用者应每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估采取有效措施保护图像采集设备、个人身份识别设备免受攻击、侵入、干扰和破坏。 各APP网络服务提供者在收集、使用个人信息时应遵循合法、正当、必要、公开的原则不得收集与其提供的服务无关的个人信息应当采取技术措施和其他必要措施确保其收集的个人信息安全不得主动向外提供也要防止信息泄露、毁损、丢失。
二技术应用层面 AI换脸换声的基本逻辑是通过深度学习特定算法将目标人物的人脸、表情、声音等嫁接进模仿的视频中成本低、合成速率高、检测鉴别难度大一般人很难发现伪装痕迹。
目前AI诈骗主要有两种形式
通过技术手段合成换脸、换声的视频或语音在视频聊天、普通电话中直接播放。这种诈骗主要出现于比较紧急的情况如遭遇事故求助等播放结束后就会中断连接无法与被害人形成回合性对话。在视频通话中直接换脸并替换声音或直接换声拨打电话。 以上两种诈骗方式都受限于样本数量所以可以通过延长通话时间、多次进行提问的方式让对方多说话露出破绽。
三个人意识层面
对普通民众来说需要树立起良好的防诈骗意识。 1.保护好个人信息。 不要随意接听陌生电话防止诈骗人员以电销推广等借口采集发音、语句避免在个人互联网社交账户上过多暴露个人照片、声音、视频等信息对外提供人脸照片时需谨慎对待使用小众软件进行身份认证、网络贷款实名放贷时需提高警惕不要随意点击陌生链接链接中的木马程序会窃取用户手机内的照片、监听回传通话内容开启定位服务、输入身份证号、录入人脸识别信息、指纹识别信息等个人生物信息时一定要慎之又慎。 网上一键换脸功能的App、小程序有技术滥用风险需要谨慎使用。 2.采取多种方法确认
在接到涉及到转账等财务信息的视频或电话请求要采取其他方式跟对方好友或亲戚做进一步的确认。
