联合早报

中国发布首个金融领域“AI 换脸”检测标准


 新闻归类:中国聚焦 |  更新时间:2024-09-07 22:45

中国星期五(9月6日)《发布虚假数字人脸检测金融应用技术规范》标准,规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等,并提出了对应的测试评估方法。这是中国首个面向金融场景的“AI换脸”检测标准。

根据中新网报道,上述《标准》星期五在上海举行的一场活动中正式发布。中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇在活动上发言时称:“该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据,也填补了这一领域的空白。”

《标准》在中关村金融科技产业发展联盟组织下,由蚂蚁天玑实验室和工商银行、建设银行、邮储银行、中信银行、北京国家金融科技认证中心、中关村互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写。

《标准》在“功能”和“性能”两方面作出了具体规定。功能层面,相关机构应具备替换、活化、深度伪造等五种情况下的虚假数字人脸检测功能。性能层面,相关机构应建立不少5000张的真实数字人脸数据集,和不同伪造形式的虚假人脸数据集,以应对现实生活中的复杂场景。

例如不同肤色、不同光线条件、不同清晰度、包含或不包含语音等都是重要维度。据了解,标准的各项条款均在蚂蚁天玑实验室完成了试验验证,并且天玑实验室已经开展了面向金融机构“AI换脸”检测能力的测试评估服务。

此外,《标准》也明确虚假数字人脸内容检测服务性能将从准确性、鲁棒性、泛化性、响应速度等四个维度进行评估,考察机构是否具备完整的、高准确度、高性能的检测水平。

报道指出,近两年,随着人工智能技术的飞速发展,深度伪造技术(Deepfake)也日益成熟,它在给社会带来便利的同时,也带来了前所未有的安全挑战。特别是金融行业,人脸识别技术作为身份鉴别的重要手段,其安全性直接关系到金融交易的安全与用户资金的安全。一些不法分子利用人工智能技术制造虚假数字人脸,企图绕过安全机制,给金融安全带来了严重的威胁。刘勇表示,希望通过这个标准指导金融行业及相关机构提升识别虚假数字人脸安全的能力,防范相关金融风险。

浏览热度: °

热点关注新闻

延伸阅读推荐

本站联系方式:nanluecom@qq.com
Copyright© 2016-2024
联合早报中文网手机端服务