决策参考 >> 返回 您当前所在位置:首页 > 决策参考 > 正文

AI换脸技术不能野蛮生长

更新时间:2023-05-27 12:40:24点击次数:39702次字号:T|T


近日,内蒙古包头警方公布一起利用人工智能换脸技术实施诈骗的案件。相较于传统电信诈骗,此类诈骗利用AI换脸技术绕过面容核验等防范措施,更具欺骗性。为AI换脸技术加装安全网尤为必要。

人工智能技术在促进社会经济发展的同时,也暴露出一定风险。以AI换脸技术为例,普通用户获取教程并不难。除被用作电信诈骗,AI换脸还被用于冒充名人直播带货,合成视频贩卖营利,甚至诽谤、敲诈勒索他人等。

AI换脸技术打破了眼见为实的传统认知,如不加干预,随着技术迭代升级,AI换脸或将愈发逼真,反诈防骗难度进一步加大,因验证身份带来的交易成本也将提升。技术研发者、平台运营方以及监管部门等有责任堵住漏洞,防范AI换脸野蛮生长。

要为AI换脸技术划定红线。目前,对生成式人工智能的治理,已告别无法可依。生成式人工智能技术的使用原则、规则得以确立,各方权利、义务与责任基本明确,有利于AI技术滥用的源头治理。各类科技企业、开发者也应主动开展合规自查,引导技术向善。

要从根源铲除AI换脸诈骗赖以生存的土壤。人脸的深度伪造,离不开对目标人脸的模型学习与面容合成、通信协议破解技术的配合。公安、网信等部门应形成合力,从数据安全、技术研发、图像传播等方面全链条打击AI技术滥用行为。各平台也应对用户上传的图像进行技术处理。

要以科技赋能提升用户反诈能力。AI换脸虽可暂时蒙骗人眼,但在技术层面的留痕却难以被掩盖。要加快推动AI生成图像识别、鉴真技术的应用,短视频平台、社交软件等要对合成图像进行显著标注,帮助用户辨别真伪,让诈骗无处遁形。(史书一)  来源:经济日报


0
中国民生经济网 (编辑:)
关于我们 | 招贤纳士 | 法律顾问 | 本网声明 | 网站地图


免责声明:民生经济网为非盈利、公益性资讯类网站,所发布信息旨在传播正能量,弘扬主旋律。稿件仅代表作者个人观点,与本网站无关,请读者自行判断、核实和参考。
若有未经著作权人同意发布的图文及影像内容,敬请告知,以便及时安排撤稿和删除;
若信息发布十日内,本网站未收到书面异议,则视为该信息著作权人默认和支持本网站的公益性发布行为。


Copyright @ 2012-2088 版权所有
地址:成都市永兴巷15号 民生经济网 工业与信息化部备案号:蜀ICP备12001530号-3
主办:四川省民生研究会
爆料投稿:QQ2381208516 / 邮箱:zgmsjjxww@163.com 电话:13348900167
官方(新浪)微博(民生经济网 http://weibo.com/3949705932) 微信订阅号:zgmsjjw 民生经济网
Baidu
map