联合早报

徐海娜:AI深度合成技术带来的痛与忧


 新闻归类:观点评论 |  更新时间:2023-11-17 07:45
徐海娜:AI深度合成技术带来的痛与忧

不久前,我和几位爱好艺术的朋友一起去看了一场当代艺术展。当代艺术是一种观念的艺术,任何东西都可以成为艺术品。观者如果想知道某件当代艺术作品是什么,必须从感官经验转向思想层面。在新加坡美术馆的展出的Proof of Personhood,以“AI挑战人类身份认同与真实性”为主题,也成为很多人对人工智能(AI)的发展进行再思考的起点。

记得ChatGPT刚推出不久,人们的注意力都集中在AI有哪些功能,在哪些领域可以大放异彩,很多人由此担心AI会取代人类的许多工作。当然,也有一些小朋友说,希望AI进化得越来越好,他们不仅渴望与AI聊天,希望AI成为得力助手,还希望和AI做朋友。但是这场展览却超越这些流行的话题,提出一个哲学问题:在AI的时代,人类和人类的创造力到底意味着什么?当我们面对展览中用深度合成技术创造出来的“数码人”,面对真假难辨的种种照片、签名、海报,还有通过输入某个艺术家数据后,用算法生成的绘画和雕塑作品时,我们不免对人类身份的不可替代性产生质疑,对很多事物的真实性产生质疑。

这场展览的展品使用了很多AI深度合成技术,让我想起曾经看过的一个电视节目片段。去年在美国综艺节目America’s Got Talent的舞台上,节目评判之一西蒙·考威尔(Simon Cowell)看着舞台上的歌手变成他,在舞台大屏幕上实时同步演唱歌曲,令他大为吃惊。这是通过人工智能公司Metaphysical运用AI技术的摄像机做到的,当时使用的就是合成媒体技术(Synthetic media),是由AI生成的数码体验。

这种合成视频非常逼真,很难与普通数码摄像机正常拍摄出来的内容区分。AI业界人士一般称其为“深度合成”,但不愿将其称为“深度伪造”。因为“深度合成”技术可以用在很多对人类有帮助的场域,包括电影后期制作、教育、商业等领域。而“深度伪造”则代表着深度合成技术的滥用,是我们无法回避和否认的问题,对人类社会而言,是一种刺痛。俗话说“眼见为实”,但现在这种基本认知已经被现实颠覆,原有的社会信任体系正在经受挑战。

到底什么是真的?俄乌战争、以哈冲突以来,有不少虚假视频在网上流传,影响人们的价值判断,然而深度伪造带来的还不仅是假信息的问题。早在2017年,美国社交新闻网站Reddit就曾流传过电影明星的脸被嫁接到色情电影中的视频片段。人们可能会庆幸自己不是政要和明星,不用担心这种问题。

但是今年9月,西班牙发生一起利用AI深度伪造技术制作少女裸照的案件。受害者最小11岁,最大17岁,她们被伪造出来的裸照在校园内和网络上疯传,还有人因此被勒索。涉案嫌疑人是11名未成年的男生。这起案件报道后,再次引发人们对AI技术被滥用的担忧。

正脸照片不要在网上展示

在我们一行人踟蹰于展馆时,有位工作人员主动上前为我们介绍展品,经他提示,我们才知道照片里的名人是哪些地方被深度伪造。那名工作人员自称以前也是IT从业者,还说很多年前,业界就曾呼吁要对AI技术的发展和应用进行监管,一直到最近几年,各国政府才开始重视,如今监管“已经太晚了!来不及了!”并提醒我们要注意保护个人信息,尤其是生物信息,脸部正面照片也尽量不要在网络上展示。

近年来,很多国家试图通过快速立法,规范深度合成技术,将利用深度合成技术制作的不实内容,纳入虚假信息管理范畴。但是AI业界人士认为,立法并不是唯一有效的手段,立法有滞后性,跟不上技术发展,所以还要从技术发展和商业伦理的角度治理。例如借助于鉴别技术和溯源技术进行识别,对合成视频进行源头标记;AI行业也要自律,形成行业公约和准则等;同时公众也要提高媒体素养,加强识别能力。这样灵活多元的措施,才有利于AI发展和防止潜在伤害。

今年11月1日和2日,全球首届AI安全峰会在英国召开,28个国家及欧盟共同签署了《布莱奇利宣言》,强调AI可能会被滥用,各国承诺以安全和负责任的方式设计、开发、部署和使用AI,但还未有具体措施和问责机制。

我们普通人可能因为无知而无畏,对AI的发展前景总是充满无限期待。但与此同时,我们也希望一系列由AI技术发展带来的问题,各国政府会更重视,毕竟有句老话说得好,“见兔而顾犬,未为晚也;亡羊而补牢,未为迟也。”

作者是前媒体人、童书创作者

热点关注新闻

延伸阅读推荐

本站联系方式:nanluecom@qq.com
Copyright© 2016-2023
联合早报中文网手机端服务