徐海娜：AI深度合成技术带来的痛与忧

不久前，我和几位爱好艺术的朋友一起去看了一场当代艺术展。当代艺术是一种观念的艺术，任何东西都可以成为艺术品。观者如果想知道某件当代艺术作品是什么，必须从感官经验转向思想层面。在新加坡美术馆的展出的Proof of Personhood，以“AI挑战人类身份认同与真实性”为主题，也成为很多人对人工智能（AI）的发展进行再思考的起点。

记得ChatGPT刚推出不久，人们的注意力都集中在AI有哪些功能，在哪些领域可以大放异彩，很多人由此担心AI会取代人类的许多工作。当然，也有一些小朋友说，希望AI进化得越来越好，他们不仅渴望与AI聊天，希望AI成为得力助手，还希望和AI做朋友。但是这场展览却超越这些流行的话题，提出一个哲学问题：在AI的时代，人类和人类的创造力到底意味着什么？当我们面对展览中用深度合成技术创造出来的“数码人”，面对真假难辨的种种照片、签名、海报，还有通过输入某个艺术家数据后，用算法生成的绘画和雕塑作品时，我们不免对人类身份的不可替代性产生质疑，对很多事物的真实性产生质疑。

这场展览的展品使用了很多AI深度合成技术，让我想起曾经看过的一个电视节目片段。去年在美国综艺节目America’s Got Talent的舞台上，节目评判之一西蒙·考威尔（Simon Cowell）看着舞台上的歌手变成他，在舞台大屏幕上实时同步演唱歌曲，令他大为吃惊。这是通过人工智能公司Metaphysical运用AI技术的摄像机做到的，当时使用的就是合成媒体技术（Synthetic media），是由AI生成的数码体验。

这种合成视频非常逼真，很难与普通数码摄像机正常拍摄出来的内容区分。AI业界人士一般称其为“深度合成”，但不愿将其称为“深度伪造”。因为“深度合成”技术可以用在很多对人类有帮助的场域，包括电影后期制作、教育、商业等领域。而“深度伪造”则代表着深度合成技术的滥用，是我们无法回避和否认的问题，对人类社会而言，是一种刺痛。俗话说“眼见为实”，但现在这种基本认知已经被现实颠覆，原有的社会信任体系正在经受挑战。

到底什么是真的？俄乌战争、以哈冲突以来，有不少虚假视频在网上流传，影响人们的价值判断，然而深度伪造带来的还不仅是假信息的问题。早在2017年，美国社交新闻网站Reddit就曾流传过电影明星的脸被嫁接到色情电影中的视频片段。人们可能会庆幸自己不是政要和明星，不用担心这种问题。

但是今年9月，西班牙发生一起利用AI深度伪造技术制作少女裸照的案件。受害者最小11岁，最大17岁，她们被伪造出来的裸照在校园内和网络上疯传，还有人因此被勒索。涉案嫌疑人是11名未成年的男生。这起案件报道后，再次引发人们对AI技术被滥用的担忧。

正脸照片不要在网上展示

在我们一行人踟蹰于展馆时，有位工作人员主动上前为我们介绍展品，经他提示，我们才知道照片里的名人是哪些地方被深度伪造。那名工作人员自称以前也是IT从业者，还说很多年前，业界就曾呼吁要对AI技术的发展和应用进行监管，一直到最近几年，各国政府才开始重视，如今监管“已经太晚了！来不及了！”并提醒我们要注意保护个人信息，尤其是生物信息，脸部正面照片也尽量不要在网络上展示。

近年来，很多国家试图通过快速立法，规范深度合成技术，将利用深度合成技术制作的不实内容，纳入虚假信息管理范畴。但是AI业界人士认为，立法并不是唯一有效的手段，立法有滞后性，跟不上技术发展，所以还要从技术发展和商业伦理的角度治理。例如借助于鉴别技术和溯源技术进行识别，对合成视频进行源头标记；AI行业也要自律，形成行业公约和准则等；同时公众也要提高媒体素养，加强识别能力。这样灵活多元的措施，才有利于AI发展和防止潜在伤害。

今年11月1日和2日，全球首届AI安全峰会在英国召开，28个国家及欧盟共同签署了《布莱奇利宣言》，强调AI可能会被滥用，各国承诺以安全和负责任的方式设计、开发、部署和使用AI，但还未有具体措施和问责机制。

我们普通人可能因为无知而无畏，对AI的发展前景总是充满无限期待。但与此同时，我们也希望一系列由AI技术发展带来的问题，各国政府会更重视，毕竟有句老话说得好，“见兔而顾犬，未为晚也；亡羊而补牢，未为迟也。”

作者是前媒体人、童书创作者