张祉盈:下一个全球危害——网络危害
在新加坡盛行的通讯应用Telegram的所有者和管理者,连政府官方也无法联系到他们,而他们对有害的内容也不承担任何责任。令人震惊的是,教育工作者竟然通过这个通讯应用,与学生和家长沟通。
最近一项调查显示,网络危害在新加坡是一个越来越普遍的问题。其中,年轻人面对网络危害的风险最高,当中有58%曾经历或有亲友遭遇过网络危害,女性更易遭受网络性骚扰等性伤害。最常见的四种网络危害是性骚扰、网络霸凌、冒充或盗用身份和诽谤。
非营利组织新加坡妇女发展与支援组织(SG Her Empowerment,简称SHE)对1000多名新加坡公民和永久居民展开调查,并于9月发布新加坡网络危害调查报告。报告显示,在每五名受害者中,就有两人面对严重的身心创伤,例如担心个人安危、抑郁和自残;三成受害者也感到愤怒、难过、焦虑、尴尬、羞愧或无助。
另外,根据民调机构益普索(IPSOS)10月发布的报告,有近半数(46%)新加坡人认为,心理疾病是当前国人面对的最大健康问题。新加坡国立大学与教育部于今年4月合作展开的一项全国调查则显示,约三分之一的本地青少年面对抑郁、焦虑和孤独等心理疾病。
以上令人担忧的数据,以人工智能(AI)广泛应用之前的网上活动为依据,如今AI的普及,更让问题每况愈下。
新加坡更易遭受网络危害
过去,不法之徒必须上传他们获得的色情照片,才能造成伤害。如今,他们可从社交媒体截取无辜者的照片,并通过AI应用合成伪造出逼真的色情图像。今年9月,这样的事就发生在只有3万人的西班牙阿尔门德拉莱霍镇(Almendralejo)。小镇上20多名年龄介于11岁至17岁的无辜女孩成了受害者。她们在社交媒体上发布的衣着整齐照片遭截取,经过窜改后在网上流传。
生成式人工智能(GenAI)处于商业化发展的初期阶段。如果不加以控制,不法之徒可能利用AI生成的图像和视频,骚扰、勒索和敲诈、破坏民主进程,及扭曲自由社会的发展。利用深伪(deepfake)技术制作的色情内容,近期已被用来压制、羞辱或勒索从政者和记者。95%以上由AI生成的深伪内容,都以女性为目标,如果不加以制止,可能会阻碍世界实现性别平等,带来负面的社会和经济影响。
新加坡的数码化普及,一代比一代更频繁地使用互联网,使我们更易遭受网络危害,进而面对心理健康挑战。
付出代价的不仅是受害者本身。随着欺诈和骗局越来越普遍,经济成本也在不断增加。例如,公司也许要开始为高管可能被假照片勒索购买保险。
网络危害可能是新加坡乃至世界接下来要面对的一大危害。
有何对策?
网络的匿名性质、浏览速度,及互联网涉及多国司法管辖权,让应对网络危害问题极为棘手。
你不能阻止一个你无法识别的涉事者。法律程序尽管有效,却耗时和花钱,也对一个只想尽快删除所有损害自己的贴文的受害者于事无补。此外,只要设置虚拟专用网络(VPN),任何人都可轻易“翻墙”浏览遭封锁的网站。
各国政府已着手制定相关法规,以应对网络危害。
自2015年起,澳大利亚政府授权网安专员指示网络平台删除违法内容。贴文通常需要数小时甚至数天才能被删除,但与负责任的网络平台合作后,只需12分钟就能删除。更重要的是,执法只是网络安全专员办事处的一小部分工作,他们大部分时候都在展开公众宣导和教育工作者培训、全面审视新兴网络危害,及与相关的监管机构和科技平台等,建立合作伙伴关系。
欧盟最近也通过《数码服务法》,要求网络平台采取措施,防止和删除含违法商品、服务或内容的贴文,及提高演算法透明度。根据《数码服务法》,网络平台如果意识到有违法内容,却没有迅速采取行动删除或禁止公众浏览,就须承担相应的法律责任。重要的是,网络平台也必须建立方便的机制,以接获违法内容的通知。
此外,法国、爱尔兰、德国和英国对特定类别的网络危害制定了网络安全法。新加坡最近也修订了《广播法》和订立《网络犯罪危害法》。
网上活动跨越国界,单靠司法机制不足以有效应对网络危害的,必须多管齐下,才能打造更安全的网络空间。
首先,网络空间具有独特的传播特性,监管机构必须拥有相应的权力。根据SHE调查,大多数受访者认为,迅速删除违法贴文,是刻不容缓的对策,因此任何执法方案都必须能够提供这层保障,尤其当涉及孩童等弱势群体受害时更为重要。新法规必须能够应对尚未出现的网络危害,及以公开透明、协同一致的方式实施,与所有相关群体建立互信。例如,要求内容创作者在使用AI制作的内容加上水印认证。此外,各国在法律范畴和执法合作方面若能达成协议,应对网络危害的效力将更强大。
网络平台角色应更明确
其次,网络平台发挥着最重要的作用。尽管这些平台不是内容创作者,但它们是内容把关者。它们也应提供和推出商业与科技方案,确保网络更安全。我们可以借鉴欧盟《数码服务法》的规定,考虑网络平台若发现网络危害却没有采取行动,是否应承担责任。
第三,新法规必须能够有效打击网络匿名者或不受司法管辖的群体。
最后,提高公众意识。SHE调查中一个令人担忧的发现是,两成的受访者认为,网络危害是“稀松平常的事”。我们不应把网络危害视为不可避免的现象,而应积极采取行动,提高自我意识,及教导年幼、年长和不谙科技的人如何更好地保护自己。我们也必须对个人信息的共享保持警惕,包括选择使用负责任的网络平台。许多人可能会感到惊讶的是,在新加坡盛行的通讯应用Telegram的所有者和管理者,连政府官方也无法联系到他们,而他们对有害的内容也不承担任何责任。令人震惊的是,教育工作者竟然通过这个通讯应用,与学生和家长沟通。
人们往往指责网络监管会扼杀言论自由和民主。但SHE调查显示,为了避免继续遭受网络骚扰,66%的受访者会在网上自我审查,而68%干脆不参与网上活动。但透明的网络监管其实可促进个人在网上自由活动,建立更坚强的社会。
目前,我们尚未找到完美的对策,但我们绝对不能置之不理。
作者是义正律师事务所联合管理合伙人
新加坡妇女发展与支援组织创办人
译文由作者提供