联合早报

社论:密切关注人工智能发展趋势


 新闻归类:观点评论 |  更新时间:2023-06-05 07:45
社论:密切关注人工智能发展趋势

欧盟正在草拟第一部监管人工智能(AI)的法律框架,以确保欧洲人在未来使用AI时,能有安全和可信赖的环境。建议的框架除了要能对一套AI系统进入市场之前进行合格评定,以及投入使用后能采取执法行动等措施,特别关注AI系统可能产生的风险,为此定义了四个层级:无法接受的风险、高风险、有限风险,以及低或无风险。

近期以来因为美国硅谷科企推出的ChatGPT等相关产品引发风潮,AI的发展分外受到世人关注。但AI科技带来的远超过聊天机器人。一般人多相信它能产生突破性的正面效果,包括医疗技术、生产能力、无人驾驶等等;也有更多人在讨论它可能带来的经济变局、就业冲击等等。但同样在美国,一群研发AI的科技企业家和研究者,却不断发出警告并联署公开信,要求政府介入监管AI的研发与应用,显示AI的演进已经到了关键时刻,稍有不慎,可能出现失控的风险,而人类中的专家可能无法应对后果。

欧盟网页在解释制定框架的原因时就举例:人类常常无法了解AI系统为什么做出某种决定或预测,并采取某个行动,因此可能很难判断在诸如聘用决定或公共福利计划中,有没有不公平现象。

除了类似的公共事务,AI研发实力最强大的美国业界,主动出面要求监管,也说明背后很可能存在必须及时关注的各种人文与法律等漏洞,须要公权力介入。美欧学界和业界都发现,如果任由AI产业像其他产业一样,让企业之间自由竞争,最终的后果或许无人可以承担。

由于涉及尖端技术,绝大多数国家在AI领域都只能是接受者,作为积极迈向智慧国的新加坡,近年来使用涉及AI产品的深度与广度越来越大,也出现一些行业数码化的受害者,因此对国际社会在这方面的发展应该密切关注,同时有必要普及民众知识,避免科技不断突破却被歹徒利用,国人成为跨国受害者。

关注AI发展的国际专家积极发出警觉和感到不安,主要理由包括几点:一是在技术上,目前的AI与过去的任何科技突破有本质上的不同,不再是单纯反映人类意志与思维的产品;例如印刷业再怎么发展,都须要根据人类创作的内容去印刷与传播,从新闻内容到宗教文献都一样,但AI已经有了自主操作与生成内容的可能,或许不太久,甚至能编造自己生成的各类内容,而人类无法分辨真假;二是在自由思想上,AI的发展比各种类型的宣传机器更强大,可能在商业与政治领域被利用来进行无意识的渗透和影响,破坏民主制度的公平性和自主性;三是在经济上,即便法律规范能消除前面的顾虑,但AI为产业所带来的强大效率,可在短时间内让低端产业重新在发达国家出现,例如用不着大量人工的传统制造业可重新回到发达国家,全球化的分工进一步瓦解,将导致依赖这些产业的穷国经济一夕崩溃。另外,无论是在先进或落后国家,它都极可能夺走人们的饭碗,甚至摧毁掉不少的行业。这些问题已经超出法律规范,而亟需国际社会在“适者生存”的商业规则之外,建立更多共识。

两个月前,数以千计的AI业者和关注者集体发出公开信,要求企业界暂停研发至少半年,以便人类后退一步,制定规范,其中顾虑便是AI的演进速度之快,可能从根本上颠覆人类所能想象的局面。美欧等先进国家试图制定法律规范,是重大的进展,但在世界处于断链与脱钩的情况下,相关的规范如果因大国的猜疑与相互排斥,不能取得全人类共识,甚至敌对的科技大国铆足全力争相研发与利用AI技术,会不会在10年内演变成新型而更强大的AI“战争”,恐怕更令人警惕。

新技术的研发是人类的智慧结晶,包括人脸或声纹辨识等科技,今天已在多方面广泛使用,并被视为更安全的保障。但技术更新越来越精密,掌握技术能力者一旦拿来做坏事,绝大多数人都无法分辨真伪;而透过AI所制造的信息战,无论是政治类、商业类或存心的诈骗,对很多人也都是风险。因此除了期待发达国家早日建立周全的监管框架,我们也有必要根据自己的国情,尽快完善监管规划,把风险降到最低。

热点关注新闻

延伸阅读推荐

本站联系方式:nanluecom@qq.com
Copyright© 2016-2023
联合早报中文网手机端服务