张立健：寻找不一样的人工智能愿景

继3月26日于网上跨国联署《暂停大型人工智能实验的公开信》之后，5月30日来自美国的人工智能安全中心发布最新的《人工智能风险声明》，提倡应该列人工智能（AI）为全球优先事项，因其可能带来人类灭顶的风险，要与流行病和核战争等的风险看齐。是次联署又再次吸引到行内教父级的辛顿（Geoffrey Hinton）和本希奥（Yoshua Bengio）联署，未知又能为亚洲和东南亚社会带来什么启示？

日本AI学者江间有沙在《超图解AI与未来社会》一书中，指出我们该集体思考明天的社会，掌握对AI的不同想象很重要，因为这些愿景对我们的生活影响深远。她提到不同地方对于AI的关注点略有不同，比如欧洲保护人权、尊严与责任；美国看重个人自由与拓荒精神；非洲重视技术与制度革新；中东、印度具东西交界的包容性；中国则强调社会调和与稳定。

未来的AI时代有新趋势，也在于各国政府、企业和公民社会协商，才可能达到多方能够接受的愿景。而且以往我们缺乏面向科技挑战的机制，像七国集团（G7）峰会刚达成的《广岛AI进程》，尝试在年底前定立国际监管标准，算是迈向前走了一小步。

《2062年：人工智能创造的世界》作者沃尔许（Toby Walsh）是来自澳大利亚新南威尔士大学的AI科学教授，书中的主旨假设在2062年之时，AI将会彻底改变我们的世界。首先，沃尔许提到一个有趣现象，便是一般非专家会比专家相信AI，亦更相信会和人一样能干的机器更早到来。他的调查发现，以一半的或然率来说，专家预测的中位数是2062年，而非专家则预测是2039年。

其次，关于牛津大学研究得出的结论：机器将取代人类目前47%的工作，沃尔许指出技术上可能，但对某一些工作来说，在经济上相对不可能，比如修理脚踏车如此繁琐的工作。虽然现在找工作重视数理（STEM）教育技能，但作者认为未来的工作会更重视人味、人性。

再者，沃尔许提到八个电脑的优势：记忆体比人脑大、运算速度比人快、供电量更多、可全年无休、人类健忘但电脑不会、没有情绪、程式码是共通的、按或然率来决策。但是作者却强调人比电脑的优势是学习力、创意、情绪智力和社会同理心，我们仍要保持这些优势。

利用电脑控制的自主武器（LAWs）是危险的，因此沃尔许提倡该像生化和核子武器般管制或禁绝。同理，他亦认为现在是哲学的黄金年代，该确保在2062年的AI系统反映人的价值，并且确保数码人比智人更符合伦理。

前文提及江间有沙提出AI的“愿景不一定只有一种。人类和只能根据过去资料来学习的机器不一样，可以运用想象力预想各种可能性，然后动手实现它”。而且发明者不会知道一项科技如何影响社会，只能在科技进入社会之后才后知后觉，毕竟问题可能不在AI，而在社会！

不顾价值的科技愿景，就只可能增加不公平、不公正的社会与不健康的文化，放大了现时的环境破坏、贫富悬殊的现状。利用AI的契机，该推进很多基本价值，如民主、自由、平等、人权。机械及其智慧能为人带来福祉是最重要的，该为人类带来更有趣的生活、更多元的参与、可持续的发展。希望AI不要为世界带来战争、暴力、分裂、不公。

作者是南洋理工大学社会学系博士生