张晋玮.科技专才对AI的担忧

我向来在学术界与企业界之间徘徊，这让我有机会从不同的角度观察AI发展过程。在阿法围棋一炮而红后，涌入大学AI研究的资金暴涨，任何与AI挂钩的项目不愁没有经费。

在短短几年后，AI开始渗透企业界，市场上的程序员纷纷转行到数据科学（Data Science）或机器学习（Machine Learning）等与AI有关的行业。此外，市场上的AI工具大增，让曾经需要专业知识才能使用的AI突然普及人群，微软的Azure和亚马逊的AWS平台是背后主要推手之一。

跨入2020年代，ChatGPT的诞生震撼人心，从聊天，到写论文以至编程，无所不能。尤其是近日推出的GPT-4新版，用户用了不到100个字，讲解一个凭空想象出来的电脑游戏，ChatGPT竟不费吹灰之力，把它完美编制出来。

该研究指出，新版GPT已经开始走“通用人工智慧”（Artificial General Intelligence），即学会所有人类所学会的事，学人一样地思考。从某种角度看，这是一件可怕的事，当机器拥有与人类相近的智慧，做事比人类更快更准，人类岂不是会被完全代替？

先撇开有关“机器可不可能完全取代人类”的争议，人类与AI确实走到了一个交叉路口，继续发展AI怕会自取灭亡；停止发展又等于放弃社会前进。相信这是专家提议“暂缓AI发展”的原因，但这仅是一个缓兵之计，而不是长期的解决方案。

个人认为，遏制AI发展是一件不可能的事。不是每一个人都愿意放弃自身利益，换取全人类的安全。即使全球立法阻止AI发展，也无法遏止不法之徒继续发展和利用此技术。

其实，要保护人类，人们不仅无需放缓AI发展，反而要加快研究的脚步。AI是福是祸，关键在于研究的方向。在AI研究里，有两个媒体甚少提到的领域，它们是“负责任人工智能”（Responsible AI）以及“可解释人工智能”（Explainable AI）。

前者研究如何训练出有“责任感”的AI系统，简单而言，把AI当成一个小孩，教得好，长大后自然会造福人群。发展此类技术能确保AI系统不祸害社会，或者至少好的AI系统会比坏的多。

当AI系统给人们做决定时，“可解释人工智能”负责解剖它的运作，尝试去了解该决定背后的原因。在微软的报告里，就连研究人员也坦言，他们无法解释为何GPT-4拥有某些惊人能力。由此可见，人类对此系统了解不足，这是危机的来源，人类唯有知彼知己，才能百战不殆。