張晉瑋.科技專才對AI的擔憂

我向來在學術界與企業界之間徘徊，這讓我有機會從不同的角度觀察AI發展過程。在阿法圍棋一炮而紅後，湧入大學AI研究的資金暴漲，任何與AI掛鉤的項目不愁沒有經費。

在短短几年後，AI開始滲透企業界，市場上的程序員紛紛轉行到數據科學（Data Science）或機器學習（Machine Learning）等與AI有關的行業。此外，市場上的AI工具大增，讓曾經需要專業知識才能使用的AI突然普及人群，微軟的Azure和亞馬遜的AWS平臺是背後主要推手之一。

跨入2020年代，ChatGPT的誕生震撼人心，從聊天，到寫論文以至編程，無所不能。尤其是近日推出的GPT-4新版，用戶用了不到100個字，講解一個憑空想象出來的電腦遊戲，ChatGPT竟不費吹灰之力，把它完美編制出來。

該研究指出，新版GPT已經開始走“通用人工智慧”（Artificial General Intelligence），即學會所有人類所學會的事，學人一樣地思考。從某種角度看，這是一件可怕的事，當機器擁有與人類相近的智慧，做事比人類更快更準，人類豈不是會被完全代替？

先撇開有關“機器可不可能完全取代人類”的爭議，人類與AI確實走到了一個交叉路口，繼續發展AI怕會自取滅亡；停止發展又等於放棄社會前進。相信這是專家提議“暫緩AI發展”的原因，但這僅是一個緩兵之計，而不是長期的解決方案。

個人認為，遏制AI發展是一件不可能的事。不是每一個人都願意放棄自身利益，換取全人類的安全。即使全球立法阻止AI發展，也無法遏止不法之徒繼續發展和利用此技術。

其實，要保護人類，人們不僅無需放緩AI發展，反而要加快研究的腳步。AI是福是禍，關鍵在於研究的方向。在AI研究裡，有兩個媒體甚少提到的領域，它們是“負責任人工智能”（Responsible AI）以及“可解釋人工智能”（Explainable AI）。

前者研究如何訓練出有“責任感”的AI系統，簡單而言，把AI當成一個小孩，教得好，長大後自然會造福人群。發展此類技術能確保AI系統不禍害社會，或者至少好的AI系統會比壞的多。

當AI系統給人們做決定時，“可解釋人工智能”負責解剖它的運作，嘗試去了解該決定背後的原因。在微軟的報告裡，就連研究人員也坦言，他們無法解釋為何GPT-4擁有某些驚人能力。由此可見，人類對此係統瞭解不足，這是危機的來源，人類唯有知彼知己，才能百戰不殆。