【代碼之外】丁源森／透視人工智能 機遇與責任同行

又比如在我的研究領域——天文學，AI也具有巨大的潛力。您可能在疫情期間看過Netflix的電影《不要抬頭》（Don’t Look Up），它講述小行星即將撞擊地球的故事。儘管這個主題有些老套，但在現實生活中，從海量數據中識別對地球潛在威脅的小行星，確實是一項極其複雜的任務。我和我的同事們也正在利用電腦視覺技術——類似於監控系統的人體追蹤技術，來尋找這些小行星。

當AI被不當使用的潛在危害

儘管機器學習在多個方面都正在推動我們社會的發展，但並非所有影響都是正面的。雖然我之前一直強調AI的積極潛力，但我們也必須警覺於它可能帶來的風險。

在馬來西亞，我們普遍存在一個誤區，感覺大家好像認為機器學習是一個高端且難以觸及的領域，我們也只能嗑瓜子，看著中美競爭就好了。然而，事實上，機器學習的入門門檻其實相對低。儘管有些研究確實需要大量資金，但普通學生甚至高中生也能理解其中的基礎概念。據我所知，像新加坡就正在全球以高額獎學金吸引電腦科學博士生。如果我們馬來西亞不開始重視AI和機器學習，那麼我們將面臨嚴重的全球競爭劣勢。我們需要讓年輕人知道，機器學習並不是高不可攀，反而是未來發展的必備技能。

而正因為機器學習的門檻相對較低，這也為不懷好意的人提供了更多可乘之機。我們常說人工智能正在變得越來越“智能”，但這種智能不是說有意識，而是它可以用少量的樣本做到泛化。以人類來說，我們能夠僅憑几句話就識別出說話的人，這是一種高度的泛化能力。而當前的人工智能技術也越來越能在少量樣本的基礎上進行泛化。這樣的進步當然帶來潛在的社會風險，比如通過簡短的語音樣本就能模仿某人的聲音。但是這種問題，我覺得所謂“魔高一丈，道高一尺”，最後我們社會也會慢慢適應。

說到壞人用AI做壞事，其實還有更令人擔憂的潛在問題。我曾與一位專門使用AI進行蛋白質摺疊研究的同事討論過這個問題。他最擔心的是，這種低成本的“製藥”技術具有雙刃劍的性質：一方面具有製藥的潛力，另一方面則可能利用AI來設計病毒，而且成本不高。我自己當時聽的時候也是嚇出了一身冷汗。

這讓我回到了文章的開頭，我覺得我們有時在討論AI時會失焦。像大量失業和“天網”式的自我意識機器人的出現確實有些過於想像，但我們應記住，人類最大的威脅往往還是來自人類自身。

勇往直前，在風險與機會中尋求平衡

有人可能會問，既然有這麼多不確定因素，為什麼不直接限制這些技術的發展呢？這當然是一個值得深思的問題，美國等國家也在頻繁討論這一點。但核心問題在於，即使我們限制大型模型的發展，問題本質並未解決。小型模型同樣有可能造成巨大的破壞，特別是考慮到這一領域的入門門檻相對較低。

另一方面，我們面臨許多緊迫和複雜的問題，從應對氣候變化和尋找可持續能源，到治療癌症，甚至應對不可預見但極其嚴重的問題如小行星威脅。在所有這些方面，機器學習都是我們人類現在唯一的希望。因此，我們不能因為某些潛在的風險而因噎廢食。

然而，不管大家覺得我們是因噎廢食還是飲鳩止渴，事實是這個大門已經被敲開了。我們現在能做的最好的事情，就是每個人更深入瞭解這些新興技術，並形成自己的見解，而不是隨波逐流。

不確定的未來的確會令人不安，不過我覺得人類發展總是像在高空的鋼索上行走，永遠都具有風險和不確定性。但停滯不前不是選項，我們唯有勇往直前才能保持平衡。

更多相關文章：
【代碼之外】丁源森／AI在天文上的神助攻
【代碼之外】丁源森／做AI時代裡的 六邊形戰士
【代碼之外】丁源森／論AI的養成與黯然銷魂飯
【代碼之外】丁源森／AI、ChatGPT與我媽的掃地機器人