【代碼之外】丁源森／AI在天文上的神助攻

大型語言模型就像雲頂高原的老虎機，每次“搖動”都產生不同的輸出。通過大數據訓練，我們就像在老虎機上作弊，使得它的輸出更符合我們的預期。

超越ChatGPT：開源模型的多樣化應用

瞭解這個概念後，你就能明白為什麼Bard突然短路了。詹姆士·韋伯望遠鏡有很多“第一”，它確實重點研究太陽系外行星並擁有先進的成像技術，但把這些信息組合起來卻反而不對，這就像有人問你在馬來西亞應該吃什麼，你回答“Roti Canai夾榴槤配 Laksa。”

雖然當前的AI仍然會犯一些低級錯誤，但是大語言模型的應用不僅僅侷限於簡單地使用ChatGPT，要知道ChatGPT只是眾多大型語言模型中的其中一個。雖然OpenAI已經不再 Open（開源），但眾多模型包括臉書Meta的LLaMa模型系列仍是開源的，而這些開源的模型允許我們在這些訓練模型的基礎上進行微調，進而釋放更多潛力。

這好比你已經有一群優秀的大學畢業生，雖然他們不一定會有特定領域的專長，比如說天體物理的一些特定知識，但如果可以讓這些模型再“進修”，那麼它就可以發揮更大的能量。
這正是我的研究團隊正在探索的其中一個方向。

讓AI看懂30萬篇天文論文

最近我們的團隊對這些開源模型進行了微調，利用過去30年天文科學期刊發佈的大約30萬篇文章對其進行訓練，訓練方法和上述說的文字填空和接龍是一樣的。當然，這裡對於模型的訓練還包括我們的一些小巧思。比如說讓兩個語言模型“對戰”，其中一個模型扮演學生回答天文問題，另一個則扮演教授點評學生的答案，兩者互相競爭。（這裡就不談技術細節了）

其實我們一開始也沒底，就覺得可以試一試。模型的表現確實讓大家很震驚，比如說我們嘗試用AI生成天文學博士論文的研究方向，並請天文物理學家評分。評分結果顯示，AI生成的論文題目在專家眼中甚至優於一般天文物理博士生能夠提出的論文方向，一些同事不禁戲稱：“真的不能讓你繼續搞下去，不然我們都失業了。”

必須說明的是，我們的目標並非取代人類工作，但我們必須接受的是，在這個新的時代裡，AI生成的答案已儼然成為了評價的基線，只有超越AI的答案才被視為有價值。雖然這麼說感覺有點殘忍，但這未嘗不是好事，因為AI把所有人的基準能力都拔高了一個緯度。要知道每個人都有自己的特長，而這些特長大概率還是比目前的模型更好，但是模型卻可以補足每個人在其他方面的短板。

比方說，我以前覺得自己做研究還可以，但比較苦惱的是如果要我用英文寫期刊文章，我就覺得對我這種非英語母語的人特別吃虧。雖然現在的模型不見得能寫出媲美狄更生和王爾德的大作，但我卻可以享受著類似用母語寫作的暢快。

AI：平等的橋樑與公正的裁判

從宏觀角度來看，我樂觀地認為無論是回顧歷史還是展望未來，這些AI模型將促進人與人之間的平等，併為弱勢群體創造更多機會。

比如說，以前我們時常依賴某些指標，例如論文的被引用次數來評估一個人對於某個領域的貢獻，但學術界其實並非完全公正。有時候，一些普通的論文莫名火起來，而其他有價值的論文卻可能因為種種原因被埋沒，所以這些指標往往並不能很公平地去評斷一篇學術論文的價值。而我們的研究團隊正在研究的其中一個方向，就是用我們微調後的模型去讀遍所有論文，忽略人為的主觀評價，客觀地分析所有文章，從而找出任何一個能推進這個領域的真正先驅。

至於展望未來的部分，AI也只會讓科技更加平等與開放。以天體物理為例，這是一個高投資的研究領域，可惜絕大部分的人再有才識也可能只屈就於一些崗位上，找不到人去交流。但微調後的大型模型可以獨當一面，能力未必比各個領域的博士們差，可以成為弱勢研究者的研究夥伴，不讓個人際遇妨礙他們的成就。這也是我們團隊做這項研究的最大初衷，而我們的團隊也逐步在網上公開所有AI生成的天體物理博士論文方向。

還記得IBM的深藍嗎？

有人說，AI的出現是人類的消亡，可是要知道這種論述在歷史上從來沒有斷過，但是也從來沒有預言成真過。

還記得IBM的超級電腦深藍曾經擊敗國際象棋大師卡斯帕羅夫嗎？當時有人悲觀地認為國際象棋已經結束了，但在二十多年後的今天，人們反而可以在任何地方、任何時間和AI對弈及學習，我們看見的是國際象棋更加昌盛，在很多非傳統強國也是遍地開花。

更多相關文章：
【代碼之外】丁源森／做AI時代裡的 六邊形戰士
【代碼之外】丁源森／論AI的養成與黯然銷魂飯 
【代碼之外】丁源森／AI、ChatGPT與我媽的掃地機器人