ChatGPT大受歡迎催生 聊天機器人可靠性存疑
（雷德蒙德10日美聯電）谷歌的搜索引擎開始重塑我們使用互聯網方式的近四分之一世紀後，多家大型科技公司競相將搜索引擎這個眾人熟悉的網絡工具改造成進入一個新形式人工智能（AI）的門戶。在本週，新推介的幾個人工智能搜索聊天機器人，即有谷歌的Bard、百度的“文心一言”（英文名“Ernie Bot”）和微軟的Bingbot。
促使它們倉促投入市場的原因，是微軟的合作伙伴OpenAI去年底推介的ChatGPT大受歡迎，而ChatGPT如今協助驅動新版本的Bing搜索引擎。
ADVERTISEMENT
數百萬人如今已試用過ChatGPT，用它來寫一些無聊的詩和歌曲、寫信、食譜和市場行銷計劃，或是幫忙做功課。它是經過大量網上著作，從使用說明書到電子書的訓練，因此它能很好地掌握人類語言和語法。不過，這些最新的搜索機器人所承諾，並指ChatGPT所沒有的是，在網絡搜索中所能找到資料的即時性。若你要求新的Bing預覽版為你提供最新的新聞，或是告訴你人們在推特談論了些什麼，它會概述當天的精選首要新聞或潮流趨勢，並附有可連接至各媒體或其他資料來源的腳註。
但是它們準確嗎？通常都不準確，而這也是互聯網搜索的問題。
Bard Bing紛凸槌
谷歌本週倉促推介其Bard聊天機器人，一開始就犯了個令人尷尬的錯誤，是關於美國太空總署（NASA）的韋伯太空望遠鏡。不過，谷歌的Bard也並非唯一吐出謊言的人工智能機器人。
美聯社於2月8日詢問Bing關於過去24小時體壇所發生的最重要事情，預期它可能會稍微談論籃球明星勒布朗·詹姆斯在職業生涯得分紀錄超越賈霸。誰知，它卻信心滿滿地滔滔不絕說出還未實際發生，數日後才到來的超級碗比賽的虛假但詳細報道。
除非Bing是未卜先知，此事反映出一個在今日大型語言學習模型中很常見，稱為人工智能“幻覺”的問題。這也是谷歌和臉書母公司Meta等公司一直不願讓這些模型作公開使用的原因之一。
測試發現：可秒編虛假內容
ChatGPT或成最強網謠工具
《紐約時報》報道，美國新聞可信度評估與研究機構NewsGuard對ChatGPT進行了測試，虛假信息的研究人員對ChatGPT提出充斥陰謀論和誤導性敘述的問題，發現它能在幾秒鐘內改編信息，產生大量令人信服卻無信源的內容。
他們表示，目前沒有任何可行的方法可以有效地解決這一問題。
NewsGuard聯合首席執行克羅維茨表示，ChatGPT將成為互聯網上傳播錯誤信息的最強大工具。
如今，編造一個虛假信息可以快速大量的進行，就像是人工智能特工一樣，產生了大量錯誤、失實的消息，成了謠言聚集地。
值得注意的是，目前已經有平臺開始管制，比如日前電商平臺出現“ChatGPT”代問代註冊的商品，目前已經被屏蔽，搜索不到任何內容了。
“模仿寫作”讓抄襲更難被察覺
抄襲事實查核機構NewsGuard透過實驗，讓ChatGPT回應百大假訊息，其中竟有80個成功變成了通順合理的假訊息。
ChatGPT可以寫論文、編程式，有關AI產生的研究摘要甚至被專家認為是同儕撰稿。針對這些“模仿寫作”的手段，科技記者坎特羅維茨說，這一類型AI將使剽竊更容易發生，且ChatGPT的學習與回應功能，會讓抄襲更難被察覺；資訊辨識真偽的漏洞，亦可能被有心人士濫用，產生假訊息。
優異對話能力或被濫用“釣魚”
此外，犯罪人士也蠢蠢欲動，開始濫用ChatGPT優異的自動對話能力。
網路情報公司Hold Security創辦人亞歷克斯霍爾登觀察到，過往各大社群平臺上已經相當氾濫，假冒美女來騙感情、騙錢的釣魚帳號，現在開始透過ChatGPT冒充真人更快、更自動地產生假對話，甚至藉此來延續對話內容。
資安公司憂將成駭客工具
另外，以色列資安公司Check Point研究員披露，ChatGPT也將成為不擅長英語的俄羅斯駭客製作合法網路釣魚電郵的工具。
ChatGPT讓編寫程式碼的門檻變低，也讓勒贖軟體、木馬程式更容易製造。
甚至還有駭客認為，可用ChatGPT來協助建構暗網市集，完成部分功能。論壇上就分享了用ChatGPT 寫一個程式，作為可自動監控加密貨幣價格的支付系統。
Check Point研究員認為，要防止犯罪人士利用ChatGPT可能還是得靠法規來監管。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
