(舊金山5日法新電)美國OpenAI公司在職和前員工等週二發佈公開信,警告世界領先的商業公司競相開發人工智能產品存在風險,稱該行業缺乏必要的透明度和問責制,無法應對該技術帶來的潛在風險,並可能對吹哨人打擊報復。
這封信提出了對人工智能安全風險的嚴重擔憂,包括進一步加劇現有的不平等、助長操縱和虛假信息的傳播,以及自主人工智能系統的失控可能導致人類滅絕等。
ADVERTISEMENT
包括谷歌DeepMind的一名員工在內的16名簽署者警告稱,人工智能公司“有強大的經濟動機驅動它們繼續推進人工智能研發來逃避有效監管”,而公司自己內部的管理無法有效改變這一現狀。同時這些公司卻對保護措施和風險水準的資訊諱莫如深。
信中寫道:“人工智能公司掌握著大量非公開信息,包括其系統的能力和侷限性、其保護措施的充分性,以及不同類型傷害的風險水平”,“然而,這些公司目前只需遵從很低的義務責任與政府分享部分信息,而與民間社會則沒有任何義務。我們認為,不能指望他們都會自願分享這些信息。”
信中還補充道,這一現實意味著,只有公司內部的員工才能向公眾通報情況,簽署者呼籲制定更廣泛的吹哨人法律來保護他們。
信中寫道,廣泛的保密協議阻止了他們表達他們的擔憂。
據《紐約時報》報道,7名OpenAI前員工、4名現任匿名員工簽署了這封信,匿名是因為擔心遭到公司的報復。
經常被稱為“人工智能教父”的約書亞·本吉奧、傑弗裡·辛頓和斯圖爾特·羅素也簽署了這封信,他們批評這些公司對人工智能的危險準備不足。
OpenAI在一份聲明中反駁了上述批評。聲明稱,“我們為我們提供最強大、最安全的人工智能系統的記錄感到自豪,並相信我們應對風險的科學方法”,“我們同意,鑑於這項技術的重要性,嚴謹的辯論至關重要,我們將繼續與世界各地的政府、民間社會和其他社區接觸。”
OpenAI還表示,該公司有“讓員工表達擔憂的渠道,包括一條匿名的誠信熱線和一個由董事會成員和高管包括首席執行員阿爾特曼領導的新成立的安全與保障委員會。”
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT