這封信呼吁，所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。

29日，未來生命研究所（Future of Life Institute）公布了一封公開信，信中，其呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。被稱為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton） 、紐約大學心理學和神經科學榮譽教授馬庫斯和特斯拉CEO馬斯克均簽署了這封公開信，以下為具體內容。

具有與人類競爭的智能的AI系統可能對社會和人類帶來深遠的風險，這已經得到了大量研究和頂級AI實驗室的認可。正如廣泛認可的阿西洛馬人工智能原則（Asilomar AI Principles）所述，先進的AI可能會對地球生命歷史產生深遠的變革，應該得到相應的關注和資源進行規劃和管理。不幸的是，即使近幾個月來AI實驗室在開發和部署越來越強大的數字化思維方面陷入了失控的競賽，這種規劃和管理也沒有得到實現，而這些數字化思維連它們的創造者也無法理解、預測或可靠地控制。

(資料圖片僅供參考)

當代AI系統現在正變得在通用任務方面具有與人類競爭的能力，我們必須問自己：我們應該讓機器充斥我們的信息渠道，充滿宣傳和不實之詞嗎？我們應該將所有工作自動化，包括那些令人滿意的工作嗎？我們應該發展非人類思維，讓它們最終在數量、智慧和技能上超越、淘汰和取代我們嗎？我們應該冒著失去對文明的控制的風險嗎？

這樣的決策決不能委托給未經選舉的科技領導者。只有在我們確信它們的影響將是積極的，風險可控的情況下，才應該發展強大的AI系統。這種信心必須得到充分的理由，并隨著系統潛在影響的增大而增強。OpenAI最近關于通用人工智能的聲明指出：

我們同意。那個時候就是現在。

因此，我們呼吁暫停訓練比GPT-4更強大的AI系統至少6個月，這個過程應該是公開且可驗證的，并包括所有關鍵參與者。如果無法迅速實施此類暫停，政府應介入并實行暫停令。

AI實驗室和獨立專家應利用這段暫停時間共同制定和實施一套先進AI設計和開發的共享安全協議，這些協議應由獨立的外部專家嚴格審計和監督。這些協議應確保遵循它們的系統在合理懷疑范圍之外是安全的。這并不意味著要暫停AI的總體發展，而只是從競相開發越來越大、不可預測的黑箱模型和具有突現能力的模型中退后一步。

AI研究和開發應該重新關注如何使現有的強大、先進的系統變得更準確、安全、可解釋、透明、穩健、符合人類意愿、值得信賴和忠誠。

與此同時，AI開發者必須與政策制定者合作，大力加快發展健全的AI治理系統。這些至少應包括：專門負責AI的新型、有能力的監管機構；對高能力AI系統和大量計算能力的監督和跟蹤；用于區分真實和合成內容以及跟蹤模型泄漏的來源和水印系統；健全的審計和認證生態系統；對AI造成的損害承擔責任；技術AI安全研究的充足公共資金支持；以及應對AI將帶來的嚴重經濟和政治顛覆（尤其是對民主制度）的充足資源支持的機構。

人類可以在AI的幫助下享受繁榮的未來。我們已經成功地創造了強大的AI系統，現在可以享受一個“AI夏天”，在其中我們可以收獲回報，為所有人明確地利用這些系統，讓社會有機會適應。社會已經對可能對社會產生災難性影響的其他技術按下了暫停鍵。我們也可以在這里做到。讓我們享受一個漫長的AI夏天，而不是毫無準備地冒進入秋天。