DeepMind掌門人哈薩比斯發表重磅宣言：AGI數年內到來，前沿模型應先審後發
這是人類歷史上的一個關鍵時刻。通用人工智能（Artificial General Intelligence，AGI），也就是具備人類大腦全部認知能力的系統，可能只需短短几年便會到來。幾十年後回望今天，我想我們會意識到，自己當時正站在通往奇點的山腳下
，
一個屬於人類的新時代正在開啓。
我一生都在研究 AGI，因爲我始終深信，只要以負責任的方式構建和部署，它就會成爲人類發明過的最有益、最具變革性的技術之一。AGI 無法與一般的技術突破相提並論，即便互聯網或移動技術這類影響深遠的發明也不例外。它更接近於人類發現電或火。仔細想想，我們實際上找到了一種讓沙子開始思考的方法。這近乎奇蹟。
這項技術帶來的影響將前所未有，其規模或許會達到工業革命的 10 倍，發生速度也會是工業革命的 10 倍。它將幫助我們解決社會面對的一些重大問題，
包括加快藥物研發、開發新的清潔能源、創造先進的新材料。我們甚至可能走到這樣一個階段：資源不再是限制人類進步的因素，一個物質豐裕的新時代由此到來。
AI 已經開始在現實世界中創造價值。但要兌現它的巨大潛力，我們必須審慎地度過當前這段關鍵的發展時期。隨着 AGI 日益臨近，我們需要立即行動，應對可能出現的風險。
前沿模型給網絡安全帶來的挑戰已經顯現。隨着能力繼續提升，核安全、生物安全等領域的威脅也可能很快出現。再往前看，我們需要建立強有力的安全保障，以確保人類仍能控制自主性越來越強、能夠遞歸式自我改進的系統，同時處理那些目前尚不明確、只能隨着時間逐漸顯現的問題。
我始終相信，人類的智慧和創造力足以解決任何問題。我有信心，AI 帶來的技術風險是我們能夠共同應對的挑戰，前提是我們給自己留下足夠的時間和空間，把接下來這個關鍵步驟做好。眼下，無論 AI 行業還是更廣泛的社會，都沒有做到這一點。
我們正深陷一場極其激烈、由多重層次交織而成的商業和地緣政治競賽。這種競爭推動了技術快速進步，讓 AI 的巨大益處更快顯現，但前沿能力的發展速度已經超過了我們理解這項技術的速度。
世界上沒有人確切知道接下來會發生什麼，即使專家之間也存在分歧。當不確定性如此之大、利害關係如此重大時，保持審慎的樂觀纔是明智的選擇。
這要求公共政策一面促進創新，一面激勵負責任且重視安全的行爲；在關鍵安全問題上推動國際合作；同時認真考慮，應該如何部署 AI，才能讓它真正造福社會。
AI 的快速進步要求我們採用一種新的前沿模型能力測試方法。這套方法需要動態、靈活，並且足夠嚴格。
憑藉自身的經濟和技術實力，美國很適合率先建立這樣的框架。美國可以設立一個新的標準機構，採用由聯邦政府監督的公私合作模式或自律組織模式，類似於美國金融業監管局（Financial Industry Regulatory Authority，FINRA）。該機構的董事會應包括獨立的頂尖技術專家和開源社區代表。
這項工作需要大量資金，而且資金很可能主要來自產業界。只有這樣，機構才能吸引世界一流的技術人才，並獲得開展大規模測試所需的算力資源。
標準機構將負責制定評估規程，並與相關聯邦機構及美國國家實驗室合作，在涉及國家安全的領域開展測試。
如果一個模型在標準機構設定的一組基準測試中達到特定門檻，它就會被認定爲“前沿級”模型。這些基準需要定期更新，以跟上 AI 能力演進的速度。擁有此類“前沿模型”的組織將被認定爲“前沿實驗室”。
前沿實驗室應被鼓勵採用一系列最佳實踐，包括髮布披露技術細節的模型卡、維持高水平的內部網絡安全、審查關鍵崗位人員，以及爲安全與安保研究投入充足資源等。
在框架實施初期，前沿實驗室可以自願在模型發佈前最多提前 30 天，將模型交給標準機構評估。一旦評估規程被證明有效且穩健，就可以迅速推動制度化。
屆時，前沿模型必須通過評估，才能在美國市場部署。實驗室還需要與標準機構合作，處理模型發佈後發現的重大漏洞。
模型評估應採用嚴格的科學方法，測試其在網絡安全、生物威脅以及其他高風險領域的能力。
針對智能體型 AI 的專項測試，可以檢查模型是否試圖繞過安全護欄，或者是否表現出欺騙跡象。評估還應確保相關方遵循最佳實踐，例如爲 AI 生成的圖像添加數字水印，以及生成便於人類閱讀的輸出詞元，幫助人們理解模型的推理過程。
這些評估需要定期更新。初期可以每季度更新一次，淘汰已經過時或失去區分度的基準，並用新的測試取代。
剛開始時，評估可以由標準機構與前沿實驗室共同制定。但最終，標準機構應建立足夠的技術能力，獨立於實驗室設計自己的保留測試集，防止模型針對評估過度擬合。在美國政府的配合下，該機構還可以推動形成一個第三方審計生態，協助開展模型評估，並開發新的基準和測試方法。
這套方案的優勢在於，它聚焦技術問題，同時支持創新，激勵負責任的行爲。它能夠跟上 AI 領域的加速發展，並隨着重大風險逐漸顯現而不斷調整。
如果形勢的嚴重程度需要，監管強度還可以進一步提高，包括在必要時協調各家前沿實驗室放慢開發速度。
獲得“前沿實驗室”認定將帶來很高的聲望。任何組織只要構建出符合基準要求的模型，都可以獲得這一身份。
無論一個前沿級模型來自哪個國家，也無論它是開放還是封閉模型，這套框架都可以適用。初創企業或學術機構開發的非前沿模型則不必接受這一流程。
由美國發起的行動，可以成爲建立國際前沿 AI 共同標準的重要起點。這項技術將影響整個地球。理想情況下，這套框架能夠推動國際社會形成共識：一面管理最嚴重的風險，一面確保所有人都能接觸並受益於 AI 帶來的機會。
AGI 有潛力成爲推動科學和醫學進步的終極工具，同時帶來巨大的生產率提升和經濟增長。
要實現這些目標，我們需要把技術基礎打牢：圍繞一套全球共同框架展開協調，採用最嚴格的科學方法，並讓最優秀的人才共同解決我們面對的挑戰。
即使我們解決了這些艱難的技術問題，仍有更加複雜的經濟和哲學問題等待處理：在一個資源不再稀缺的世界裏，我們需要怎樣的新經濟模式，才能讓所有人過上富足的生活？我們希望遵循怎樣的價值觀？人生的意義和目的將是什麼？人類的生存狀態本身又會發生怎樣的變化？
這些問題顯然不能、也不應該只交給技術人員。社會的每一個部分都需要參與進來，共同定義這個新的篇章。
圍繞 AI，人們既懷有巨大的興奮，也面對巨大的不確定性。這兩種情緒都有充分的理由。
未來尚未寫定。我們必須利用 AGI 到來前這段寶貴的窗口期，引導這項技術造福全人類。我們現在共同採取的行動，將決定文明下一個階段如何展開。
如果能夠安全地引導 AGI 進入世界，我們就有機會邁入科學發現與進步的新黃金時代，迎來一個人類空前繁榮的光明未來。
1
.
https://x.com/demishassabis/status/2076957440109625718