通用人工智能

通用人工智能的研究目標是尋求統一的理論框架來解釋各種智能現象。 ^[1] 

所謂AI Completeness，指的是：（1）完備的認知架構(Complete CognitiveArchitecture)，即任意一個AI任務都可映射到該架構中解決，並能分析任務的複雜度；（2）完備的測試環境(Dynamic Environment with Physical and Social Interactions, DEPSI)，即可提供任意複雜的物理與社會場景，將人類可能遇到的任務均可在平台上覆現。

實現通用人工智能需要滿足三個關鍵要求 ^[1]  。（1）完成無限任務，包括在複雜動態的物理和社會環境中沒有預先定義的任務；（2）自主定義任務，像人類一樣自主產生並完成任務；（3）由價值驅動，智能體要像人一樣由價值V驅動能力U。當前的人工智能研究還大多集中在數據驅動的統計建模與學習，亟需增進因果推理能力，這是鏈接智能體的內在價值和外部行動，構成價值-因果-行為鏈條的關鍵所在；並開放具身能力，這是智能體能夠進入現實世界與人和環境交互，執行並完成任務的基礎。而當前的ChatGPT大語言模型還不具備以上這些特徵的任何一個。

關鍵問題1：認知架構——心智模型是通訊、學習、倫理道德形成的基礎。認知架構是通用人工智能的表示框架，也是構建心與理U-V雙系統價值驅動的根本。它構建了一套完整的認知體系，包括心智模型、通訊學習等理論。這是通用智能體與人類通訊、交流、信任、合作的基礎。只有建立了完備的認知架構，通用智能體才能實現與人類的四個對齊（Alignment）：共同的態勢感知（Shared situation）、共同的演化模型（Shared predictive model）、共同的行動規範（Social norm）、共同的價值觀（Shared value）。認知架構的重點在於實現“小數據、大任務”範式。決定人工智能系統的三個關鍵要素是架構、任務和數據，不同的選擇導致不同的系統和路徑。只有“小數據、大任務”範式才能擺脱掉“大數據、小任務”對數據的強烈依賴，以及模型不可解釋、缺乏價值驅動等弊端，從而實現具有感知、認知、推理、學習、執行等能力的自主智能。

關鍵問題2：自我意識 指個體對自己的各種身心狀態的認識、體驗和願望。在心理學中，測量自我意識的經典範式是鏡子實驗（Mirror test）。戈登蓋洛普試圖通過判斷動物是否能夠辨別出它在鏡中的像是它自己而判斷其自我認知能力。如何判斷智能體是否湧現出了自我意識、如何應對智能體的自我意識，是未來通用人工智能發展的一個不可迴避的問題。

關鍵問題3：價值函數 智能體的價值體系不是一成不變的，需要隨着外部環境的變化而自動學習和調整。智能體的價值函數可以通過觀察人類的行為、與人交互，學會並理解人類的“價值”，做到“察言觀色”，時刻明確個人當前的價值需求，進而調整行為決策，自主產生並完成任務。

關鍵問題4：價值驅動 人類行為本質上受價值驅動。智能體可以通過觀察人類的行為，學會和理解人類的“價值”，做到“察言觀色”，時刻明確個人當前的價值需求，進而調整行為決策，自主產生並完成任務，才能實現通用智能。價值函數（Value）是U-V雙系統中V系統的表徵。驅動通用智能體的內在價值函數的集合構成了價值體系，包含了個體基本生理與安全需求、社會需求、好奇心與自我潛能實現，以及羣體利益等多個層級。機器的價值必須跟人類的基本價值觀對齊。只有建立了“良知”之心，通用智能體才能被人類廣泛接納。

關鍵問題5：具身智能 具身智能是智能體使用身體完成物理任務的現象，其核心之一是“知行合一”。中國哲學家早已認識到“知行合一”的理念，即人對世界的“知”建立在“行”的基礎上，這也是通用智能體能否真正進入物理場景和人類社會的關鍵所在。其核心之二在於“身體力行”。只有將智能體放置於真實的物理世界和人類社會中，讓它們躬“身”體驗環境物體、符合物理因果，才能切實瞭解並習得真實世界中事物之間的物理關係和不同智能體之間的社會關係。

關鍵問題6：社會智能 社會智能是人類在適應更為複雜的社會情境中所展現的社會認知能力。從進化的角度看，社會智能的發展對於人類的適應至關重要。社會智能具有密不可分的三方面：社會感知、心智理論和社會交互。研究社會智能有助於研究者設計出具有人類特徵的交互智能體，使其做到“察言觀色、眼裏有活、主動幫助”。今年3月，北京通用人工智能研究院認知計算與常識推理實驗室聯合北京大學人工智能研究院在CAAI Artificial Intelligence Research期刊上發表綜述論文”Artificial Social Intelligence: A Comparative and Holistic View“，呼籲學界對人工社會智能領域進行關注。

關鍵問題7：可解釋性 可解釋人工智能指的是智能體以一種可解釋、可理解、人機互動的方式，與人工智能系統的使用者、受影響者、決策者、開發者等，達成清晰有效的交流溝通，有效地“解釋”自身行為和決策，以取得人類信任，同時滿足各類應用場景對智能體決策機制的監管要求。解釋是一個多輪次溝通的過程，其目的在於取得對方的理解、建立信任、達成合作、提高協作的效率。智能體只有有效地“解釋”自己，才能取得用户的“信任”，從而產生高效的人機協作。

北京通用人工智能研究院於去年發表了“實時雙向人機價值對齊 Bidirectional human-robot value alignment”研究，論文同時被Science官網和Science Robotics官網頭條刊登。這篇論文提出了一個可解釋的人工智能系統，闡述了一種機器實時理解人類價值觀的計算框架，並展示了機器人如何與人類用户通過實時溝通完成一系列複雜人機協作任務的過程。

關鍵問題8：人機互信 信任是人類在社會協作中的一種心理狀態，一般分成兩個層次：一是對其能力U的信任，即個人對周圍的每個人、在某個條件下、是否合適做某件事，都有不同程度的信任；二是對其價值V的信任，包含了態度與感情。信任的本質是人類願意暴露自己的“脆弱性”。這是人類在沒有更好選擇的情況下做出的決定。從理論上講，其風險底線需要通過經濟學範疇的合同來規範。人類與智能體也要“籤合同”來實現人機互信。這需要智能體由內在價值函數驅動，通過價值對齊與認知架構形成通用智能體與人交流合作的基礎，通過具身智能和社會智能實現機器與環境和人交互，通過可解釋性的溝通和價值對齊形成人機信任關係，由此才能實現人機共生。

通智測試 ^[13]  從智能體探索和認知世界規律的各自感知、認知、運動、交互、社會、學習等能力，以及對自我、他人和羣體的價值理解學習這兩個角度入手，搭建了具體可行的測試平台架構。測試全面考慮了通用人工智能的關鍵特徵，填補了通用人工智能評測的空白，突破了傳統圖靈測試的方法侷限，在人工智能領域具有創新價值：不但有助於指導研究者為通用人工智能構建綜合的設計架構與完善的評估體系，而且能為人工智能安全治理問題提供積極的解決方案。

在通智測試評估體系下，管理者可針對不同水平的智能體制定差異化監管准入機制，對通用人工智能規範化發展具有參考意義。此外，通智測試評級機制還可以為通用人工智能的科研路徑提供明晰可靠的路線圖，協助相關領域研究者找準科研道路上的前進方向。目前，通智測試已由北京通用人工智能研究院和北京大學的科研人員研究完成。

人工智能發展歷經多次繁榮與衰落的週期輪迴。1956-1974年的第一個黃金時代見證了機器定理證明和邏輯推理的突破。而在1974-1980年，因過於強調通用求解方法，忽略了知識表徵，導致了第一次寒冬。隨後，1980-1987年迎來了發展的第二個繁榮期，知識庫和知識工程是主要的研究對象。而在1987-1993年，由於“符號落地”和“常識獲取”的發展制約，人工智能遭遇第二次寒冬。1990年代至今，人工智能開始進入平穩發展期，分化成幾個子領域，包含計算機視覺、自然語言處理、認知與推理、機器學習、機器人學、多智能體領域等。每個領域均出現過突破性的成果，但是每個獨立的成果侷限在自己的子領域中，人工智能距離達到人類通用且泛化的智能水平仍然相差甚遠。

人工智能的發展起伏跌宕，其哲學思想也經歷幾次轉變。第一時期（1960-1990）西方哲學思想引領了人工智能的發展。以蘇格拉底、柏拉圖、亞里士多德為代表的辯論與邏輯，發展成為嚴密的命題邏輯、謂詞邏輯、事件邏輯等體系，為人工智能的邏輯、表達與推理等方面提供了理論框架。第二時期（1990-2020） 概率建模、學習與隨機計算佔據主導地位。核心代表人物包括烏爾夫·格林納德（Ulf Grenander）、朱迪亞·珀爾（Judea Pearl）、萊斯利·瓦利安特（Leslie Valiant）、傑弗裏·辛頓（Geoffrey Hinton）等。研究思想與儒家的方法論“格物致知”一脈相承，本質是從數據到模型的知識發現過程，與當今人工智能領域的大數據方法思路相似。然而，大數據催生的人工智能系統缺乏內驅的價值體系，缺乏主觀的能動性，這種內驅的價值體系被中國哲學稱之為“心”，包括“心即是理”， “心外無物”等概念。2020年之後，人工智能的發展由“理”（數理模型）向“心”（價值函數）過度，智能體由“心”驅動，實現從大數據到大任務、從感知到認知的飛躍，這是邁向通用人工智能的必經之路。

對未來若干年內人工智能的發展有如下研判：

研判1：人工智能核心領域將高度融合、走向統一，實現從弱人工智能向通用人工智能轉變 ^[2] 

經過近30年的分治，人工智能的六個核心領域（計算機視覺、自然語言處理、機器學習、認知與推理、機器人學和多智能體）呈現出對內融合、對外交叉的發展態勢。人工智能領域的發展將尋求統一的人工智能架構，以實現人工智能從感知到認知的轉變，從解決單一任務為主的“專項人工智能”向解決大量任務、自主定義任務的通用人工智能轉變。

研判2：人工智能的發展將從基於“大數據、小任務”範式的專用人工智能向基於“小數據、大任務”範式的通用人工智能時代邁進 ^[3] 

近年來，深度學習取得了很大進展，然而深度學習的研究本質上是基於“以大數據驅動小任務”的範式，其依靠的是通過大量數據訓練的分類器解決單一的任務，只能做特定的、人類事先定義好的任務;每項任務都需要大量的數據與標註;模型不可解釋、知識表達不能交流;大數據獲取與計算的成本昂貴，缺乏自主驅動的價值體系和認知架構，其侷限性日益明顯。

任務塑造了智能，人的各種感知和行為，時時刻刻都是被任務驅動的，要實現通用人工智能，需要“小數據、大任務”範式，要用大量任務、而不是大量數據來塑造智能系統和模型。在“以小數據驅動大任務”的新範式下，只有少量數據的單一人工智能系統便可以發展出“常識”，並且用“常識”來解決各種任務 ^[4]  。以計算機視覺舉例，其視覺常識背後的5個核心分別是功能性（functionality）、物理（physics）、意圖（intent）、因果（causality）和效用（utility），它們稱為視覺的“暗物質”。為了更好地完成任務，通用智能體必須具備類人常識的智能“暗物質”，這是邁向認知智能與類人常識的範式轉換，也是實現通用人工智能的必經之路。

2020後，通用人工智能的發展將重塑人類文明。1919年源自北大的 “新文化運動”，其本質是西方文明與東方文明的衝突和融合。在這個過程中，中華文明被認為是落後的、弱勢的。百年之後的2020年同樣是一場劇變：隨着智能時代來臨，通用智能體的出現，人類文明與人工智能將有新的衝突與融合，出現人、機混合的文明。前沿的人工智能科學家現在開始意識到：人的智能不是唯一的、人只是一種更高級的通用智能體，但不是終結，人已不再特殊。人類將邁入人機共生的智能時代。

大語言模型是一種基於深度學習技術的大型預訓練神經網絡模型，深度學習指的深度神經網絡模型，是人工智能的分支“機器學習”下面的一種算法模型。

雖然大型語言模型已經取得了一些驚人的進展，但大型語言模型還不符合通用人工智能的要求 ^[1]  。①大型語言模型在處理任務方面的能力有限，它們只能處理文本領域的任務，無法與物理和社會環境進行互動。這意味着像 ChatGPT 這樣的模型不能真正“理解” 語言的含義，因為它們沒有身體來體驗物理空間。中國的哲學家早就認識到 “知行合一” 的理念，即人對世界的 “知” 是建立在 “行” 的基礎上的。這也是通用智能體能否真正進入物理場景和人類社會的關鍵所在。只有將人工智能體放置於真實的物理世界和人類社會中，它們才能切實瞭解並習得真實世界中事物之間的物理關係和不同智能體之間的社會關係，從而做到“知行合一”。②大型語言模型也不具備自主能力，它需要人類來具體定義好每一個任務，就像一隻 "巨鸚鵡"，只能模仿被訓練過的話語。③雖然 ChatGPT 已經在不同的文本數據語料庫上進行了大規模訓練，包括隱含人類價值觀的文本，但它並不具備理解人類價值或與人類價值保持一致的能力，即缺乏所謂的道德指南針。

加州大學伯克利分校教授Stuart Russell表示，關於ChatGPT，更多數據和更多算力不能帶來真正的智能 ^[5]  。要構建真正智能的系統，應當更加關注數理邏輯和知識推理，因為只有將系統建立在我們瞭解的方法之上，才能確保 AI不會失控，擴大規模不是答案，更多數據和更多算力不能解決問題，這種想法過於樂觀，在智力上也不有趣。

大模型方向錯了，智力無法接近人類 ^[6]  。圖靈獎得主Yann LeCun表示：語言只承載了所有人類知識的一小部分；大部分人類具有的知識都是非語言的，因此，大語言模型是無法接近人類水平智能的。深刻的非語言理解是語言有意義的必要條件，正是因為人類對世界有深刻的理解，所以我們可以很快理解別人在説什麼。這種更廣泛、對上下文敏感的學習和知識是一種更基礎、更古老的知識，它是生物感知能力出現的基礎，讓生存和繁榮成為可能。這也是人工智能研究者在尋找人工智能中的常識時關注的更重要的任務。大語言模型沒有穩定的身體可以感知，它們的知識更多是以單詞開始和結束，這種常識總是膚淺的。人類處理各種大語言模型的豐富經驗清楚地表明，僅從言語中可以獲得的東西是如此之少。僅通過語言是無法讓AI系統深刻理解世界，這是錯誤的方向。

2022年9月17日，2022全國人工智能院長論壇在北京大學舉行，現場發佈了《通用人工智能人才培養方案》白皮書。白皮書由北京大學和北京通用人工智能研究院 ^[7]  共同編寫，旨在提出一套培養兼具學術品位、科學精神和人文素養的本碩博貫通式通用人工智能人才培養體系，其核心目標是為了培養面向世界前沿科技的人工智能複合型頂尖人才，即“通識、通智、通用” ^[8]  。

人才培養以“通識”為基底，強調人工智能與人文、藝術、法律等社會科學的深度融合，旨在塑造學生的學術品味，使其以科學家精神為槳，人文素養為帆，敢於肩負國家和人民的重託，在學術道路上航行。

人才培養以“通智”為核心，強調人工智能核心知識的融會貫通，包含計算機視覺、自然語言處理、機器學習、認知與推理、機器人學、多智能體等專業課程，幫助學生理解和掌握人工智能專業的基礎理論和方法，並構建人工智能學科內的知識圖譜和領域全局觀。

人才培養以“通用”為支撐，強調與產業端的融合發展，賦能千行百業，促進各行各業的智能化轉型，為我國數字經濟的高質量發展與向智能社會轉型升級提供強力支撐。

依託於北京大學元培學院建設的通用人工智能實驗班 ^[9]  ，一方面會立足於人工智能的學科內涵，即對內融合，依託北京大學智能學院開展工作，學生以人工智能的具體子領域為研究方向，旨在突破前沿基礎理論；另一方面會立足於人工智能的學科外延，即對外交叉，依託北京大學人工智能研究院開展工作，學生選擇人工智能的交叉學科進行研究，旨在產生創新的跨學科交叉探索成果。

2023年8月28日，工業和信息化部印發通知，組織開展2023年未來產業創新任務揭榜掛帥工作。揭榜任務內容為面向元宇宙、人形機器人、腦機接口、通用人工智能4個重點方向，聚焦核心基礎、重點產品、公共支撐、示範應用等創新任務，發掘培育一批掌握關鍵核心技術、具備較強創新能力的優勢單位，突破一批標誌性技術產品，加速新技術、新產品落地應用。 ^[12] 

2023年4月28日，中共中央政治局召開會議，分析研究當前經濟形勢和經濟工作。會議提出要重視通用人工智能發展 ^[10]  ，營造創新生態，重視防範風險。

通用人工智能是未來10-20年國際科技競爭的戰略制高點，其影響力相當於信息技術領域的“原子彈” ^[11]  。我國應將發展通用人工智能提升到當代“兩彈一星”的高度，並由中央統籌部署，凝聚人才、科研、產業與資本的優勢力量，規範發展路徑，儘快出台我國通用人工智能發展路線圖。要建立測試標準，規劃底層的認知架構、核心算法、操作系統、編程語言、體系結構與芯片，形成“學研產用”創新鏈條。