必威电竞|足球世界杯竞猜平台

通用人工智能
來源:互聯網

通用人工智能(米卡洛:Artificial General Intelligence,英文縮寫:AGI),是指具有高效的學習和泛化能力、能夠根據所處的復雜動態環境自主產生并完成任務的智能體,具備自主的感知、認知、決策、學習、執行和社會協作等能力,且符合人類情感、倫理與道德觀念。

1951年,首個神經網絡模擬器SNARC(Stochastic Neural Analog Reinforcement Calculator)被開發,該成果驗證了通過電子設備實現神經網絡計算的可行性。1956年,達特茅斯會議提出“人工智能”概念;1997年,Mark Gubrud提出通用人工智能的概念。2005年,通用人工智能概念進一步普及。2024年,在2024中關村論壇年會開幕式上,全球首個通用智能人“通通”亮相,并入選十大重大科技成果。

通用人工智能具備能完成無限的任務、在場景中自主發現任務、有自主價值驅動三個基本特征。在實際應用中,通用人工智能的組成部分被嵌入到智能助手、機器翻譯、自動化客服等場景中,從而實現更加個性化、智能化、自適應的服務和應用。

概述

通用人工智能是指具有高效的學習和泛化能力、能夠根據所處的復雜動態環境自主產生并完成任務的通用人工智能體,具備與人類同等智能或超越普通人類的人工智能,擁有自主的感知、認知、決策、學習、執行和社會協作等能力,且能表現正常人類所具有的所有智能行為,符合人類情感、倫理與道德觀念。比如能夠識別照片或翻譯語言,還會加法、減法、下棋和講法語,還可以理解物理論文、撰寫小說、設計投資策略,并與陌生人進行愉快的交談。

基本特征

通用人工智能要具備三個基本特征:第一,必須能完成無限的任務,而不是只能完成人定義的有限幾個任務。第二,要在場景中自主發現任務,這是我們通常所說的要做到“眼里有活兒”。第三,要有自主的價值來驅動,而不是被動的被數據所驅動。

通用人工智能的科研范式是以“小數據,大任務”為架構的“烏鴉范式”,智能體表現為具有自主的智能,能夠自主感知、認知、推理、學習和執行,不依賴于大數據,基于無標注數據進行無監督學習,并且智能系統低功耗。就像烏鴉喝水這一行為,看似簡單,卻屬于自主推理行為,是由價值與因果驅動的高級智能,也是人工智能的未來發展趨勢。

發展歷程

經典人工智能

1956年達特茅斯會議提出“人工智能”概念。1956年至20世紀60年代初。人工智能概念提出后,相繼取得了一批令人矚目的研究成果,如機器定理證明、跳棋程序等,掀起人工智能發展的第一個高潮。

20世紀60年代至70年代初。人工智能發展初期的突破性進展大大提升了人們對人工智能的期望,人們開始嘗試更具挑戰性的任務,并提出了一些不切實際的研發,然而,接二連三的失敗和預期目標的落空(例如,無法用機器證明兩個連續函數之和還是連續函數、機器翻譯鬧出笑話等),使人工智能的發展走入低谷。

狹義人工智能

20世紀70年代初至80年代中。20世紀70年代出現的專家系統模擬人類專家的知識和經驗解決特定領域的問題,實現了人工智能從理論研究走向實際應用、從般推理策略探討轉向運用專門知識的重大突破。專家系統在醫療、化學、地質等領域取得成功,推動人工智能走人應用發展的新高潮。20世紀80年代中至90年代中。隨著人工智能的應用規模不斷擴大,專家系統存在的應用領域狹窄、缺乏常識性知識、知識獲取困難、推理方法單一、缺乏分布式功能、難以與現有數據庫兼容等問題逐漸暴露出來。

20世紀90年代中至2010年。由于網絡技術特別是互聯網技術的發展,加速了人工智能的創新研究,促使人工智能技術進一步走向實用化。1997年,國際商業機器公司(簡稱IBM)深藍超級計算機戰勝了國際象棋世界冠軍加里·卡斯帕羅夫。同年,Mark Gubrud提出通用人工智能(AGI)概念。2005年,Ben Goertzel和Cassio Pennachin聯合出版了以AGI為名的書籍,進一步普及了這一術語。2008年IBM提出“智慧地球”的概念。

通用人工智能

2011年至今。隨著大數據、云計算、互聯網、物聯網等信息技術的發展,在感知數據和圖形處理器等計算平臺推動以深度神經網絡為代表的人工智能技術飛速發展,大幅跨越了科學與應用之間的“技術鴻溝”,諸如圖像分類、語音識別、知識問答、人機對弈、無人駕駛等人工智能技術實現了從“不能用、不好用”到“可以用”的技術突破,迎來爆發式增長的新高潮。世界上有很多機構正朝通用人工智能的方向邁進。谷歌DeepMind和谷歌研究院正在研究如何通過使用PathNet(一種訓練大型通用神經網絡的方案)和Evolulionary 建筑 Search AutoML(一種為圖像分類尋找良好神經網絡結構的方法)實現通用人工智能。微軟研究院重組為MSR AI,專注于“智能的基本原理”和“更通用、靈活的人工智能”。特斯拉的創始人埃隆·馬斯克參與創立并參與領導的OpenAI的使命是“建立安全的通用人工智能,并確保通用人工智能的好處盡可能廣泛而均勻地分布”。

2021年,英國《國家人工智能戰略》對通用人工智能進行了專門強調,指出“必須認真對待通用人工智能和更通用AI的可能性”;2023年4月28日,中共中央政治局會議提出“要重視通用人工智能發展,營造創新生態,重視防范風險?!?/p>

2023年7月29日,朱松純教授在第五屆ACM中國圖靈大會開幕式上發表了題為《為機器立心,邁向通用人工智能》的演講,闡明了什么是通用人工智能、如何實現通用人工智能以及邁向人機共生的智能時代等關鍵技術路徑。同年8月9日,朱松純教授帶領跨媒體通用人工智能全國重點實驗室的團隊在中國工程院院刊Engineering上發表了題為《通智測試:通用人工智能具身物理與社會測試評級系統》的文章,文章依據發展心理學和心智理論,參考人類嬰幼兒發育的測試標準,研究總結出一種基于能力(U系統)和價值(V系統)的UV通用人工智能的評測方法,并開發了復雜動態的物理場景(模擬仿真)和社會交互(混合現實)的測試平臺—— 通智測試(Tong Test)。

2023年11月1日至11月2日,首屆全球人工智能安全峰會于英國布萊切利園(Bletchley Park)召開。會議所達成的一些共識被納入28個國家聯署的《布萊切利宣言》,明確未來5年至2028年國際社會關注人工智能的優先事項。2024年,在2024中關村論壇年會開幕式上,全球首個通用智能人“通通”亮相,并入選十大重大科技成果。同年11月,美國國會下屬機構USCC建議 “建立并資助一個類似曼哈頓計劃的項目,致力于更快獲得通用人工智能能力”;2025年,沙特阿拉伯公布了到2050年實現通用人工智能的計劃。同年6月10日,曾用名為Facebook的Meta Platforms正在組建一支專注于人工通用智能(AGI)開發的團隊。

研究目標

2022年1月6日,致力于實現通用人工智能的全球著名計算機視覺專家朱松純教授在文章《三讀(赤壁賦),并從人工智能的角度解讀“心”與“理”的平衡》中提到,通用人工智能研究的目標就是要創造有自主的感知、認知、決策、學習、執行和社會協作能力,符合人類情感、倫理與道德觀念的通用智能體。

通用人工智能是新質生產力的典型代表,其聚焦應急、交通、能源、康養、教育、政務、制造七大領域,賦能千行百業。未來,科研機構將聯合生態企業共建垂直領域智能體,加速通用人工智能技術創新的產業轉化,助力數字經濟建設。

技術問題

通用人工智能需要解決八大關鍵技術問題,即認知架構、自我意識、社會智能、價值驅動、價值函數、具身智能、可解釋性、人機互信。

認知架構

認知架構是通用人工智能的一個研究分支,它起源于20世紀50年代,其目標是創建能夠解決不同領域問題的程序、培養洞察力、能自己適應新情況并做出反應,最終實現人類水平的人工智能。認知架構通常認為是智能的一個藍圖,具體則是一個關于心智表征及其計算過程的設想,使得一定范圍內的智能行為成為可能。Sam Adams等提出了智能系統能力和行為的14個方向,分別是感知、記憶、注意、社會交互、規劃、動機、行動、推理、交流、學習、情感、為自身/他人建模、建造/創造和算術能力,而感知、注意、學習、記憶、推理、規劃和行動則是核心的認知能力。只有一小部分架構屬于通用人工智能,其他架構則專注某一特定的認知功能。

認知架構是通用人工智能的表示框架,也是構建心與理U-V雙系統價值驅動的根本。它構建了一套完整的認知體系,包括心智模型、通訊學習等理論。這是通用智能體與人類通訊、交流、信任、合作的基礎。只有建立了完備的認知架構,通用智能體才能實現與人類的四個對齊(Alignment):共同的態勢感知(Shared situation)、共同的演化模型(Shared predictive model)、共同的行動規范(Social norm)、共同的價值觀(Shared value)。認知架構的重點在于實現“小數據、大任務”范式。決定人工智能系統的三個關鍵要素是架構、任務和數據,不同的選擇導致不同的系統和路徑。只有“小數據、大任務”范式才能擺脫掉“大數據、小任務”對數據的強烈依賴,以及模型不可解釋、缺乏價值驅動等弊端,從而實現具有感知、認知、推理、學習、執行等能力的自主智能。

自我意識

自我意識是人類心理世界的基石,它使人類能夠認識自己的存在、思想和情感,理解自己與外部世界的關系。自我意識的覺醒是一種深刻的內在體驗,標志著個體從被動接受外界影響到主動認識自我、實現自我價值的重要轉變。在心理學領域,自我意識被定義為“個體對自身存在和身份的認知和意識,涉及了自我概念、自我認同和自我評價等方面”;這種定義強調了自我意識的核心是對自己存在的認識,以及對自己身份的理解。一些專家認為AI沒有自我意識,因為它們的行為本質上是由算法和程序決定的,沒有人類那樣的主觀體驗和意識;而另一些專家則認為,隨著AI技術的不斷發展,AI可能具有某種形式的自我意識。

社會智能

人工社會智能是實現通用人工智能的關鍵挑戰。社會智能是指人類在適應更為復雜的社會情境中所展現的社會認知能力。除了對世界的物理理解,人類還擁有高度的社會智能,一種感知社會事件、推斷他人目標和意圖并促進社交互動的智能。這種社會智能是人類與最接近的靈長目親戚區分開來的關鍵特質。然而,將這種獨特智能應用于人工智能領域是一項極具挑戰性的任務。從進化的角度來看,社會智能的發展對于人類的適應至關重要。研究人類社會智能有助于設計具有人類特征的交互智能體。

社會智能是人類在適應更為復雜的社會情境中所展現的社會認知能力。從進化的角度看,社會智能的發展對于人類的適應至關重要。社會智能具有密不可分的三方面:社會感知、心智理論和社會交互。研究社會智能有助于研究者設計出具有人類特征的交互智能體,使其做到“察言觀色、眼里有活、主動幫助”。今年3月,北京通用人工智能研究院認知計算與常識推理實驗室聯合北京大學人工智能研究院在CAAI Artificial Intelligence Research期刊上發表綜述論文"",呼吁學界對人工社會智能領域進行關注。

價值驅動

用價值觀而非數據去驅動通用人工智能的發展,并不是一個新鮮的說法,加州伯克利大學的斯圖爾特·羅素教授就曾經表示,校準的最終目標是“確保強大的人工智能與人類價值觀保持一致”。隨著ChatGPT、DeepSeek等大模型興起,學界逐漸意識到數據驅動的生成式AI存在“鸚鵡學舌”問題,雖能模仿語言模式,但缺乏對因果、倫理和物理常識的理解。朱松純教授提出,通用人工智能需采用“烏鴉范式”(小數據、大任務),通過價值函數引導智能體在開放環境中自主探索,而非依賴海量標注數據。這一路徑強調智能體需具備類似兒童的本能價值觀。

人類行為本質上受價值驅動。智能體可以通過觀察人類的行為,學會和理解人類的“價值”,做到“察言觀色”,時刻明確個人當前的價值需求,進而調整行為決策,自主產生并完成任務,才能實現通用智能。價值函數(Value)是U-V雙系統中V系統的表征。驅動通用智能體的內在價值函數的集合構成了價值體系,包含了個體基本生理與安全需求、社會需求、好奇心與自我潛能實現,以及群體利益等多個層級。機器的價值必須跟人類的基本價值觀對齊。只有建立了“良知”之心,通用智能體才能被人類廣泛接納。

價值函數

無生命的物體運動是機械的,被動地由各種外力和相互作用驅動,由一組勢能函數U描述;智能體的活動是自主的,由價值函數V驅動,而這個價值函數又根植于底層的認知架構(感知、認知、決策、規劃等)。價值函數和認知架構共同組成了所謂的“心”;“心”是智能體和物體最本質的區別,是人的最重要特征,也是通用智能體的必要條件。

具身智能

具身智能強調認知受智能體的感知與動作的影響,主張智能或智能行為來自智能體身體與周圍環境的交互,而不僅僅是大腦的功能。當前,具身智能理論深入人工智能、機器人技術等領域,并產生重大影響。具身智能認為人類的智能行為不僅依賴大腦的思考,還需要通過與物理環境的交互來進行學習和決策,最后通過感知將執行的結果反饋到大腦,形成閉環,構成一個智能體,這樣才能真正實現模擬人類智能行為的目標。具身智能這種思想的提出,與傳統人工智能不同,將推動人工智能向更高的水平——通用人工智能發展。

具身智能是智能體使用身體完成物理任務的現象,其核心之一是“知行合一”。中國哲學家早已認識到“知行合一王陽明”的理念,即人對世界的“知”建立在“行”的基礎上,這也是通用智能體能否真正進入物理場景和人類社會的關鍵所在。其核心之二在于“身體力行”。只有將智能體放置于真實的物理世界和人類社會中,讓它們躬“身”體驗環境物體、符合物理因果,才能切實了解并習得真實世界中事物之間的物理關系和不同智能體之間的社會關系。

可解釋性

可解釋人工智能指的是智能體以一種可解釋、可理解、人機交互的方式,與人工智能系統的使用者、受影響者、決策者、開發者等,達成清晰有效的交流溝通,有效地“解釋”自身行為和決策,以取得人類信任,同時滿足各類應用場景對智能體決策機制的監管要求。解釋是一個多輪次溝通的過程,其目的在于取得對方的理解、建立信任、達成合作、提高協作的效率。智能體只有有效地“解釋”自己,才能取得用戶的“信任”,從而產生高效的人機協作。

北京通用人工智能研究院于去年發表了研究,論文同時被Science官網和Science Robotics官網頭條刊登。這篇論文提出了一個可解釋的人工智能系統,闡述了一種機器實時理解人類價值觀的計算框架,并展示了機器人如何與人類用戶通過實時溝通完成一系列復雜人機協作任務的過程。

人機互信

信任是人類在社會協作中的一種心理狀態,一般分成兩個層次:一是對其能力U的信任,即個人對周圍的每個人、在某個條件下、是否合適做某件事,都有不同程度的信任;二是對其價值V的信任,包含了態度與感情。信任的本質是人類愿意暴露自己的“脆弱性”。這是人類在沒有更好選擇的情況下做出的決定。從理論上講,其風險底線需要通過經濟學范疇的合同來規范。人類與智能體也要“簽合同”來實現人機互信。這需要智能體由內在價值函數驅動,通過價值對齊與認知架構形成通用智能體與人交流合作的基礎,通過具身智能和社會智能實現機器與環境和人交互,通過可解釋性的溝通和價值對齊形成人機信任關系,由此才能實現人機共生。

應用領域

在實際應用中,通用人工智能的組成部分被嵌入到智能助手、機器翻譯、自動化客服等場景中,從而實現更加個性化、智能化、自適應的服務和應用。

智能機器人

人工智能最實用、最引人注目的應用之一是在機器人領域使用機器人進行體力勞動,如包裝箱、裝配產品、給汽車上漆和給地板吸塵。將機器人技術與人工智能相結合,可以生產出能夠適應不斷變化的環境并學習如何執行額外任務的機器。

自然語言處理

自然語言處理(NLP)是語言學、計算機科學、信息工程和人工智能的子領域,它關注計算機和人類(自然)語言的交互,特別是關于如何通過計算機編程來處理和分析大量的自然語言數據。與人類的情況類似,如果計算機可以處理數字和視覺信息,卻不能處理自然語言,那么它們在真實世界擁有的應用程序數目和種類將十分有限。計算機缺乏處理自然語言的能力,將永遠不可能實現通用人工智能或者任何與當今人類智能相類似的能力。

隨著通用人工智能技術的發展,自然語言處理應用在生活中較為常見的有:機器翻譯、語音識別、文本摘要、聊天機器人、情感分析、信息提取等。像語音識別。

物聯網

物聯網(IoT)是指連接到互聯網上并彼此相連的大量且不斷增長的日常物品的集合。這些設備包括智能恒溫器,可以學習你的日常習慣并自動調節溫度,讓你保持舒適;智能手表可以跟蹤你的日?;顒樱屇阒篮螘r完成了健身目標;智能冰箱可以在食品不足時自動訂購食品。有些設備甚至可以監測你的健康狀況,讓你知道什么時候需要看醫生。

發展趨勢

2020年以后,人工智能進入由“理”向“心”轉變的新時期。為機器立“心”,實現由“理”(數理模型)到“心”(價值函數)的過渡,智能體由“心”驅動,實現從大數據到大任務、從感知到認知的飛躍,是邁向通用人工智能的必經之路。經過近30年的分治,人工智能的6個核心領域(計算機視覺、自然語言處理、認知與推理、機器學習、機器人學和多智能體)呈現出對內融合、對外交叉的發展態勢。人工智能領域的發展將尋求統一的人工智能架構,以實現人工智能從感知到認知的轉變,從解決單一任務為主的“專項人工智能”向解決大量任務、自主定義任務的通用人工智能轉變。通用人工智能是未來10-20年國際前沿焦點,是智能學科需要承擔的核心使命。?

人工智能的技術前沿將朝著以下四個方向發展。第一個前沿方向為多模態大模型。從人類視角出發,人類智能是天然多模態的,人擁有眼、耳、鼻、舌、身、嘴(語言),從AI視角出發,視覺,聽覺等也都可以建模為token②的序列,可采取與大語言模型相同的方法進行學習,并進一步與語言中的語義進行對齊,實現多模態對齊的智能能力。

第二個前沿方向為視頻生成大模型。OpenAI于2024年2月15日發布文生視頻模型SORA,將視頻生成時長從幾秒鐘大幅提升到一分鐘,且在分辨率、畫面真實度、時序一致性等方面都有顯著提升。SORA的最大意義是它具備了世界模型的基本特征,即人類觀察世界并進一步預測世界的能力。世界模型是建立在理解世界的基本物理常識(如,水往低處流等)之上,然后觀察并預測下一秒將要發生什么事件。雖然SORA要成為世界模型仍然存在很多問題,但可以認為SORA學會了畫面想象力和分鐘級未來預測能力,這是世界模型的基礎特征。

第三個前沿方向為具身智能。具身智能指有身體并支持與物理世界進行交互的智能體,如機器人、無人車等,通過多模態大模型處理多種傳感數據輸入,由大模型生成運動指令對智能體進行驅動,替代傳統基于規則或者數學公式的運動驅動方式,實現虛擬和現實的深度融合。因此,具有具身智能的機器人,可以聚集人工智能的三大流派:以神經網絡為代表的連接主義,以知識工程為代表的符號主義和控制論相關的行為主義,三大流派可以同時作用在一個智能體,這預期會帶來新的技術突破。

第四個前沿方向是AI4R(AI for Research)成為科學發現與技術發明的主要范式。當前科學發現主要依賴于實驗和人腦智慧,由人類進行大膽猜想、小心求證,信息技術無論是計算和數據,都只是起到一些輔助和驗證的作用。相較于人類,人工智能在記憶力、高維復雜、全視野、推理深度、猜想等方面具有較大優勢,是否能以AI為主進行一些科學發現和技術發明,大幅提升人類科學發現的效率,比如主動發現物理學規律、預測蛋白質結構、設計高性能芯片、高效合成新藥等。因為人工智能大模型具有全量數據,具備上帝視角,通過深度學習的能力,可以比人向前看更多步數,如能實現從推斷(inference)到推理(reasoning)的躍升,人工智能模型就有潛力具備阿爾伯特·愛因斯坦一樣的想象力和科學猜想能力,極大提升人類科學發現的效率,打破人類的認知邊界。這才是真正的顛覆所在。

2025年9月,圖靈獎獲得者、“強化學習之父”Richard Sutton在采訪中表示,當前熱門的大語言模型(LLMs)是一條死胡同。他指出,LLMs的架構從根本上缺乏從實際互動(on-the-job)中持續學習的能力,無論怎么擴大規模,它們本質上仍在模仿人類數據,而非通過與世界直接互動來理解世界、實現目標。Sutton預言,未來會出現一種新的AI架構,它能像人類和所有動物一樣,在與環境的持續互動中實時學習,無需經歷獨立的“訓練階段”。這種基于經驗的、持續學習的新范式一旦實現,將讓我們當前依賴大規模靜態數據集訓練LLMs的方法變得過時,而且權力向更高級智能形式的轉移是必然趨勢。

相關政策

行業政策

2023年5月23日,北京市人民政府辦公廳印發《北京市促進通用人工智能創新發展的若干措施》,制定出提升算力資源統籌供給能力、提升高質量數據要素供給能力、系統構建大模型等通用人工智能技術體系、推動通用人工智能技術創新LiveApp、探索營造包容審慎的監管環境等舉措,發揮政府引導作用和創新平臺催化作用,整合創新資源,加強要素配置,營造創新生態,重視風險防范,推動通用人工智能實現創新引領和理性健康發展。

2023年8月28日,工業和信息化部印發通知,組織開展2023年未來產業創新任務揭榜掛帥工作。揭榜任務內容面向元宇宙、人形機器人、腦機接口、通用人工智能4個重點方向,聚焦核心基礎、重點產品、公共支撐、示范應用等創新任務,發掘培育一批掌握關鍵核心技術、具備較強創新能力的優勢單位,突破一批標志性技術產品,加速新技術、新產品落地應用,加快推動未來產業創新發展。

2023年12月15日,為發揮數據要素乘數效應,賦能經濟社會發展,國家數據局起草了《“數據要素×”三年行動計劃(2024-2026年)(征求意見稿)》,提出以科學數據支持大模型開發,深入挖掘包含科技文獻在內的各類科學數據,通過細粒度的知識抽取,構建科學知識資源底座,建設高質量語料庫和基礎科學數據集,支持開展通用人工智能大模型和垂直領域人工智能大模型訓練。

人才培養

2022年9月17日,2022全國人工智能院長論壇在北京大學舉行,北京通用人工智能研究院聯合北京大學、清華大學發布了《通用人工智能人才培養體系》白皮書,提出了一套面向世界前沿科技,以培養人工智能復合型頂尖人才為核心目標的人才培養體系,即“通識、通智、通用”的培養框架。人才培養以“通識”為基底、以“通智”為核心、以“通用”為支撐,成建制地培養具有國際競爭力的人工智能復合型領軍人才,加快建設一支代表國家水平的“通用人工智能科技王牌軍”,支撐國家人工智能發展戰略。

2023年11月8日,通用人工智能協同攻關合作體人才培養計劃(簡稱“通計劃”)在北大英杰交流中心正式啟動?!巴ㄓ媱潯笔怯山逃恐С帧⑼ㄑ性号c全國9所高校聯合培養博士生的專項計劃,將加強院校合作與資源共享,著力培養服務國家需求的通用人工智能領域拔尖人才。“通計劃”充分利用通研院與高等院校的優勢資源實現戰略合作,打造通用人工智能本博貫通的培養體系,將通研院與北京大學聯合開設的20多門通用人工智能前沿課程實現共享,通過雙聘導師、課題研究、平臺搭建等聯合培養學生,幫助學生瞄準國際前沿方向,并促進院??蒲泻献鹘涣骷俺晒D化。

存在問題

通用人工智能是否能實現在技術上為偽命題。但即便短期內實現困難,依然無法排除其遠期實現可能。因此,人工智能科學家共同體與通用人工智能提倡者、未來學家為我們描述的主要是一個目的上具有社會合意性、技術手段上具有客觀有效性、價值中立或者有正向價值的人工智能技術合理性圖景:從圖靈開始一直到約翰·麥卡錫這些人工智能先驅,雖然并不持有強人工智能立場,但也從其專業立場反駁了各個方面對技術合理性的攻擊。

然而,除了對通用人工智能的倫理問題(包括其具身化后的權利和責任等)的討論外,上述以類腦計算或神經擬態計算為技術路徑的通用人工智能技術,在技術安全和技術濫用問題上依然可能存在這些風險,即一旦人工智能具備自我意識和自由意志,而發生“異變”,其可能在具體應用場景中有決策自治性的安全風險。這樣就脫離了發明者的道德控制意圖,在這種情況下,無論技術設計者的動機如何良好,人工智能技術也很難確定其對人類主體的正向價值效應。

例如,深度強化學習技術為了完成人工設計的某種任務,會在規定場景中進行自由探索,并為完成最終任務自動設計其模型優化目標和強化學習獎勵函數。盡管這種自發式的探索依然在專用人工智能或弱人工智能的范疇中,但若完全放開對其探索環境的限制,依然存在技術濫用的風險,不能排除其決策行為(目前機器尚無法形成機器的自由意志)有造成安全問題的風險,即其雖然具有明確可控的最終優化目標,但其優化路徑上的中間決策過程不可控這一問題一旦出現在通用人工智能大發展之后,其后果將是十分危險的。因而,需要一定程度上提醒人工智能學術界,重視技術可能存在的安全漏洞并為此提出可評測的指標體系。

測試體系

圖靈測試

圖靈測試(Turing test),它是由英國數學家阿蘭·麥席森·圖靈(Alan Mathison Turing)在1950年提出的。其基本目的在于確定人工智能是否達到了通用人工智能的水平,也就是說與人類無法區別的地步。圖靈測試是確定計算機是否能夠像人類一樣思考的探究方法。如果人工智能實體發展到了像人類一樣思考的程度,也就是說,代表了一種通用人工智能,它將會參與眾多要求人類判斷和決策的活動。最初的圖靈測試,也被稱為“模擬游戲”(Imitation Game),要求使用三臺計算機終端,并且要求每臺計算機終端都與其他兩臺計算機終端相互分離。一臺終端由計算機操作,另外兩臺由人類操作。在測試期間,由一人擔任提問者,而另一人和人工智能擔任應答者。經過預先設定的時長或者問題之后,要求提問者判斷哪一位應答者是人類,哪一位應答者是計算機。如果提問者無法準確地判斷應答者是計算機還是人類,那么這臺機器就通過了這項測試。

咖啡測試

這項測試由人工智能研究員本·戈澤爾(Ben Goertzel)提出。人工智能應用程序被要求去一所房子內煮咖啡,它可以去到任何一個普通家庭的廚房,在沒有刻意設定好配置程序的前提下,從陌生的環境中找到所需的配料、器具后,按照正確的步驟沖泡咖啡。

機器人學生測試

這項測試同樣由本·戈澤爾(Ben Goertzel)提出。該測試要求人工智能進入一所大學就讀,并使用和與其學位相同的學生同等的資源來獲得學位。

雇員測試

人工智能研究員尼爾斯·尼爾森(Nils J.Nilsson)在其論文中提出了該測試方法。這項測試要求人工智能程序應該能夠執行原本由人類負責的工作,并得到同等甚至更好的工作結果。

通智測試

“通智測試”是為評估通用智能體智能水平而設計的綜合測試系統。依據發展心理學和心智理論,參考人類嬰幼兒發育的測試標準,基于“能力和價值”UV雙系統空間,“通智測試”從視覺、語言、認知、運動和學習等五個能力維度,以及從個人價值到社交價值再到群體價值等五個價值維度,全面評估智能體的能力和價值觀。

相關概念

大型語言模型(LLMs)

大型語言模型在處理任務方面的能力有限,它們只能處理文本領域的任務,無法與物理和社會環境進行互動。這意味著像 ChatGPT 這樣的模型不能真正 “理解” 語言的含義,因為它們沒有身體來體驗物理空間。中國的哲學家早就認識到 “知行合一王陽明” 的理念,即人對世界的 “知” 是建立在 “行” 的基礎上的。這也是通用智能體能否真正進入物理場景和人類社會的關鍵所在。只有將人工智能體放置于真實的物理世界和人類社會中,它們才能切實了解并習得真實世界中事物之間的物理關系和不同智能體之間的社會關系,從而做到 “知行合一”。

大型語言模型也不是自主的,它們需要人類來具體定義好每一個任務,就像一只 "巨鸚鵡",只能模仿被訓練過的話語。真正自主的智能應該類似于 “烏鴉智能”,烏鴉能夠自主完成比現如今的 AI 更加智能的任務,當下的 AI 系統還不具備這種潛能。雖然 ChatGPT 已經在不同的文本數據語料庫上進行了大規模訓練,包括隱含人類價值觀的文本,但它并不具備理解人類價值或與人類價值保持一致的能力,即缺乏所謂的道德指南針。

語言只承載了所有人類知識的一小部分;大部分人類知識、所有動物知識都是非語言的;因此,大語言模型是無法接近人類水平智能的,人類處理各種大語言模型的豐富經驗清楚地表明,僅從言語中可以獲得的東西是如此之少。

人工智能

人工智能(Artificial Intelligence),英文縮寫為AI。它是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新技術科學。人工智能是計算機科學的一個分支,它企圖了解智能的實質,并生產出一種新的能以人類智能相似的方式做出反應的智能機器,該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統等。通用人工智能是人工智能研究的初心和終極目標。

意義價值

1919年源自北京大學的 “新文化運動”,其本質是西方文明與東方文明的沖突和融合。在這個過程中,中華文明被認為是落后的、弱勢的。百年之后同樣是一場劇變:隨著智能時代來臨,通用智能體的出現,人類文明與人工智能將有新的沖突與融合,出現人機混合的文明。前沿的人工智能科學家現在開始意識到:人的智能不是唯一的,人只是一種更高級的通用智能體,但不是終結,人已不再特殊。人類社會發展已經完成了由自然人到社會人(文化、文明)的轉變,正向智能人(數據、信息、智能)的階段邁進。

參考資料 >

通用人工智能何時到來?.36氪.2025-06-10

AI時代的驗證碼難題 .新華網.2024-02-17

通用人工智能,是個啥智能?.中國社會科學網.2025-06-10

為何重視通用人工智能發展.思想理論網.2024-02-17

谷歌 CEO 皮查伊:現有技術無法實現 AGI(通用人工智能).IT之家.2025-06-10

“為人文賦理,為機器立心” ,朱松純教授在圖靈大會闡釋“通用智能·人機共生” .bigai.2025-06-10

朱松純教授團隊提出通用人工智能測試評級的標準與平臺Tong Test.bigai.ai.2024-02-17

2天9場圓桌會,英國AI安全峰會讀這篇就夠了【英國AI峰會觀察】.騰訊網.2024-02-17

Meta Platforms組建人工通用智能團隊 .英為財情.2025-06-10

朱松純:通用人工智能要“眼里有活”,關鍵在AI“價值觀”.南方+.2025-06-10

人工智能研究院朱松純教授、朱毅鑫助理教授在人工社會智能方向研究取得進展.北京大學人工智能研究院.2025-06-10

“為人文賦理,為機器立心” ,朱松純教授在圖靈大會闡釋“通用智能·人機共生”.網易.2025-06-10

我問了問首個國產「沉思」AI:當AI有了自我意識,人類該怎么辦?.新浪財經.2025-06-10

為機器立“心”——以價值觀驅動通用人工智能的中國路線 .鈦媒體APP.2025-06-10

朱松純 || 為人文賦理:從通用人工智能視角看中國思想 .微信公眾平臺.2025-06-10

具身智能推動實現通用人工智能(科技名家筆談) .金臺資訊.2025-06-10

朱松純:智能學科的源起、演進與趨勢——北京大學智能學科的探索與實踐.北京大學.2024-02-17

人工智能與智能計算的發展.中國人大網.2025-06-10

強化學習之父Richard Sutton最新采訪:LLM是“死路一條”.新浪財經.2025-09-29

北京市人民政府辦公廳關于印發《北京市促進通用人工智能創新發展的若干措施》的通知.北京市人民政府.2025-06-10

工業和信息化部辦公廳關于組織開展2023年未來產業創新任務揭榜掛帥工作的通知.中國政府網.2025-06-10

國家數據局征求意見:支持開展通用人工智能大模型和垂直領域人工智能大模型訓練.人民網.2025-06-10

通院聯合北大清華重磅發布《通用人工智能人才培養體系》白皮書! .北京通用人工智能研究院.2025-06-10

通用人工智能協同攻關合作體人才培養計劃成功啟動.北京大學人工智能研究院.2025-06-10

什么是Agi? .intelligence.2025-06-10

全球首個!通用智能體“通通”亮相.國際科技創新中心.2025-06-10

專家觀點|關于AGI與ChatGPT,Stuart Russell與朱松純這么看.騰訊網.2025-06-10

Yann LeCun:大模型方向錯了,智力無法接近人類.騰訊網.2025-06-10

人工智能:最了不起的發明.中國網信網.2025-06-10

生活家百科家居網