南方財(cái)經(jīng)全媒體記者 袁思杰 香港報(bào)道
近年來,全球人工智能市場規(guī)模正加速擴(kuò)張。國際數(shù)據(jù)公司(IDC)報(bào)告顯示,2022年全球人工智能IT總投資規(guī)模有望在2027年增至5,124.2億美元,年復(fù)合增長率(CAGR)為31.1%。
與此同時(shí),目前通用人工智能(AGI,Artificial General Intelligence)的研究仍在探索階段,人類尚未實(shí)現(xiàn)真正的AGI,即能夠像人類一樣在多種領(lǐng)域和任務(wù)中具備學(xué)習(xí)、推理、規(guī)劃、創(chuàng)造力和情感理解等能力的智能系統(tǒng)。與現(xiàn)有的弱人工智能(ANI)不同,AGI的目標(biāo)是實(shí)現(xiàn)通用的認(rèn)知能力,而不僅僅是針對特定任務(wù)的優(yōu)化。
近日,國際知名人工智能專家斯圖爾特·羅素接受了南方財(cái)經(jīng)全媒體記者專訪,他指出,僅靠不斷搭建和疊加大語言模型 (LLMs)無法實(shí)現(xiàn)通用人工智能 (AGI),而人類需要不僅是比自身更智能的系統(tǒng),還需要確保是對自身安全和有益的。
在此前的多次演講中,羅素曾多次表示ChatGPT和GPT-4并不理解世界,也沒有在“回答”問題,“如果說通用人工智能是一件完整的拼圖,大語言模型僅僅只是其中的一塊,但我們并不真正了解如何將它與拼圖的其他部分連接起來,以真正實(shí)現(xiàn)通用人工智能?!?span style="display:none">7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM
斯圖爾特·羅素(Stuart Russell)是人工智能領(lǐng)域的著名學(xué)者,現(xiàn)任加州大學(xué)伯克利分校電氣工程與計(jì)算機(jī)科學(xué)系教授、世界經(jīng)濟(jì)論壇人工智能理事會聯(lián)席主席。作為人工智能、機(jī)械人和機(jī)器學(xué)習(xí)領(lǐng)域的先驅(qū),斯圖爾特·羅素撰寫了人工智能領(lǐng)域的經(jīng)典教材《人工智能-現(xiàn)代方法》,這部權(quán)威著作已被翻譯成 14 種語言,在超過 130 個(gè)國家的 1500 多所大學(xué)中被使用。
2024年3月,羅素曾和特斯拉CEO埃隆·馬斯克、“AI教父”杰弗里·辛頓(Geoffrey Hinton)和圖靈獎(jiǎng)得主約書亞·本吉奧(Yoshua Bengio)等上千人簽署公開信,呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少六個(gè)月。公開信指出,當(dāng)前人工智能實(shí)驗(yàn)室陷入了一場失控的競賽,開發(fā)的大模型已經(jīng)超出了人類的理解和控制能力。因此,實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這段時(shí)間共同開發(fā)和實(shí)施一套共享的安全協(xié)議,確保AI系統(tǒng)的安全性,并由獨(dú)立外部專家進(jìn)行審計(jì)和監(jiān)督。此外,信中還強(qiáng)調(diào),AI開發(fā)人員應(yīng)與政策制定者合作,加快建立強(qiáng)大的AI治理系統(tǒng)。
羅素認(rèn)為,需要有一種思路來約束AI的不當(dāng)行為,“有些事情我們不希望AI系統(tǒng)做,比如我們不希望AI系統(tǒng)擅自開始自我復(fù)制、侵入其他電腦系統(tǒng),或者告訴恐怖分子怎么制造生物武器。那么我們就應(yīng)該規(guī)定,在產(chǎn)品問世前,開發(fā)者應(yīng)向監(jiān)管方證明該系統(tǒng)不會有這些行為?!?span style="display:none">7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM
大語言模型無法真正思考問題
《21世紀(jì)》:你曾提到大語言模型 (LLMs)無法實(shí)現(xiàn)通用人工智能 (AGI)。LLMs已展現(xiàn)出矚目的能力,您為何認(rèn)為其仍無法將我們帶往AGI?
羅素:基于我們對大語言模型及其表現(xiàn)的觀測來看,它們在實(shí)證上有局限,比如它們經(jīng)常無法回答哪怕非常簡單的推理問題。此外,還有一些技術(shù)局限,比如大語言模型是一個(gè)回路,人與系統(tǒng)進(jìn)行的對話就是上下文,當(dāng)我們將該上下文送入該回路,信息便一層一層經(jīng)過回路,由另一端輸出結(jié)果——也就是對話的下一句話或是先前問題的答案。
這個(gè)系統(tǒng)無法真正思考問題,只是信號輸入,經(jīng)過回路,信號輸出。處理時(shí)間也是固定的,它也不能花更多時(shí)間思考答案。所以,有些問題它就是無法回答的,因?yàn)槟切﹩栴}就不可能在那么短的時(shí)間里答出來。這是一個(gè)根本性的局限。
OpenAI正在嘗試的就是,如果一次循環(huán)回答不了某個(gè)問題,那就循環(huán)100次,讓大語言模型分步解決問題。但這個(gè)方法也不總是有效。對于需要更多思考的問題,這種系統(tǒng)就會浪費(fèi)大量時(shí)間在得不出答案的錯(cuò)誤思路上。因此,在這些問題上若無突破,我們就無法實(shí)現(xiàn)AGI。
《21世紀(jì)》:如果這種方式不可行,你認(rèn)為我們應(yīng)采取何種方式才能實(shí)現(xiàn)AGI?
羅素:如我所說,人們已經(jīng)意識到僅靠搭建LLMs是不足以實(shí)現(xiàn)AGI的,并且正在嘗試其他方式。我認(rèn)為對于那些方式,系統(tǒng)確實(shí)需要逐步推理?,F(xiàn)在的問題是,如何引導(dǎo)推理?如何加以控制,從而在合理時(shí)間內(nèi)推出正確結(jié)論?
這是困擾了人工智能界70年的難題,要實(shí)現(xiàn)真正的AGI,需要在這個(gè)問題上有所突破。但是,我們想要的不僅是比人類更智能的系統(tǒng),還需要確保對人類安全、有益。
我們假設(shè),還有另一種實(shí)現(xiàn)AGI的方式,比如向外星文明發(fā)送信息,請求將超智能AI送至地球。信息送達(dá)后,我們就有AGI了,但最后發(fā)現(xiàn)它完全不受我們控制,這樣做也不安全。
我們不想這么做,但我們正在做的也幾乎如此,因?yàn)槲覀冋趪L試通過結(jié)果不受控的方式創(chuàng)造AGI。通過大語言模型建造的系統(tǒng)很有可能本質(zhì)上就是不安全的,因?yàn)榇笳Z言模型的訓(xùn)練目標(biāo)是模仿人類語言行為。我們以數(shù)十億的人類書寫、說話樣本作為訓(xùn)練數(shù)據(jù),訓(xùn)練系統(tǒng)表現(xiàn)得完全和人類一樣。而我們?nèi)祟惍a(chǎn)生行為是出于目標(biāo),比如想和某人結(jié)婚;比如希望致富,所以希望有人來采購;希望掌權(quán),所以希望有人來投票。而訓(xùn)練系統(tǒng)模仿人類,就是在創(chuàng)造具有這些目標(biāo)的系統(tǒng)。但我們不希望AI系統(tǒng)萌生與人類結(jié)婚的想法,不希望AI系統(tǒng)志在富有、志在掌權(quán)。所以,通過訓(xùn)練其模仿人類來構(gòu)建AI系統(tǒng),從根本上就是危險(xiǎn)的,不應(yīng)如此。
AI需要被嚴(yán)格監(jiān)管
《21世紀(jì)》:考慮到潛在風(fēng)險(xiǎn),我們目前應(yīng)加強(qiáng)對AI 的監(jiān)管嗎?
羅素:是的。我認(rèn)為,有這樣一種監(jiān)管的思路。有些事情我們不希望AI系統(tǒng)做,比如我們不希望AI系統(tǒng)擅自開始自我復(fù)制、侵入其他電腦系統(tǒng)、或者告訴恐怖分子怎么制造生物武器。那么我們就應(yīng)該規(guī)定,在產(chǎn)品問世前,開發(fā)者應(yīng)向監(jiān)管方證明該系統(tǒng)不會有這些行為。人們正在努力抑制AI的這些不當(dāng)行為,但效果不佳?,F(xiàn)在看起來,要讓系統(tǒng)“干壞事”非常容易。
《21世紀(jì)》:我記得你也簽署了暫停訓(xùn)練強(qiáng)于ChatGPT 4的大模型的聯(lián)名信。
羅素:很多人對那封信嗤之以鼻。有人認(rèn)為,這就是浪費(fèi)時(shí)間,沒人會在意。但實(shí)際上,接下來的六個(gè)月,確實(shí)沒有強(qiáng)于ChatGPT 4的系統(tǒng)發(fā)布。各國政府也開始正視這個(gè)問題。大約三周后,中國就發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》;美國在白宮召開緊急會議;聯(lián)合國也關(guān)注此事;英國政府在幾個(gè)月后宣布將舉辦人工智能安全峰會。所以我認(rèn)為那封信還是效果顯著的。
AGI能否實(shí)現(xiàn)對投資至關(guān)重要
《21世紀(jì)》:你認(rèn)為哪些領(lǐng)域?qū)呐c日俱增的AI相關(guān)投資中獲益最多?
羅素:投資的很大一部分已經(jīng)投入更多數(shù)據(jù)中心的建設(shè)了,所以這些資金就流向了芯片供應(yīng)公司,以及為數(shù)據(jù)中心提供網(wǎng)絡(luò)、空調(diào)、電力系統(tǒng)等支撐的公司。
其余的一大部分將流向基礎(chǔ)模型公司。它們從大量數(shù)據(jù)中訓(xùn)練出基礎(chǔ)大語言模型,并轉(zhuǎn)化成特定應(yīng)用下的實(shí)用產(chǎn)品,我認(rèn)為這個(gè)領(lǐng)域是會有大幅增長的,但我們?nèi)蕴幵谠囼?yàn)階段。
另外一個(gè)最主要的經(jīng)濟(jì)領(lǐng)域是軟件工程,這是個(gè)大領(lǐng)域。還有一些稍小的領(lǐng)域,包括平面藝術(shù)和廣告文案撰寫等。我認(rèn)為今年仍是如此。但如果我們不能找到更多大的應(yīng)用領(lǐng)域,我不知道投資者們會不會失去耐心。自動(dòng)駕駛汽車領(lǐng)域就是例證。在美國,之前至少有十幾家企業(yè)對自動(dòng)駕駛汽車大量投資,而現(xiàn)在只剩一家。
如果我們不能實(shí)現(xiàn)AGI ,數(shù)萬億美元的投資和公司市值將化為烏有,對全球經(jīng)濟(jì)來說將是一個(gè)極大的破壞。所以這么看來,要在未實(shí)現(xiàn)AGI 的情況下讓投資有所值,這樣的中間地帶是非常狹窄的。而對于我們有多大可能突破AGI,又有多大可能迎來AI大崩塌及其泡沫的破裂,不同的人有不同的看法。
《21世紀(jì)》:您如何看待中國目前的AI發(fā)展模式及其在各行業(yè)具體應(yīng)用上的獨(dú)特優(yōu)勢與潛力?
羅素:比如在教育領(lǐng)域,研究表明,孩子在一對一真人導(dǎo)師輔導(dǎo)下學(xué)得比在一般的教室授課中快得多。理論上,我們可以給每個(gè)孩子配備一名AI導(dǎo)師。過程中仍然需要真人教師來讓孩子理解教育的過程,激勵(lì)他們,幫助他們社交,教他們?nèi)绾闻c他人合作等。
我們還不知道如何讓AI做到這些,但我認(rèn)為機(jī)會是可觀的。中國很可能是會在此投資的國家。中國的營利教育公司似乎已經(jīng)相對成功,所以我認(rèn)為他們有動(dòng)力嘗試創(chuàng)造這樣高效的AI導(dǎo)師。這仍然非常困難。雖然已經(jīng)有一些嘗試,但我認(rèn)為還有相當(dāng)長的路要走。
策劃:于曉娜
記者:袁思杰
監(jiān)制:朱麗娜
編輯:和佳
設(shè)計(jì):林軍明
視頻制作:袁思杰
出品:南方財(cái)經(jīng)全媒體集團(tuán)
本文鏈接:SFC Outlook 2025丨專訪國際知名人工智能專家斯圖爾特·羅素:我們需要一個(gè)安全且能造福人類的AI系統(tǒng)http://www.lensthegame.com/show-1-33917-0.html
聲明:本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點(diǎn),本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。