設(shè)置
          • 日夜間
            隨系統(tǒng)
            淺色
            深色
          • 主題色

          SFC Outlook 2025丨專訪國際知名人工智能專家斯圖爾特·羅素:我們需要一個(gè)安全且能造福人類的AI系統(tǒng)

          2025-01-23 17:15:28 來源:

          南方財(cái)經(jīng)全媒體記者 袁思杰 香港報(bào)道7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          近年來,全球人工智能市場規(guī)模正加速擴(kuò)張。國際數(shù)據(jù)公司(IDC)報(bào)告顯示,2022年全球人工智能IT總投資規(guī)模有望在2027年增至5,124.2億美元,年復(fù)合增長率(CAGR)為31.1%。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          與此同時(shí),目前通用人工智能(AGI,Artificial General Intelligence)的研究仍在探索階段,人類尚未實(shí)現(xiàn)真正的AGI,即能夠像人類一樣在多種領(lǐng)域和任務(wù)中具備學(xué)習(xí)、推理、規(guī)劃、創(chuàng)造力和情感理解等能力的智能系統(tǒng)。與現(xiàn)有的弱人工智能(ANI)不同,AGI的目標(biāo)是實(shí)現(xiàn)通用的認(rèn)知能力,而不僅僅是針對特定任務(wù)的優(yōu)化。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          近日,國際知名人工智能專家斯圖爾特·羅素接受了南方財(cái)經(jīng)全媒體記者專訪,他指出,僅靠不斷搭建和疊加大語言模型 (LLMs)無法實(shí)現(xiàn)通用人工智能 (AGI),而人類需要不僅是比自身更智能的系統(tǒng),還需要確保是對自身安全和有益的。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          在此前的多次演講中,羅素曾多次表示ChatGPT和GPT-4并不理解世界,也沒有在“回答”問題,“如果說通用人工智能是一件完整的拼圖,大語言模型僅僅只是其中的一塊,但我們并不真正了解如何將它與拼圖的其他部分連接起來,以真正實(shí)現(xiàn)通用人工智能?!?span style="display:none">7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          斯圖爾特·羅素(Stuart Russell)是人工智能領(lǐng)域的著名學(xué)者,現(xiàn)任加州大學(xué)伯克利分校電氣工程與計(jì)算機(jī)科學(xué)系教授、世界經(jīng)濟(jì)論壇人工智能理事會聯(lián)席主席。作為人工智能、機(jī)械人和機(jī)器學(xué)習(xí)領(lǐng)域的先驅(qū),斯圖爾特·羅素撰寫了人工智能領(lǐng)域的經(jīng)典教材《人工智能-現(xiàn)代方法》,這部權(quán)威著作已被翻譯成 14 種語言,在超過 130 個(gè)國家的 1500 多所大學(xué)中被使用。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          2024年3月,羅素曾和特斯拉CEO埃隆·馬斯克、“AI教父”杰弗里·辛頓(Geoffrey Hinton)和圖靈獎(jiǎng)得主約書亞·本吉奧(Yoshua Bengio)等上千人簽署公開信,呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少六個(gè)月。公開信指出,當(dāng)前人工智能實(shí)驗(yàn)室陷入了一場失控的競賽,開發(fā)的大模型已經(jīng)超出了人類的理解和控制能力。因此,實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這段時(shí)間共同開發(fā)和實(shí)施一套共享的安全協(xié)議,確保AI系統(tǒng)的安全性,并由獨(dú)立外部專家進(jìn)行審計(jì)和監(jiān)督。此外,信中還強(qiáng)調(diào),AI開發(fā)人員應(yīng)與政策制定者合作,加快建立強(qiáng)大的AI治理系統(tǒng)。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素認(rèn)為,需要有一種思路來約束AI的不當(dāng)行為,“有些事情我們不希望AI系統(tǒng)做,比如我們不希望AI系統(tǒng)擅自開始自我復(fù)制、侵入其他電腦系統(tǒng),或者告訴恐怖分子怎么制造生物武器。那么我們就應(yīng)該規(guī)定,在產(chǎn)品問世前,開發(fā)者應(yīng)向監(jiān)管方證明該系統(tǒng)不會有這些行為?!?span style="display:none">7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          大語言模型無法真正思考問題7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          《21世紀(jì)》:你曾提到大語言模型 (LLMs)無法實(shí)現(xiàn)通用人工智能 (AGI)。LLMs已展現(xiàn)出矚目的能力,您為何認(rèn)為其仍無法將我們帶往AGI?7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素:基于我們對大語言模型及其表現(xiàn)的觀測來看,它們在實(shí)證上有局限,比如它們經(jīng)常無法回答哪怕非常簡單的推理問題。此外,還有一些技術(shù)局限,比如大語言模型是一個(gè)回路,人與系統(tǒng)進(jìn)行的對話就是上下文,當(dāng)我們將該上下文送入該回路,信息便一層一層經(jīng)過回路,由另一端輸出結(jié)果——也就是對話的下一句話或是先前問題的答案。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          這個(gè)系統(tǒng)無法真正思考問題,只是信號輸入,經(jīng)過回路,信號輸出。處理時(shí)間也是固定的,它也不能花更多時(shí)間思考答案。所以,有些問題它就是無法回答的,因?yàn)槟切﹩栴}就不可能在那么短的時(shí)間里答出來。這是一個(gè)根本性的局限。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          OpenAI正在嘗試的就是,如果一次循環(huán)回答不了某個(gè)問題,那就循環(huán)100次,讓大語言模型分步解決問題。但這個(gè)方法也不總是有效。對于需要更多思考的問題,這種系統(tǒng)就會浪費(fèi)大量時(shí)間在得不出答案的錯(cuò)誤思路上。因此,在這些問題上若無突破,我們就無法實(shí)現(xiàn)AGI。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          《21世紀(jì)》:如果這種方式不可行,你認(rèn)為我們應(yīng)采取何種方式才能實(shí)現(xiàn)AGI?7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素:如我所說,人們已經(jīng)意識到僅靠搭建LLMs是不足以實(shí)現(xiàn)AGI的,并且正在嘗試其他方式。我認(rèn)為對于那些方式,系統(tǒng)確實(shí)需要逐步推理?,F(xiàn)在的問題是,如何引導(dǎo)推理?如何加以控制,從而在合理時(shí)間內(nèi)推出正確結(jié)論?7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          這是困擾了人工智能界70年的難題,要實(shí)現(xiàn)真正的AGI,需要在這個(gè)問題上有所突破。但是,我們想要的不僅是比人類更智能的系統(tǒng),還需要確保對人類安全、有益。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          我們假設(shè),還有另一種實(shí)現(xiàn)AGI的方式,比如向外星文明發(fā)送信息,請求將超智能AI送至地球。信息送達(dá)后,我們就有AGI了,但最后發(fā)現(xiàn)它完全不受我們控制,這樣做也不安全。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          我們不想這么做,但我們正在做的也幾乎如此,因?yàn)槲覀冋趪L試通過結(jié)果不受控的方式創(chuàng)造AGI。通過大語言模型建造的系統(tǒng)很有可能本質(zhì)上就是不安全的,因?yàn)榇笳Z言模型的訓(xùn)練目標(biāo)是模仿人類語言行為。我們以數(shù)十億的人類書寫、說話樣本作為訓(xùn)練數(shù)據(jù),訓(xùn)練系統(tǒng)表現(xiàn)得完全和人類一樣。而我們?nèi)祟惍a(chǎn)生行為是出于目標(biāo),比如想和某人結(jié)婚;比如希望致富,所以希望有人來采購;希望掌權(quán),所以希望有人來投票。而訓(xùn)練系統(tǒng)模仿人類,就是在創(chuàng)造具有這些目標(biāo)的系統(tǒng)。但我們不希望AI系統(tǒng)萌生與人類結(jié)婚的想法,不希望AI系統(tǒng)志在富有、志在掌權(quán)。所以,通過訓(xùn)練其模仿人類來構(gòu)建AI系統(tǒng),從根本上就是危險(xiǎn)的,不應(yīng)如此。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          AI需要被嚴(yán)格監(jiān)管7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          《21世紀(jì)》:考慮到潛在風(fēng)險(xiǎn),我們目前應(yīng)加強(qiáng)對AI 的監(jiān)管嗎?7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素:是的。我認(rèn)為,有這樣一種監(jiān)管的思路。有些事情我們不希望AI系統(tǒng)做,比如我們不希望AI系統(tǒng)擅自開始自我復(fù)制、侵入其他電腦系統(tǒng)、或者告訴恐怖分子怎么制造生物武器。那么我們就應(yīng)該規(guī)定,在產(chǎn)品問世前,開發(fā)者應(yīng)向監(jiān)管方證明該系統(tǒng)不會有這些行為。人們正在努力抑制AI的這些不當(dāng)行為,但效果不佳?,F(xiàn)在看起來,要讓系統(tǒng)“干壞事”非常容易。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          《21世紀(jì)》:我記得你也簽署了暫停訓(xùn)練強(qiáng)于ChatGPT 4的大模型的聯(lián)名信。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素:很多人對那封信嗤之以鼻。有人認(rèn)為,這就是浪費(fèi)時(shí)間,沒人會在意。但實(shí)際上,接下來的六個(gè)月,確實(shí)沒有強(qiáng)于ChatGPT 4的系統(tǒng)發(fā)布。各國政府也開始正視這個(gè)問題。大約三周后,中國就發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》;美國在白宮召開緊急會議;聯(lián)合國也關(guān)注此事;英國政府在幾個(gè)月后宣布將舉辦人工智能安全峰會。所以我認(rèn)為那封信還是效果顯著的。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          AGI能否實(shí)現(xiàn)對投資至關(guān)重要7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          《21世紀(jì)》:你認(rèn)為哪些領(lǐng)域?qū)呐c日俱增的AI相關(guān)投資中獲益最多?7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素:投資的很大一部分已經(jīng)投入更多數(shù)據(jù)中心的建設(shè)了,所以這些資金就流向了芯片供應(yīng)公司,以及為數(shù)據(jù)中心提供網(wǎng)絡(luò)、空調(diào)、電力系統(tǒng)等支撐的公司。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          其余的一大部分將流向基礎(chǔ)模型公司。它們從大量數(shù)據(jù)中訓(xùn)練出基礎(chǔ)大語言模型,并轉(zhuǎn)化成特定應(yīng)用下的實(shí)用產(chǎn)品,我認(rèn)為這個(gè)領(lǐng)域是會有大幅增長的,但我們?nèi)蕴幵谠囼?yàn)階段。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          另外一個(gè)最主要的經(jīng)濟(jì)領(lǐng)域是軟件工程,這是個(gè)大領(lǐng)域。還有一些稍小的領(lǐng)域,包括平面藝術(shù)和廣告文案撰寫等。我認(rèn)為今年仍是如此。但如果我們不能找到更多大的應(yīng)用領(lǐng)域,我不知道投資者們會不會失去耐心。自動(dòng)駕駛汽車領(lǐng)域就是例證。在美國,之前至少有十幾家企業(yè)對自動(dòng)駕駛汽車大量投資,而現(xiàn)在只剩一家。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          如果我們不能實(shí)現(xiàn)AGI ,數(shù)萬億美元的投資和公司市值將化為烏有,對全球經(jīng)濟(jì)來說將是一個(gè)極大的破壞。所以這么看來,要在未實(shí)現(xiàn)AGI 的情況下讓投資有所值,這樣的中間地帶是非常狹窄的。而對于我們有多大可能突破AGI,又有多大可能迎來AI大崩塌及其泡沫的破裂,不同的人有不同的看法。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          《21世紀(jì)》:您如何看待中國目前的AI發(fā)展模式及其在各行業(yè)具體應(yīng)用上的獨(dú)特優(yōu)勢與潛力?7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          羅素:比如在教育領(lǐng)域,研究表明,孩子在一對一真人導(dǎo)師輔導(dǎo)下學(xué)得比在一般的教室授課中快得多。理論上,我們可以給每個(gè)孩子配備一名AI導(dǎo)師。過程中仍然需要真人教師來讓孩子理解教育的過程,激勵(lì)他們,幫助他們社交,教他們?nèi)绾闻c他人合作等。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          我們還不知道如何讓AI做到這些,但我認(rèn)為機(jī)會是可觀的。中國很可能是會在此投資的國家。中國的營利教育公司似乎已經(jīng)相對成功,所以我認(rèn)為他們有動(dòng)力嘗試創(chuàng)造這樣高效的AI導(dǎo)師。這仍然非常困難。雖然已經(jīng)有一些嘗試,但我認(rèn)為還有相當(dāng)長的路要走。7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          策劃:于曉娜 7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          記者:袁思杰7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          監(jiān)制:朱麗娜7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          編輯:和佳7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          設(shè)計(jì):林軍明7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          視頻制作:袁思杰7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          出品:南方財(cái)經(jīng)全媒體集團(tuán)7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

           7jY流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM

          本文鏈接:SFC Outlook 2025丨專訪國際知名人工智能專家斯圖爾特·羅素:我們需要一個(gè)安全且能造福人類的AI系統(tǒng)http://www.lensthegame.com/show-1-33917-0.html

          聲明:本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點(diǎn),本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。

          上一篇: 客場取勝!廣東隊(duì)總比分3比2擊敗中國香港隊(duì)衛(wèi)冕省港杯冠軍

          下一篇: 香港金管局:高息持續(xù) 香港銀行盈利增長率跌至三年最低

          熱門資訊

          推薦資訊

          • 男士休閑夾克一般搭配什么褲子?

            男士休閑夾克一般搭配什么褲子?男士休閑夾克可以搭配多種褲子,具體搭配取決于個(gè)人的風(fēng)格和場合。以下是幾種常見的搭配方式: 牛仔褲:牛仔褲是男士休閑夾克的經(jīng)典搭配。選擇一

          • 雞女和鼠男相配婚姻如何?揭秘最佳配對秘訣!

            在十二生肖中,雞和鼠是兩種截然不同的屬相。那么,雞女和鼠男在婚姻生活中是否相配呢?本文將為您詳細(xì)分析雞女和鼠男相配婚姻如何,揭秘最佳配對秘訣!一、雞女和鼠男相配婚姻如何

          • 冬天穿芭比褲,如何搭配才更有型?

            在寒冷的冬天,很多女性為了追求時(shí)尚和個(gè)性,依然會選擇穿著芭比褲。可是,如何搭配才能既保暖又時(shí)尚呢?今天,我就為大家分享一下我的一些心得,希望對大家有所幫助。一、選擇合適的

          • 焦糖色最佳顏色搭配圖:打造時(shí)尚氣息的視覺盛宴

            一、引言近年來,焦糖色在時(shí)尚圈的地位日益攀升,成為一種備受推崇的流行色彩。焦糖色不僅給人以溫馨、柔和的感覺,還散發(fā)著一種低調(diào)的奢華。那么,如何將焦糖色與其他顏色搭配得

          • 粉色衛(wèi)衣怎么搭配下身?這三種方法讓你時(shí)尚又減齡

            粉色衛(wèi)衣是一種非常受歡迎的時(shí)尚單品,無論是男生還是女生,都可以輕松駕馭。但是,如何搭配下身才能既時(shí)尚又減齡呢?本文將為你介紹三種搭配方法,讓你輕松穿出少女心。一、粉色衛(wèi)

          • 陳皮十種最佳搭配吃法

            一、引言陳皮是一種常見的中藥材,具有很高的藥用價(jià)值和食用價(jià)值。不僅能夠調(diào)理腸胃、促進(jìn)消化,還具有清熱解毒、潤肺止咳等功效。如今,陳皮已經(jīng)成為了人們?nèi)粘I钪胁豢苫?/p>

          • GTA5 好看的衣服:探索游戲中的時(shí)尚世界

            一、引言作為一名 GTA5 的玩家,你是否曾經(jīng)為角色的著裝而煩惱過?你是否想要一套獨(dú)一無二的行頭來彰顯你在游戲中的個(gè)性?本文將帶你走進(jìn) GTA5 的時(shí)尚世界,為你推薦一些游戲中好

          • 旗袍搭配鞋子圖片大全

            一、引言旗袍是中國女性傳統(tǒng)服裝的代表之一,被譽(yù)為國粹。它以其獨(dú)特的魅力和優(yōu)雅的風(fēng)格,吸引了無數(shù)女性的喜愛。而鞋子作為旗袍的搭配品,同樣具有舉足輕重的地位。今天,我們

          • 面包服不適合什么人穿

            面包服不適合什么人穿?這是一個(gè)值得探討的問題。隨著時(shí)尚的不斷演變,面包服這種服裝款式也成為了人們熱議的話題。但是,這種服裝并不是每個(gè)人都適合穿的。那么,哪些人不適合

          • 熒光綠搭配三種顏色,打造獨(dú)特的時(shí)尚風(fēng)格

            隨著時(shí)尚潮流的不斷變遷,人們對于顏色的搭配也越來越大膽嘗試。其中,熒光綠這一鮮明的色彩在時(shí)尚舞臺上脫穎而出,成為許多時(shí)尚達(dá)人的寵兒。那么,如何將熒光綠與另外三種顏色搭

          • 女士黑色老爹鞋搭配:時(shí)尚圈的“黑馬”

            一、引言近年來,時(shí)尚圈的風(fēng)向標(biāo)不斷變化,各種鞋款輪流占據(jù)潮流舞臺。其中,女士黑色老爹鞋作為一款“黑馬”鞋款,逐漸成為時(shí)尚達(dá)人的必備單品。那么,如何搭配女士黑色老爹鞋,才能

          • 工裝鞋搭配什么衣服和褲子?教你輕松打造時(shí)尚工業(yè)風(fēng)

            一、引言工裝鞋作為時(shí)尚潮流中的一股“泥石流”,憑借其獨(dú)特的設(shè)計(jì)和實(shí)用性,越來越受到年輕人的喜愛。然而,如何搭配衣服和褲子才能更好地展現(xiàn)工裝鞋的獨(dú)特魅力呢?本文將為你詳

          • 日榜
          • 周榜
          • 月榜
          主站蜘蛛池模板: 在线免费视频一区| 精品国产一区在线观看 | 一区二区三区在线观看视频| 亚洲国产精品一区二区第一页| 日韩精品一区二区三区在线观看| 精品一区二区三区中文| 亚洲AV日韩精品一区二区三区| 一区二区三区电影网| 无码人妻精品一区二区三区久久久| 在线精品自拍亚洲第一区| 精品女同一区二区三区免费播放| 在线观看一区二区三区av| 国产精品99精品一区二区三区| 国产剧情一区二区| 手机看片福利一区二区三区| 国产在线精品一区二区在线观看| 久久精品视频一区二区三区| 中文字幕一区在线观看| 一区二区视频在线观看| 韩国美女vip福利一区| 亚洲日韩国产精品第一页一区| 一区二区三区视频免费观看| 夜夜精品无码一区二区三区| 一区二区三区精品视频| 亚洲性日韩精品国产一区二区| 一区二区在线播放视频| 国产精品一区三区| 无码少妇一区二区浪潮免费| 亚洲视频一区二区三区四区| 国产乱码一区二区三区四| 中文字幕人妻第一区| 国产未成女一区二区三区 | 中文字幕乱码亚洲精品一区| 日本一区二区视频| 国产福利酱国产一区二区| 国产伦精品一区二区三区无广告| 一区二区不卡视频在线观看| 一区二区乱子伦在线播放| 在线视频一区二区| chinese国产一区二区| 国产一区三区二区中文在线|