對話復(fù)旦大學(xué)副教授鄭驍慶：當(dāng)前AI仍是“高級(jí)別模仿”，離AGI還有一段距離

快訊 2025年01月02日 01:00 1 admin

　　每經(jīng)記者宋欣悅????每經(jīng)編輯高涵????

　　近日，“推遲”“質(zhì)疑”“未達(dá)預(yù)期”這類詞語頻繁出現(xiàn)在人工智能（AI）行業(yè)的討論和報(bào)道中。被眾人期待“炸場”的OpenAI連續(xù)12天的AI發(fā)布會(huì)細(xì)細(xì)品來也少了些“革命性”的味道，更像是在已有成果上的修修補(bǔ)補(bǔ)。

　　此前，OpenAI的聯(lián)合創(chuàng)始人伊爾亞·蘇茨克維就曾在多個(gè)場合提到，AI的進(jìn)步并不是線性的，未來幾年內(nèi)，盡管有大量資金和研究投入，技術(shù)突破的速度可能會(huì)有所放緩。

　　AI發(fā)展速度真的在放緩嗎？AI發(fā)展面臨著哪些挑戰(zhàn)？我們距離通用人工智能（AGI）還有多遠(yuǎn)？針對這些熱點(diǎn)問題，《每日經(jīng)濟(jì)新聞》記者（以下簡稱NBD）專訪了復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院副教授、博士生導(dǎo)師鄭驍慶。

　　鄭驍慶認(rèn)為，從速度來講，AI發(fā)展并沒有放緩，但目前AI發(fā)展面臨著三大核心挑戰(zhàn)：AI“幻覺”現(xiàn)象、數(shù)據(jù)隱私、算力和能源效率。在他看來，當(dāng)前的AI技術(shù)依然處于“高級(jí)別模仿”的階段，離真正的AGI還有一段距離。“AGI不僅需要在認(rèn)知能力、學(xué)習(xí)能力等方面超越現(xiàn)有技術(shù)，還需在情感理解和自主決策等領(lǐng)域有所突破?！?/p>

　　AI發(fā)展并未減速，但仍面臨三大挑戰(zhàn)

　　NBD：在您看來，近期AI的發(fā)展速度相比過去兩年，有怎樣的變化？

　　鄭驍慶：我認(rèn)為，人工智能的發(fā)展速度并沒有放緩。

　　新一輪生成式人工智能的標(biāo)志性工作，實(shí)際上就是OpenAI在2022年底推出的ChatGPT。這樣一個(gè)突破性的事件，距今僅有兩年左右的時(shí)間。在這段時(shí)間里，ChatGPT的成功使得整個(gè)學(xué)術(shù)界和產(chǎn)學(xué)界投入了大量的人力和物力來推動(dòng)生成式人工智能的發(fā)展。

　　不能說當(dāng)前人工智能技術(shù)的發(fā)展變慢了，實(shí)際上，它仍在加速前進(jìn)。當(dāng)然，在發(fā)展的過程中，我們不可避免地會(huì)遇到一些問題和新的挑戰(zhàn)，這些都是目前確實(shí)存在的。

　　NBD：目前人工智能面臨哪些重大挑戰(zhàn)？

　　鄭驍慶：因?yàn)槲业难芯抗ぷ髦匾性谧匀徽Z言處理和機(jī)器學(xué)習(xí)方面，所以我從這個(gè)領(lǐng)域來談。

　　首先，當(dāng)前大型語言模型面臨的一個(gè)主要問題是“幻覺”現(xiàn)象，即模型可能會(huì)生成看似正確但實(shí)際上錯(cuò)誤的信息。因?yàn)樵S多用戶并不具備鑒別信息真?zhèn)蔚哪芰?，所以很容易被這種“幻覺”影響。特別是在醫(yī)學(xué)、法律、金融等高風(fēng)險(xiǎn)應(yīng)用領(lǐng)域中，存在一定風(fēng)險(xiǎn)。

　　其次，大模型高度依賴大數(shù)據(jù)。實(shí)際上，包括OpenAI在內(nèi)的AI公司，在訓(xùn)練模型時(shí)，也并未透露其使用了哪些數(shù)據(jù)。因?yàn)檫@些數(shù)據(jù)多多少少會(huì)涉及版權(quán)或個(gè)人隱私。這種問題不僅存在于模型的構(gòu)建和訓(xùn)練過程中，在用戶在使用大模型時(shí)，也可能泄露個(gè)人信息。因此，數(shù)據(jù)的隱私問題是另一個(gè)重大挑戰(zhàn)。

　　最后，AI大模型的算力消耗巨大，資源成本高昂。如何降低使用門檻，讓更多用戶特別是中小企業(yè)能夠負(fù)擔(dān)得起人工智能技術(shù)，是我們需要思考的問題。在巨大的計(jì)算和能源消耗情況下，如何實(shí)現(xiàn)更高效、更節(jié)能的AI系統(tǒng)，可能成為未來的發(fā)展方向。

　　數(shù)據(jù)最小化：只取所需，不要貪多

　　NBD：您認(rèn)為有哪些關(guān)鍵技術(shù)可能會(huì)去解決或者緩解這些挑戰(zhàn)呢？

　　鄭驍慶：要緩解“幻覺”問題，一種策略是“對齊”。目前，較為成熟的技術(shù)手段是利用強(qiáng)化學(xué)習(xí)來實(shí)現(xiàn)與人類偏好的對齊。在對齊人類偏好的過程中，一個(gè)核心標(biāo)準(zhǔn)是“誠實(shí)性”，即模型必須提供真實(shí)信息，而非胡編亂造。

　　另外，“檢索增強(qiáng)生成”（RAG）也是一項(xiàng)關(guān)鍵技術(shù)。在提問時(shí)先提供相關(guān)的背景資料，模型會(huì)通過檢索這些資料來輔助生成答案，這樣可以在一定程度上提高生成答案的準(zhǔn)確性和可信度，緩解單純依賴模型內(nèi)部知識(shí)庫可能產(chǎn)生的“幻覺”問題。

　　還有一種技術(shù)是答案生成的后續(xù)驗(yàn)證。模型生成答案后，我們可以利用其他模型對答案中的關(guān)鍵觀點(diǎn)和要素進(jìn)行驗(yàn)證，以確保正確性。

　　對于數(shù)據(jù)隱私問題，高質(zhì)量的數(shù)據(jù)是高質(zhì)量應(yīng)用的基礎(chǔ)，我認(rèn)為企業(yè)需要找到創(chuàng)新與數(shù)據(jù)隱私之間的平衡點(diǎn)。首先，企業(yè)需要遵循數(shù)據(jù)最小化原則，只收集和使用與目標(biāo)任務(wù)直接相關(guān)的最少量的數(shù)據(jù)，只取所需，而不要貪多。

　　其次，企業(yè)一定要做好數(shù)據(jù)的加密和脫敏處理。尤其是在AI應(yīng)用中，模型的訓(xùn)練數(shù)據(jù)如果沒有保護(hù)好，攻擊者可能通過模型推測出隱私信息，進(jìn)而對企業(yè)和用戶帶來巨大的安全隱患。

　　我們還可以考慮使用新技術(shù)來解決這個(gè)問題，比如聯(lián)邦學(xué)習(xí)，它允許多個(gè)數(shù)據(jù)擁有者各自貢獻(xiàn)出模型所需的訓(xùn)練數(shù)據(jù)，在數(shù)據(jù)聯(lián)邦的情況下完成模型的訓(xùn)練，而不會(huì)泄露數(shù)據(jù)擁有者的數(shù)據(jù)。

　　AI處于“高級(jí)別模仿”階段不具備“小樣本學(xué)習(xí)”能力

　　NBD：近日，OpenAI首席執(zhí)行官薩姆·阿爾特曼在接受媒體采訪時(shí)表示，預(yù)計(jì)通用人工智能（AGI）將在2025年到來。在您看來，我們離AGI近了嗎？

　　鄭驍慶：阿爾特曼作為OpenAI的首席執(zhí)行官，從商業(yè)的角度來說，他對于AGI的實(shí)現(xiàn)可能會(huì)比較樂觀。但對于我們研究者來講，我持一定的保留意見。

　　當(dāng)前的AI技術(shù)，實(shí)質(zhì)上仍是一種高級(jí)別的模仿，與人類的智能完全不一樣。人類的智能，舉個(gè)例子，我們從小就能流利地使用語言，并產(chǎn)生語言的新表達(dá)。但實(shí)際上，我們在成長過程中接觸到語言環(huán)境的數(shù)據(jù)量，遠(yuǎn)遠(yuǎn)小于當(dāng)前人工智能模型接觸到的數(shù)據(jù)量。也就是說，人類大腦具有一種強(qiáng)大的小樣本學(xué)習(xí)能力，即僅憑少量樣本，就能泛化到未見過的情境，而這是目前模型無法做到的。

　　目前，關(guān)于AGI還存在一個(gè)爭議：AGI是要做仿真（按照人腦思路來做），還是按照實(shí)用主義的思路來做？具體而言，仿真路徑主張?jiān)谏钊肜斫夂湍M人腦機(jī)制的基礎(chǔ)上構(gòu)建人工智能系統(tǒng)；而實(shí)用主義路徑則更加注重結(jié)果，認(rèn)為只要人工智能系統(tǒng)的輸出效果與人類相當(dāng)，就可以認(rèn)為其具備智能。

　　現(xiàn)在的發(fā)展主要是在走實(shí)用主義的道路，而這條發(fā)展路徑面臨的最大的問題在于，盡管AI在某些單一任務(wù)上可能表現(xiàn)非常優(yōu)異，但要從一個(gè)任務(wù)遷移到另一個(gè)任務(wù)，尤其是面對全新任務(wù)時(shí)，往往需要大量的新數(shù)據(jù)重新進(jìn)行訓(xùn)練。比如，我們教會(huì)AI文字表達(dá)，它的語音處理能力可能就不理想；而教會(huì)它語音，它的文字表達(dá)能力又可能受到影響。因此，在處理涉及多種數(shù)據(jù)形式（如文本、圖像、音頻）的跨模態(tài)任務(wù)時(shí)，AI的表現(xiàn)仍然不夠出色。

　　人類智能完全不同，人類能夠依靠在其他任務(wù)中積累的經(jīng)驗(yàn)，在新任務(wù)上同樣表現(xiàn)出色。即使面對未知的任務(wù)，人類也能規(guī)劃出探索和研究的路徑，從而順利完成任務(wù)。因此，我認(rèn)為通用人工智能必須具備通用性和遷移性。這種通用性遷移性意味著，一旦AI在某個(gè)任務(wù)上學(xué)會(huì)某項(xiàng)技能或知識(shí)，它應(yīng)該能夠?qū)⑵溥w移到各種不同類型的任務(wù)上。

　　另外一個(gè)值得探討的概念是，元學(xué)習(xí)（Meta Learning）。之所以提及元學(xué)習(xí)，是因?yàn)楫?dāng)前AI，包括ChatGPT在內(nèi)，存在一個(gè)顯著的問題：推理能力不足。元學(xué)習(xí)是一種更高層次的學(xué)習(xí)方法，它關(guān)注的是“學(xué)會(huì)如何學(xué)習(xí)”（learning to learn），而不僅僅是學(xué)習(xí)什么。

　　翻譯

　　搜索

　　復(fù)制

標(biāo)簽：復(fù)旦大學(xué) 副教授模仿