Aidan Gomez認(rèn)為，LLM發(fā)展已進(jìn)入平臺(tái)期，簡(jiǎn)單擴(kuò)大模型規(guī)模帶來(lái)的邊際效益正在遞減，而推理能力將成為未來(lái)突破口，并將帶來(lái)新的商業(yè)模式和市場(chǎng)機(jī)遇——從"買更大的算力"變成了"多給AI一點(diǎn)思考時(shí)間"。

作者：硬AI

來(lái)源：硬AI

AI狂飆突進(jìn)的時(shí)代，真的要結(jié)束了嗎？

隨著scaling law撞墻新聞爆出，全球科技圈、資本市場(chǎng)關(guān)于大模型發(fā)展觸及天花板的討論愈演愈烈。那么，AI發(fā)展是否放緩？后續(xù)又將如何發(fā)展？商業(yè)模式如何突破？

針對(duì)一系列焦點(diǎn)問(wèn)題，人工智能領(lǐng)域最具影響力的論文《Attention Is All You Need》的聯(lián)合作者，Cohere聯(lián)合創(chuàng)始人兼CEO Aidan Gomez在訪談中分享了自己對(duì)AI發(fā)展的深度見(jiàn)解。

他認(rèn)為，LLM發(fā)展已進(jìn)入平臺(tái)期，而推理能力將成為未來(lái)突破口，并將帶來(lái)新的商業(yè)模式和市場(chǎng)機(jī)遇。同時(shí)，他也提醒投資者警惕模型價(jià)格傾銷，關(guān)注 AGI 發(fā)展趨勢(shì)。

對(duì)于scaling law放緩的問(wèn)題，Gomez認(rèn)為，簡(jiǎn)單擴(kuò)大模型規(guī)模帶來(lái)的邊際效益正在遞減。以繪畫為例，Gomez指出 LLM 的發(fā)展初期如同用大筆觸快速完成基礎(chǔ)構(gòu)圖，但隨著模型需要處理更精細(xì)的任務(wù)，如同繪畫需要越來(lái)越細(xì)的筆觸來(lái)完善細(xì)節(jié)，模型改進(jìn)需要的數(shù)據(jù)也越來(lái)越精細(xì)，這導(dǎo)致獲取高質(zhì)量數(shù)據(jù)的成本越來(lái)越高，最終模型的規(guī)?；l(fā)展將受限于人類知識(shí)的邊界和專家數(shù)據(jù)的獲取難度。

推理能力方面，Gomez表示，推理能力可以讓 LLM 不僅簡(jiǎn)單地記憶輸入輸出對(duì)，還可以像人類一樣進(jìn)行多步驟的思考和推理，解決更復(fù)雜的問(wèn)題。而這，這帶來(lái)了一個(gè)革命性的變化——企業(yè)不必再為提升AI能力投入巨額固定成本，而是可以通過(guò)增加推理時(shí)間來(lái)實(shí)現(xiàn)。用通俗的話說(shuō)，就是從"買更大的算力"變成了"多給AI一點(diǎn)思考時(shí)間"。

Gomez還認(rèn)為，推理時(shí)間計(jì)算量的增加還將對(duì)芯片層和數(shù)據(jù)中心建設(shè)產(chǎn)生影響，未來(lái)需要開(kāi)發(fā)更適合處理推理任務(wù)的芯片，以及建設(shè)更適合分布式計(jì)算的數(shù)據(jù)中心。

以下是訪談內(nèi)容精編：

LLM發(fā)展進(jìn)入平臺(tái)期，推理能力將成未來(lái)突破口

問(wèn)：LLM 發(fā)展是否已經(jīng)進(jìn)入平臺(tái)期？未來(lái)的突破口在哪里？

Gomez：

問(wèn)：影響模型規(guī)?；l(fā)展的因素有哪些？

Gomez：

2. 推理能力將帶來(lái)新的商業(yè)模式和市場(chǎng)機(jī)遇

問(wèn)：推理能力將如何改變行業(yè)格局？

答：

問(wèn)：如何理解推理能力？

答：

問(wèn)：什么類型的問(wèn)題更適合使用推理能力解決？

答：

問(wèn)：市場(chǎng)普遍低估了推理時(shí)間計(jì)算的哪些方面？

答：

3. Cohere: 自主研發(fā)模型，打造差異化競(jìng)爭(zhēng)優(yōu)勢(shì)

問(wèn)：Cohere 為什么選擇自主研發(fā)模型？

答：

問(wèn)：LLM 是否適用于所有領(lǐng)域？

答：

4. 警惕模型價(jià)格傾銷，關(guān)注 AGI 發(fā)展趨勢(shì)

問(wèn)：市場(chǎng)上 LLM 價(jià)格下降是否意味著模型商品化？

答：

問(wèn)：如何看待 AGI 的發(fā)展？

答：

本文來(lái)自微信公眾號(hào)“硬AI”，關(guān)注更多AI前沿資訊請(qǐng)移步這里

市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見(jiàn)、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。