張翅:百煉成金,金融大模型探索與實踐
專題:第六屆中國金融科技論壇
2024年服貿(mào)會專題活動之一——“第六屆中國金融科技論壇”于9月12日-13日在北京舉行。阿里云智能集團副總裁、新金融行業(yè)總經(jīng)理張翅出席并演講。
張翅表示,金融行業(yè)擁抱大模型是一個不可避免的趨勢。得益于先前的數(shù)字化積累,金融機構(gòu)在接納大模型時比以往更有優(yōu)勢。回顧過去,阿里云已經(jīng)與多家金融機構(gòu)在云原生架構(gòu)方面展開了合作?,F(xiàn)在看來,AI時代的命題就像我們當年面對云計算轉(zhuǎn)型一樣。我們愿意在這個過程中長期與金融機構(gòu)合作,明確問題所在,并直接面對,將技術(shù)能力和先進性與實際需求相匹配。??
以下為演講實錄:
尊敬的尚福林主席、邢煒會長,以及各位來自各大銀行的領(lǐng)導、專家們,非常榮幸能夠來到第六屆中國金融科技論壇,并有機會在這里分享我的觀點。曾經(jīng),我們對于“金融科技”這個詞有所保留,但隨著國家數(shù)字金融“五篇大文章”的提出,特別是在大模型技術(shù)快速崛起的背景下,金融科技再次成為了行業(yè)的焦點。
云計算與金融行業(yè)的深度融合,見證了從最初的“云+Fintech”理念到如今銀行核心系統(tǒng)向云原生架構(gòu)轉(zhuǎn)型的過程。這不僅是技術(shù)層面的變化,更是數(shù)字金融邁向智能化新時代的重要標志。今天我們看到數(shù)字金融智能化的要求和發(fā)展會到一個新的階段,所以我今天分享的主題借用了我們阿里云一款產(chǎn)品的名字“百煉成金”。百煉是阿里云的一款模型工具,通義點金是通用大模型金融板塊的一個部分,這個名稱寓意著中國金融行業(yè)從借鑒國外經(jīng)驗到自主研發(fā),再到今天大模型技術(shù)的應(yīng)用,經(jīng)歷了一段百煉成金的過程。
阿里云的成立與發(fā)展緊密關(guān)聯(lián)著信息技術(shù)的進步,金融行業(yè)也是如此。從古老的算盤計算,到信息化時代的曙光,再到數(shù)字化轉(zhuǎn)型的浪潮,直至今日智能化時代的到來,這是一個循序漸進、不斷演化的歷程。每一次技術(shù)革新及其與業(yè)務(wù)系統(tǒng)的融合,都遵循著特定的周期規(guī)律,正如Gartner技術(shù)成熟度曲線所展示的那樣,技術(shù)的發(fā)展通常伴隨著起伏波動。
然而,隨著大模型技術(shù)的興起,我們迎來了金融行業(yè)的新篇章與全新挑戰(zhàn)。在短短的一兩年間,從GPU芯片的普及到算力基礎(chǔ)設(shè)施的構(gòu)建,再到大模型訓練的廣泛應(yīng)用,技術(shù)革新迅速。盡管去年曾上演過“百模大戰(zhàn)”甚至“千模大戰(zhàn)”的熱鬧景象,但現(xiàn)在能夠獨立完成大模型訓練的企業(yè)卻屈指可數(shù),這主要是因為在硬件、軟件乃至工程化方面存在著諸多難以逾越的障礙。
盡管大模型正處于蓬勃發(fā)展的階段,但其在業(yè)務(wù)應(yīng)用領(lǐng)域的突破性產(chǎn)品仍相對稀缺。相比之下,在互聯(lián)網(wǎng)時代,諸如社交軟件、游戲、支付工具等應(yīng)用曾引領(lǐng)潮流,它們以其獨特的功能吸引了大量用戶。然而,大模型至今尚未催生出類似的現(xiàn)象級應(yīng)用。即便如此,我們依然堅信,大模型技術(shù)將成為推動未來經(jīng)濟發(fā)展的全新動力源。
對于金融行業(yè)而言,此刻我們需重新審視數(shù)字化進程。當數(shù)字化轉(zhuǎn)型步入中期階段時,我們應(yīng)當思考下一步的方向。過往的經(jīng)歷包括系統(tǒng)遷移至云端、數(shù)據(jù)集中存儲、以及云原生架構(gòu)改造等。然而,我們是否真正創(chuàng)造了預期的業(yè)務(wù)價值?在評價數(shù)字化進展時,我們通常談?wù)摰氖菙?shù)字化的滲透率和深度。以數(shù)據(jù)為例,雖然銀行已完成了數(shù)據(jù)治理,但數(shù)據(jù)所發(fā)揮的作用并未達到我們的期望值。展望未來,我們有理由相信,大模型或許是解鎖數(shù)據(jù)真正價值的關(guān)鍵所在。大模型的未來發(fā)展在很大程度上取決于系統(tǒng)的靈活性和數(shù)據(jù)的質(zhì)量,這兩者之間相輔相成。
此前有觀點認為,所有的應(yīng)用程序都值得用大模型重寫一次。例如,在自動駕駛、終端設(shè)備以及設(shè)計師輔助軟件等領(lǐng)域,采用端側(cè)模型或車載模型后,智能化水平得到了顯著提升。此外,阿里云通過大模型重構(gòu)了自身的組織文化,利用大模型助手實現(xiàn)了銷售、技術(shù)、人力資源及財務(wù)等業(yè)務(wù)線的一體化管理。借助大模型的智能問答功能,我們發(fā)掘了以往未能充分利用的數(shù)據(jù)價值,進而洞察組織和個人在經(jīng)營活動中的效率與質(zhì)量。這讓那些不擅長信息技術(shù)的HR主管和業(yè)務(wù)主管也能通過自然語言表達他們所需的數(shù)據(jù)信息,而不再局限于傳統(tǒng)的報表形式。???
阿里云早在多年前就開始布局大模型的研究與開發(fā)。正是由于在前期投入了大量的時間和精力,我們才能夠在最近一年多的時間里,在眾多追趕GPT技術(shù)潮流的競爭者中脫穎而出。我們不僅將通義模型開源,還積極與眾多金融機構(gòu)合作,取得了顯著成果。未來,我們將持續(xù)不斷地推出新的模型能力和應(yīng)用,以期進一步推動行業(yè)發(fā)展。
我們并不盲目追求大模型的規(guī)模,而是更注重模型的實際應(yīng)用價值。因此,我們不僅推出了大型模型,還推出了小型模型版本,以適應(yīng)不同場景下的具體需求。我們認為,未來的模型架構(gòu)應(yīng)該是大模型與小模型相結(jié)合,整個模型系列將會朝著更加多元化和靈活的方向發(fā)展。阿里云將持續(xù)投入資源,不斷進化,致力于讓更多的企業(yè)能夠平等地使用大模型,并將其與自身業(yè)務(wù)場景緊密結(jié)合。
在模型定位方面,我們將其分為兩大類:一類是技術(shù)模型。技術(shù)模型又細分為兩種:一是傳統(tǒng)意義上的基礎(chǔ)大語言模型;二是多模態(tài)模型。在金融行業(yè)中,多模態(tài)模型尤為重要,例如在處理客服語音、理賠、保險、理財及信貸等業(yè)務(wù)時,需要強大的多模態(tài)語言理解能力來生成和交互內(nèi)容。多模態(tài)語言模型無疑將是未來發(fā)展的重點之一,也是中美兩國在該領(lǐng)域競爭的關(guān)鍵點。
曾經(jīng),我們設(shè)想為每一個行業(yè)定制一個大模型,但實際上這是不切實際的。行業(yè)大模型在準確性和嚴謹性上有極高的要求,而其自身的迭代過程也充滿了矛盾。因此,我們現(xiàn)在更傾向于開發(fā)基于行業(yè)數(shù)據(jù)語料和特定主題訓練的小模型,并通過Agent框架進行集成。這樣,可以將金融領(lǐng)域的專業(yè)知識整合到Agent中,同時將專業(yè)文檔數(shù)據(jù)和素材納入小模型,通過Agent的方式實現(xiàn)結(jié)合,從而推動整個通義大模型家族的全面升級與開放。
模型的能力在不斷發(fā)展和變化,通義千問2.5在中文環(huán)境下,不僅在文本理解、文本生成、知識問答與生活建議、閑聊與對話等方面超越了GPT-4,而且在安全風險防控上也表現(xiàn)出色。對于大模型而言,我們尤為重視四個核心能力:理解能力、邏輯推理、指令遵循以及代碼能力。
正如前面提到的,目前中國許多企業(yè)面臨著算力不足的問題,難以進行大規(guī)模的預訓練。為了降低企業(yè)和開發(fā)者選擇及應(yīng)用大模型的門檻,阿里云將持續(xù)推進開源策略。我們希望通過在大模型方向上的長期戰(zhàn)略投入,推動中國大模型領(lǐng)域的全面發(fā)展和技術(shù)進步。
模型推理是AI規(guī)?;瘧?yīng)用的關(guān)鍵支撐。算力的成本效益直接影響應(yīng)用的規(guī)模,而對于延時敏感的應(yīng)用,則需要依賴于就近的推理服務(wù)。此外,面對用量波動的情況,還需要具備彈性伸縮和高可用的服務(wù)。因此,云計算憑借其卓越的算力調(diào)度能力和大規(guī)模分布式特性,成為了打造高效模型訓練與推理的理想平臺。???
阿里云“百煉”是一個超低延時的模型推理與服務(wù)平臺。在服務(wù)了多種類型的客戶后,該產(chǎn)品獲得了長足的發(fā)展。過去是統(tǒng)一的API,現(xiàn)在底層是異構(gòu)算力底座,通過自動擴縮容等諸多方法,幫助客戶在業(yè)務(wù)的波峰波谷中更高效的管理集群資源,達到降本增效,自動模型壓縮,實現(xiàn)更少資源,更低時延,推理加速,實現(xiàn)動態(tài)打包,流水執(zhí)行。如今,“百煉”推理框架已經(jīng)在多個行業(yè)得到了廣泛的應(yīng)用。當然,我們也意識到金融行業(yè)有著獨特的私有化架構(gòu)需求,因此我們致力于確保技術(shù)應(yīng)用符合金融行業(yè)的合規(guī)標準。??? ??
如今,阿里云已成為眾多大模型企業(yè)的AI基礎(chǔ)設(shè)施。我們希望與更多大模型應(yīng)用平臺及公司合作,不僅限于原有的業(yè)務(wù)系統(tǒng)和數(shù)據(jù)處理能力,更希望在未來與傳統(tǒng)APP、汽車行業(yè)、制造業(yè)、物流業(yè)等各行各業(yè)建立聯(lián)系,共同探索AI技術(shù)的新方向。
在金融行業(yè),我們已經(jīng)進行了大量的實踐。金融行業(yè)的數(shù)字化挑戰(zhàn)是全方位的。正如尚福林主席所提到的,如何提升服務(wù)的廣度和深度,提高服務(wù)質(zhì)量,金融大模型同樣扮演著重要角色。無論是服務(wù)于普通消費者還是小微企業(yè),通過大模型可以提供更為精準和個性化的服務(wù)體驗。例如,小微企業(yè)提交財務(wù)或信貸報告時,大模型能夠更準確地理解其需求。對于中國企業(yè)出海,跨境貿(mào)易涉及的海關(guān)、報關(guān)和財務(wù)管理等內(nèi)容,都可以通過大模型來改善服務(wù)體驗。此外,金融大模型正在重塑交易鏈路,從客戶服務(wù)到核保、核賠等環(huán)節(jié),都將通過自動化處理來提升效率。我們提出的“數(shù)智化勞動力”概念,是指通過技術(shù)替代低效、重復性的工作,而非簡單地裁減人力,從而大幅提升工作效率。
同時,我們也看到了基于大模型的新產(chǎn)品的不斷涌現(xiàn)。許多銀行已經(jīng)開始嘗試用大模型重構(gòu)其移動應(yīng)用。例如,螞蟻集團在外灘峰會上發(fā)布的“支小寶”,就是一個典型例子。這款應(yīng)用將生活助理和財富助理等功能從支付寶的傳統(tǒng)界面中剝離出來,轉(zhuǎn)變?yōu)槿碌拇竽P徒换ナ绞謾C銀行APP。在這個應(yīng)用中,無論是查詢個人資產(chǎn)還是進行交易操作,用戶都可以通過自然語言交互獲得個性化服務(wù),不再受限于傳統(tǒng)的點擊導航模式。
金融大模型還將重構(gòu)金融團隊的運作方式。利用大模型的學習和泛化能力,可以模擬頂級金融專家的思維方式,從而減少對資深專家的依賴。通過這種方式,企業(yè)的經(jīng)營文化和管理模式也可以得以沉淀和傳承。
最終,這些變革將減少公司的事務(wù)性工作負擔,提升創(chuàng)造力和效率,這正是AI技術(shù)在重塑數(shù)字化價值方面所展現(xiàn)出的強大潛力。
大模型在金融行業(yè)的應(yīng)用場景主要包括營銷、風控、客服、運營、辦公以及代碼開發(fā)等,這些領(lǐng)域往往對人工操作的效率和質(zhì)量有著較高的要求。我們真正的目標是:重新思考企業(yè)級、金融級的AI原生能力體系。過去更多的是實驗性質(zhì),有許多AI大模型專家在進行創(chuàng)新試點,探討大模型的訓練和應(yīng)用方法。而現(xiàn)在,我們認識到應(yīng)該按照真正原生的企業(yè)級能力體系來進行構(gòu)建,無論是從模型的研發(fā)、推理與運行,還是模型應(yīng)用的開發(fā)、測試及最終部署,都需要從這個角度出發(fā),明確所需的AI能力,并重新設(shè)計體系架構(gòu)。其中,模型安全是一個至關(guān)重要的因素。這不僅涉及到大模型本身的防護,還包括使用大模型后整體管理體系的安全。由于大模型可能會面臨被滲透、數(shù)據(jù)泄露等問題,因此需要進行全面的安全考量。鑒于此,阿里云在推廣金融行業(yè)的大模型應(yīng)用時,并非僅僅著眼于基礎(chǔ)設(shè)施的建設(shè)、算力的提供或模型的基本發(fā)展,而是更多地關(guān)注如何構(gòu)建一個完整的金融級AI原生體系。雖然我們目前仍處于起步階段,但從一開始我們就應(yīng)該審慎規(guī)劃,明確可能面臨的挑戰(zhàn)與問題,然后逐步擴展應(yīng)用規(guī)模。
阿里云通義點金作為一站式金融AI應(yīng)用平臺,跟那些APP上簡單的問答不同,它把金融的專業(yè)性和應(yīng)用性嵌套進去,具有金融專屬、金融強化、開放生態(tài)的特點。
阿里云的通義點金作為一個一站式的金融AI應(yīng)用平臺,與那些簡單的APP問答功能不同,它融入了金融的專業(yè)性和實用性,具有金融專屬、金融強化以及開放生態(tài)的特點。
成本、效果與安全構(gòu)成了大模型應(yīng)用的“不可能三角”。一方面,我們需要節(jié)約成本,避免一次性巨額投資于算力、人才和模型;另一方面,我們也需要確保投資能夠帶來實際效果,證明其業(yè)務(wù)價值。安全則是另一個重要方面,模型的應(yīng)用和運行的安全性問題,都是必須綜合考慮的因素。在我看來,云智融合是破解大模型應(yīng)用的不可能三角的重要路徑。
今天,金融行業(yè)擁抱大模型是一個不可避免的趨勢。得益于先前的數(shù)字化積累,金融機構(gòu)在接納大模型時比以往更有優(yōu)勢?;仡欉^去,阿里云已經(jīng)與多家金融機構(gòu)在云原生架構(gòu)方面展開了合作?,F(xiàn)在看來,AI時代的命題就像我們當年面對云計算轉(zhuǎn)型一樣。我們愿意在這個過程中長期與金融機構(gòu)合作,明確問題所在,并直接面對,將技術(shù)能力和先進性與實際需求相匹配。??
我的分享就到這里,謝謝大家。
新浪聲明:所有會議實錄均為現(xiàn)場速記整理,未經(jīng)演講者審閱,新浪網(wǎng)登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。
相關(guān)文章
最新評論