度小滿許冬亮：安全合規(guī)是大模型落地的前提條件和重要保障

11月11日下午,2023金融街論壇年會(huì)“金融科技創(chuàng)新與合規(guī)安全”平行論壇在北京舉辦。度小滿CTO許冬亮與眾多嘉賓對(duì)以大模型技術(shù)為代表的金融科技創(chuàng)新及合規(guī)等問題展開深入交流。

“大模型高度依賴數(shù)據(jù)、算力和人才，只有極少的企業(yè)能夠從頭到尾地完成產(chǎn)業(yè)級(jí)研發(fā)，尤其是在金融領(lǐng)域，更需要多方共建生態(tài)“，許冬亮表示。

“一方面，金融領(lǐng)域的數(shù)據(jù)分散在各個(gè)金融機(jī)構(gòu)，通用大模型缺少金融數(shù)據(jù)進(jìn)行訓(xùn)練，金融專業(yè)知識(shí)不足;另外一方面，如果從底層開始訓(xùn)練大模型，所需要投入的算力成本非常高，比如千億級(jí)別的通用大模型，訓(xùn)練一次需要付出幾千萬的成本”，許冬亮解釋道，“因此，金融大模型的產(chǎn)業(yè)應(yīng)用需要場(chǎng)景應(yīng)用方(金融機(jī)構(gòu))、模型提供方、訓(xùn)練工具提供方等多方共建，共同參與”。

行業(yè)內(nèi)不同角色的分工協(xié)作，才能推動(dòng)大模型的產(chǎn)業(yè)應(yīng)用。2023年10月，中國工程院院士鄔賀銓在百度世界大會(huì)上表示：“度小滿軒轅大模型通過大規(guī)模融合高質(zhì)量的金融專業(yè)預(yù)訓(xùn)練和指令數(shù)據(jù)，并且針對(duì)金融行業(yè)進(jìn)行能力優(yōu)化，保持通用能力的同時(shí)，提高了金融的專業(yè)能力“。他認(rèn)為在“軒轅”大模型的底層模型上，金融企業(yè)可以在上面繼續(xù)做自己的開發(fā)和私有化部署。

今年5月，度小滿發(fā)布了國內(nèi)首個(gè)開源金融大模型“軒轅”。9月，度小滿“軒轅-70B”金融大模型在C-Eval和CMMLU兩大權(quán)威榜單上位列所有開源模型第一，并通過了注冊(cè)會(huì)計(jì)師考試、銀行/證券/保險(xiǎn)/基金/期貨從業(yè)資格、理財(cái)規(guī)劃師、經(jīng)濟(jì)師等金融領(lǐng)域權(quán)威考試。

從基礎(chǔ)模型到落地應(yīng)用，為行業(yè)創(chuàng)造價(jià)值，許冬亮認(rèn)為，金融機(jī)構(gòu)還需要處理好五大關(guān)鍵問題：一是基礎(chǔ)模型應(yīng)該怎么選;二是金融機(jī)構(gòu)自身的業(yè)務(wù)數(shù)據(jù)怎么融到大模型中;第三是如何控制幻覺問題等模型缺陷問題;四是未來每個(gè)機(jī)構(gòu)都會(huì)部署大模型的情況下，機(jī)構(gòu)如何構(gòu)建競爭壁壘。最后是模型的安全合規(guī)的如何保障。

目前，大模型技術(shù)已經(jīng)應(yīng)用在度小滿各個(gè)業(yè)務(wù)場(chǎng)景，從營銷、客服、風(fēng)控、辦公再到研發(fā)，已經(jīng)初見成效。在代碼助手方面，用大模型輔助生成的代碼，采納率能夠達(dá)到42%，幫助公司整體研發(fā)效率提升了20%;在客服領(lǐng)域，大模型推動(dòng)服務(wù)效率提升了25%。在智能辦公領(lǐng)域，大模型目前的意圖識(shí)別準(zhǔn)確率已達(dá)到97%。

隨著大模型技術(shù)在越來越多金融機(jī)構(gòu)落地應(yīng)用，如何防范大模型的潛在合規(guī)風(fēng)險(xiǎn)也備受關(guān)注。“金融是強(qiáng)監(jiān)管行業(yè)，安全合規(guī)是大模型落地的前提條件和重要保障。金融大模型安全合規(guī)既需要監(jiān)管政策的約束，更需要大模型企業(yè)自身的主動(dòng)作為”，許冬亮認(rèn)為，“大模型需要學(xué)習(xí)人類的價(jià)值觀，保護(hù)好用戶的個(gè)人權(quán)益，確保輸出結(jié)果可信可控”。

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：