中關(guān)村科金大模型應(yīng)用落地金融業(yè)務(wù)，推出面向理財(cái)師智能營銷助手

國內(nèi)大模型相關(guān)的進(jìn)展消息每日紛至沓來，行業(yè)進(jìn)入快速發(fā)展期，而業(yè)內(nèi)討論的焦點(diǎn)也逐漸從概念藍(lán)圖過渡到產(chǎn)品落地層面。隨著大模型的發(fā)展熱潮涌動(dòng)，對話式AI正在打開新一輪的商業(yè)增量。

中關(guān)村科金作為領(lǐng)先的對話式AI技術(shù)解決方案提供商，在與先進(jìn)技術(shù)保持同頻進(jìn)步的同時(shí)，積極展開相關(guān)產(chǎn)品研發(fā)及大模型實(shí)踐的探索。

近期，中關(guān)村科金與行業(yè)客戶攜手共創(chuàng)了一些有場景代表性的試點(diǎn)項(xiàng)目，如針對財(cái)富業(yè)務(wù)場景，基于開源基礎(chǔ)大模型打造了面向理財(cái)師的營銷助手，該產(chǎn)品可以實(shí)時(shí)追蹤行業(yè)動(dòng)態(tài)，深入理解客戶的投資需求，通過用戶畫像解析構(gòu)建投資要素，為客戶生成專業(yè)、客觀的投資建議，減少理財(cái)師手工撰寫文案的工作量、提升理財(cái)師單兵效能，同時(shí)幫助客戶更好地做出投資決策。

中關(guān)村科金資深A(yù)I產(chǎn)品總監(jiān)曹陽，于近日分享了在對話大模型上的思考和對話式智能展業(yè)助手產(chǎn)品的應(yīng)用實(shí)踐。

大模型對AI技術(shù)產(chǎn)品化影響的思考

ChatGPT對通用大模型訓(xùn)練結(jié)果的優(yōu)越呈現(xiàn)，不僅大幅提升了行業(yè)關(guān)注度，也標(biāo)志著人工智能發(fā)展進(jìn)入新的里程碑階段。GPT全稱為Generative Pre-trained Transformer，可譯為生成式預(yù)訓(xùn)練Transformer模型，是“預(yù)訓(xùn)練”和“大模型”結(jié)合后一種新的人工智能模式，當(dāng)大規(guī)模數(shù)據(jù)集在模型上完成預(yù)訓(xùn)練后，僅需微調(diào)少量數(shù)據(jù)甚至無需微調(diào)，就可直接支撐各類應(yīng)用。

基于大模型此特性，我們AI技術(shù)產(chǎn)品化的路徑和思路也要隨之發(fā)生改變。首先在數(shù)據(jù)應(yīng)用層，過去一般是采用結(jié)構(gòu)化數(shù)據(jù)，而圖片、文字、視頻等非結(jié)構(gòu)化數(shù)據(jù)機(jī)器無法理解，需要采用高效的并行分布式處理技術(shù)，并借助應(yīng)用自然語言處理、影像處理、社會網(wǎng)分析和機(jī)器學(xué)習(xí)等專業(yè)的工具或模型，通過打標(biāo)和預(yù)定義范式對數(shù)據(jù)搜索、過濾、計(jì)算，將數(shù)據(jù)結(jié)構(gòu)化后再進(jìn)行處理。

但標(biāo)簽化的過程會產(chǎn)生信息損失，與信息論的原理一致，一旦抽象或者總結(jié)必然有信息損失，可利用的信息就會減少。此外，結(jié)構(gòu)化后有損的數(shù)據(jù)可應(yīng)用的范圍也較窄，多用于特定業(yè)務(wù)領(lǐng)域，如FAQ知識庫、會話流程等。

相比之下，大模型可以直接利用非結(jié)構(gòu)化數(shù)據(jù)，不用進(jìn)行“加工”處理，且支持全量無損的內(nèi)容輸入，可運(yùn)用的數(shù)據(jù)范圍非常廣，價(jià)值也相對更高。若將大模型產(chǎn)品嵌入企業(yè)服務(wù)系統(tǒng)中進(jìn)行升級再造，包括知識檢索、數(shù)據(jù)分析、輔助編程、數(shù)字員工、數(shù)字人等企業(yè)級應(yīng)用都有可能被重構(gòu)。可以說，大模型打開了企業(yè)數(shù)智化轉(zhuǎn)型新的天花板。

其次在產(chǎn)品化思路上也需要進(jìn)行轉(zhuǎn)變。原先AI技術(shù)產(chǎn)品化過程需要對所有內(nèi)容進(jìn)行預(yù)先定義和梳理，無論是分類模型，還是SOP挖掘，都是既定范式。即在特定場景中，預(yù)定義范式后進(jìn)行數(shù)據(jù)處理，并訓(xùn)練出對應(yīng)模型，可以稱之為“打標(biāo)領(lǐng)域知識注入”，是一種預(yù)設(shè)的機(jī)械化方式。

而大模型則是一種受控的自組織化方式。只需把對話、文本、音視頻和文檔等數(shù)據(jù)注入大模型中，機(jī)器能夠按要求進(jìn)行自主學(xué)習(xí)和訓(xùn)練，進(jìn)而完成特定任務(wù)。無需人工進(jìn)行預(yù)先處理，便可直接使用結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)；也無需基于特定業(yè)務(wù)進(jìn)行訓(xùn)練，便能解決特定和非特定場景的任務(wù)。

兩種方式之間有著極大的流程、效率差異。過去預(yù)設(shè)的機(jī)械化方式，無論是預(yù)先設(shè)定流程還是結(jié)構(gòu)化數(shù)據(jù)要求，都需要專業(yè)人員參與，工作量大、專業(yè)性要求高。并且在業(yè)務(wù)過程中，若要判定預(yù)先設(shè)定的結(jié)構(gòu)是否適合業(yè)務(wù)模式，一般只能基于事后分析，無法在事中和事前進(jìn)行定義。

比如我們今天將會遇見哪個(gè)人，會發(fā)生哪些內(nèi)容對話，是無法事先定義的，客服場景也是如此，這也是為什么現(xiàn)在的智能客服大多只能集中在售后。但對于營銷而言，事前和事中才是核心，甲乙雙方或者買賣雙方交易的核心節(jié)點(diǎn)是業(yè)務(wù)關(guān)系發(fā)生變化，從沒有交易到產(chǎn)生交易。因此探索大模型在目前人力成本不斷上升但成功率較低的智能客服與營銷系統(tǒng)的落地改造十分必要。

大模型在金融業(yè)務(wù)應(yīng)用初探

中關(guān)村科金一直致力于通過AI技術(shù)，構(gòu)建客戶全周期對話式AI服務(wù)，助力企業(yè)服務(wù)生產(chǎn)力第四次躍升。圍繞這一理念，中關(guān)村科金基于多款開源基礎(chǔ)大模型，結(jié)合領(lǐng)域知識圖譜、領(lǐng)域知識注入、Prompt工程等前沿技術(shù)，構(gòu)建了對話式智能服務(wù)平臺。依托該平臺，針對財(cái)富機(jī)構(gòu)業(yè)務(wù)場景，打造了一款“對話式智能展業(yè)助手”的大模型應(yīng)用產(chǎn)品。

以前理財(cái)師跟客戶是獨(dú)立溝通，沒有太多輔助工具，而我們希望對話式智能展業(yè)助手的推出，能夠助力理財(cái)師在專業(yè)能力上得到提升，在產(chǎn)品的信息獲取上更高效便利。

在產(chǎn)品邏輯上，對話式智能展業(yè)助手系統(tǒng)的第一步是構(gòu)建用戶畫像，提供包括用戶基本畫像和深層畫像、投資經(jīng)歷、關(guān)注競品、投資預(yù)測等數(shù)據(jù)信息。第二步是基于用戶畫像構(gòu)建投資策略，類似于炒股軟件的策略選股，通過構(gòu)建投資策略scheme（計(jì)劃），以prompt（編程語言，用于顯示可提示用戶進(jìn)行輸入的對話框）的形式與專業(yè)資訊進(jìn)行關(guān)聯(lián)。之后結(jié)合大模型的生成提示能力，按照業(yè)務(wù)預(yù)先設(shè)定好的SOP（標(biāo)準(zhǔn)操作程序）執(zhí)行任務(wù)，根據(jù)每個(gè)SOP對應(yīng)節(jié)點(diǎn)選取的業(yè)務(wù)專家梳理的限定詞，生成投資組合推薦，最終生成話術(shù)和產(chǎn)品營銷方案等。

此外，在過程中我們還可以全流程執(zhí)行SOP指導(dǎo)，不局限于與客戶的溝通過程，而是覆蓋整個(gè)生命周期。比如設(shè)定在用戶生日時(shí)發(fā)送生日祝福；推送教育相關(guān)的培訓(xùn)分享等。

上述鏈路是針對于單個(gè)理財(cái)師。如果是多個(gè)理財(cái)師或者整個(gè)團(tuán)隊(duì)使用，對話式智能展業(yè)助手還能發(fā)揮更大價(jià)值。對所獲取的所有理財(cái)師與客戶溝通的內(nèi)容進(jìn)行分析優(yōu)化后，提煉金牌銷售的話術(shù)技能同步給普通銷售，實(shí)現(xiàn)對普通銷售的技能賦能，拉齊、提升團(tuán)隊(duì)的專業(yè)水平。

此外，對話式智能展業(yè)助手還可以應(yīng)用于資產(chǎn)管理中心、運(yùn)營中心和產(chǎn)品研發(fā)中心等，中后臺部門通過掌握了解一線人員與客戶群體之間的互動(dòng)、反饋情況，可以及時(shí)進(jìn)行策略調(diào)整，從而各業(yè)務(wù)之間形成良好互動(dòng)，助力組織智能。

目前，中關(guān)村科金的對話式智能展業(yè)助手已在與國內(nèi)某頭部信托公司的共創(chuàng)項(xiàng)目中應(yīng)用落地。該信托公司從業(yè)務(wù)層出發(fā)，將業(yè)務(wù)服務(wù)流程拆解為用戶、投資組合、市場和產(chǎn)品四個(gè)維度，再結(jié)合SOP節(jié)點(diǎn)設(shè)置，每個(gè)節(jié)點(diǎn)執(zhí)行對應(yīng)策略，大模型根據(jù)提示詞生成節(jié)點(diǎn)話術(shù)，并通過限定字?jǐn)?shù)、溝通風(fēng)格等，使生成結(jié)果更加接近理想效果。

銷售的核心是信任，信任產(chǎn)生后客戶才更容易采納建議。所以我們希望基于前期的用戶和投資策略信息，直觀反饋用戶應(yīng)該關(guān)注的行業(yè)理財(cái)資訊。更高的專業(yè)度更容易贏得客戶信任，我們希望能為理財(cái)師提供有效輔助。

在和客戶溝通時(shí)，理財(cái)師可以運(yùn)用對話式智能展業(yè)助手，根據(jù)用戶畫像知道客戶關(guān)注哪些產(chǎn)品，結(jié)合公司當(dāng)下主推的產(chǎn)品和系統(tǒng)提供的引導(dǎo)策略進(jìn)行銷售，但如果理財(cái)師覺得不合適也可修改。而新調(diào)整的策略和修改的內(nèi)容，會反饋給大模型執(zhí)行再次生成任務(wù)，直到得到符合理財(cái)師預(yù)期的話術(shù)和內(nèi)容。

為了進(jìn)一步保障生成效果，我們采用了大模型外掛領(lǐng)域知識庫和無監(jiān)督學(xué)習(xí)+調(diào)參的方式，將專業(yè)知識、操作手冊、業(yè)務(wù)規(guī)范、產(chǎn)品信息、競品信息等領(lǐng)域知識注入到大模型內(nèi)，再將客戶和行業(yè)數(shù)據(jù)、宏觀經(jīng)濟(jì)的分析等內(nèi)容進(jìn)行關(guān)聯(lián)，理財(cái)師按需求選擇是否引用提示內(nèi)容。在大模型思維鏈推導(dǎo)和無監(jiān)督學(xué)習(xí)的能力之上，輔以領(lǐng)域知識庫和調(diào)參，可進(jìn)一步加強(qiáng)自然語言處理任務(wù)的完成效果。

但目前在領(lǐng)域知識的注入方式上，還需要依賴行業(yè)專家進(jìn)行知識梳理，未來可以考慮通過新的架構(gòu)或者方案，將該步驟拆分成一個(gè)個(gè)子環(huán)節(jié)，轉(zhuǎn)化成專業(yè)度要求較低的操作，降低對行業(yè)專家的依賴度，實(shí)現(xiàn)非高價(jià)值的任務(wù)批量自動(dòng)化處理。

這也是大模型的優(yōu)勢之一。從過去依賴AI專家手工調(diào)參，進(jìn)入大規(guī)?？蓮?fù)制的大工業(yè)落地階段。通過配置任務(wù)要素系統(tǒng)，注入領(lǐng)域知識，進(jìn)行對話調(diào)參，影響大模型節(jié)點(diǎn)策略，生成話術(shù)內(nèi)容，形成一個(gè)大模型自閉環(huán)的業(yè)務(wù)信息自組織架構(gòu)，是未來理想的狀態(tài)。

在這個(gè)模式下，市場上現(xiàn)有的系統(tǒng)都可以用大模型的思路再造一遍，大模型為ToB領(lǐng)域帶來了一個(gè)新維度的市場。原來是基于特定的結(jié)構(gòu)化數(shù)據(jù)建立特定的模型，未來可能是一個(gè)大模型獲取相應(yīng)的結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù)，通過特征工程（利用領(lǐng)域知識從原始數(shù)據(jù)中提取特征、屬性的過程）控制完成所有任務(wù)。

而如何將特征工程更好地控制應(yīng)用和落地到實(shí)際業(yè)務(wù)當(dāng)中，還需整個(gè)行業(yè)共同探索。目前，中關(guān)村科金已自主研發(fā)了包括大規(guī)模對話語言模型、知識圖譜、語音識別、語音生成等AI技術(shù)的對話引擎，未來將持續(xù)加大在對話式AI技術(shù)上的投入，基于該大模型對話引擎，圍繞企業(yè)的各種對話場景，打造應(yīng)用場景更豐富的對話式AI產(chǎn)品，為企業(yè)提供更高效完備的營銷服一體化綜合解決方案，構(gòu)建人機(jī)協(xié)同的新型生產(chǎn)關(guān)系。