在2000人的公司落地AI大模型，明略科技做對(duì)了什么？

2022年底ChatGPT的橫空出世，帶來(lái)了AI大模型的熱潮。為了讓更多企業(yè)拿到大模型的船票，明略科技推出小明助理Copilot一站式大模型AI智能助理，以瀏覽器插件形式兼顧PC/移動(dòng)端網(wǎng)頁(yè)等產(chǎn)品形態(tài)，開(kāi)箱即用，且具備聯(lián)網(wǎng)搜索功能，通過(guò)ChatPDF、對(duì)照式翻譯、營(yíng)銷(xiāo)文案生成和豐富好用的Agent。過(guò)去一年，在持續(xù)的產(chǎn)品迭代與內(nèi)部試水過(guò)程中，目前95%的員工已在日常工作中高頻應(yīng)用小明助理Copilot，產(chǎn)品周活達(dá)到70%以上，初步實(shí)現(xiàn)了“與大模型同頻”。

明略科技觀察到，盡管一年多來(lái)技術(shù)層面AI大模型還在高歌猛進(jìn)，捷報(bào)頻傳，但AI大模型在企業(yè)落地并真正發(fā)揮生產(chǎn)力，卻面臨無(wú)數(shù)問(wèn)題。令企業(yè)老板感到振奮的大模型，卻難以在基層員工間推廣開(kāi)來(lái)；一些成熟公司已擁有多種辦公軟件系統(tǒng)，卻不知AI大模型如何與現(xiàn)有軟件協(xié)同發(fā)力。

有了AI工具，如何提升生產(chǎn)力？為什么說(shuō)大模型的出現(xiàn)給尚處于數(shù)字化初期的公司提供了追趕的機(jī)會(huì)？近日，明略科技創(chuàng)始人吳明輝做客混沌學(xué)園，為大家?guī)?lái)精彩一課，《AI如何賦能職場(chǎng)人——大模型落地企業(yè)方法論》。

授課老師｜吳明輝 明略科技創(chuàng)始人&CEO

編輯｜混沌商業(yè)研究團(tuán)隊(duì)

支持｜混沌前沿課

一、我的個(gè)人經(jīng)歷：充分擁抱新技術(shù)紅利

2022年，當(dāng)我在北大寫(xiě)博士論文的時(shí)候，才發(fā)現(xiàn)自己的綜合資格考試報(bào)告白寫(xiě)了，很多知識(shí)都發(fā)生了更新。今天在讀的AI領(lǐng)域博士非常慘，因?yàn)橐酝澜缢袕氖氯斯ぶ悄芤荒甑墓ぷ髁浚疾患敖裉煲恢艿墓ぷ髁看?，大家如果不抓緊做出課題發(fā)表出去，基本上沒(méi)有畢業(yè)的機(jī)會(huì)。

今天，我要同大家分享很重要的一個(gè)觀點(diǎn)，就是不要著急。計(jì)算機(jī)剛剛出現(xiàn)的時(shí)候，每個(gè)人都說(shuō)要從娃娃抓起，那時(shí)大家就很焦慮。事實(shí)上，我身邊許多在世界500強(qiáng)企業(yè)工作的CEO，幾乎都是跟我同齡時(shí)期才開(kāi)始寫(xiě)代碼的。所以，每一項(xiàng)新技術(shù)的出現(xiàn)都是有紅利的，最終大家也一定都會(huì)使用到，只是接觸早的人會(huì)比別人多一些機(jī)會(huì)和時(shí)間。如同《異類(lèi)》一書(shū)中提出的1萬(wàn)小時(shí)定律，只要比別人多花一些時(shí)間做某件事情，未來(lái)就有機(jī)會(huì)享受到某領(lǐng)域的競(jìng)爭(zhēng)紅利。我創(chuàng)辦的公司名為明略科技，早期叫做秒針系統(tǒng)，是我在北大讀研究生時(shí)候創(chuàng)辦的，開(kāi)始是做互聯(lián)網(wǎng)大數(shù)據(jù)的用戶分析，后來(lái)轉(zhuǎn)型做廣告分析。我們是國(guó)內(nèi)最早用分布式計(jì)算系統(tǒng)處理海量用戶行為的數(shù)據(jù)公司，這也成就了今天我們?cè)趪?guó)內(nèi)互聯(lián)網(wǎng)廣告數(shù)據(jù)分析的江湖地位。

大家都很熟悉彭博社，彭博社是全世界最大的金融信息服務(wù)商，而秒針是中國(guó)最大的廣告領(lǐng)域信息服務(wù)商，兩者頗有淵源。彭博社的創(chuàng)始人邁克爾·布隆伯格創(chuàng)業(yè)初期，立志將電腦賣(mài)給每一位投資基金，希望幫助大家快速地獲取互聯(lián)網(wǎng)上的金融信息，這也成就了彭博社今天在全球金融信息服務(wù)領(lǐng)域的霸主地位。所以，很多公司都在擁抱新技術(shù)，它們可能是將某一項(xiàng)新技術(shù)用到了極致，或者是第一個(gè)使用新技術(shù)從而顛覆了上一代產(chǎn)品，最終走出了新的曲線。

二、大模型是當(dāng)下的最大機(jī)會(huì)

為什么要研究大模型？因?yàn)檫@是當(dāng)下最大的機(jī)會(huì)，這是我的切身感受。明略科技在過(guò)去十幾年時(shí)間里發(fā)展得很順利，但是過(guò)去三年中，資本市場(chǎng)發(fā)生了非常大的變化，整個(gè)商業(yè)邏輯也發(fā)生了改變，我們不得以也得裁員。2023年一年時(shí)間里，我每天都在思考如何帶領(lǐng)團(tuán)隊(duì)突破困局，如何提升士氣，在我面前非常大的一個(gè)機(jī)會(huì)就是大模型。我們團(tuán)隊(duì)研究大模型也經(jīng)歷了非常曲折的過(guò)程。開(kāi)始的時(shí)候我每天看Paper，然后轉(zhuǎn)發(fā)到員工群中，大家的反映很平常，時(shí)間一長(zhǎng)甚至沒(méi)有人回應(yīng)了。有一天我突然意識(shí)到，天天喊大模型是沒(méi)有用的，我自己都沒(méi)有真正地用好大模型，所以我注冊(cè)了GPT，開(kāi)始真正使用大模型，并帶領(lǐng)團(tuán)隊(duì)做了一個(gè)能夠幫助大家更好使用GPT的小工具，叫做“小明助理”，員工使用后的反響非常好。

2023的10月，公司還舉辦了黑客馬拉松大賽，我在場(chǎng)上向大家分享了十一期間使用大模型的經(jīng)歷，包括帶著女兒用GPT寫(xiě)作業(yè)，用大模型思考公司戰(zhàn)略，以及向大模型詢問(wèn)為退休同事準(zhǔn)備禮物的建議，大模型的確給了我很多啟發(fā)。我把使用案例分享給團(tuán)隊(duì)后，大家都驚訝地發(fā)現(xiàn)“小明助理”的用途如此廣泛。今年，公司員工已經(jīng)做到了廣泛使用大模型，平均每個(gè)員工一天使用10次以上，大家不僅可以用GPT解決工作生活中遇到的一些問(wèn)題，甚至可以放到自己的生產(chǎn)環(huán)境中用于提升生產(chǎn)效率，可以說(shuō)，公司團(tuán)隊(duì)絕大多數(shù)的同學(xué)都已經(jīng)拿到大模型的船票。

三、AI大模型的本質(zhì)是一個(gè)函數(shù)，小朋友都懂

大家都很容易理解函數(shù)公式y(tǒng)=f(x)。大模型本質(zhì)上就是一個(gè)函數(shù)，就是要設(shè)計(jì)、訓(xùn)練、學(xué)習(xí)出來(lái)一個(gè)函數(shù)。人工智能大模型領(lǐng)域常見(jiàn)的幾種任務(wù)，比如語(yǔ)音識(shí)別，就是把一個(gè)聲音的波形文件轉(zhuǎn)化成一段文字，語(yǔ)音識(shí)別的函數(shù)x就是波形文件，y就是轉(zhuǎn)寫(xiě)的文字。比如圖像識(shí)別，圖像識(shí)別的函數(shù)x就是照片，更高級(jí)的函數(shù)x可能是視頻，它的y就是識(shí)別的任務(wù)目標(biāo)。GPT其實(shí)也是一個(gè)函數(shù)，GPT的x就是Prompt，y就是給予你的回復(fù)，GPT本質(zhì)上仍然是一個(gè)函數(shù)。從這個(gè)角度看，所有的人工智能都是一個(gè)函數(shù)。

大家在中學(xué)期間學(xué)習(xí)的第一個(gè)函數(shù)就是線性函數(shù)，y=ax+b，當(dāng)你知道函數(shù)的兩個(gè)點(diǎn)，就可以得出a和b。將這個(gè)函數(shù)解出來(lái)之后，再帶進(jìn)去一個(gè)新的x，就可以直接求出y了，這是我們學(xué)函數(shù)的核心目的，找出x和y之間的關(guān)系，這也是今天AI在做的事情。AI就是我們做任何一個(gè)人工智能領(lǐng)域的任務(wù)，這個(gè)任務(wù)本身就是一個(gè)函數(shù)。這里面的（1，2）和（-1，6）是什么？就是訓(xùn)練的數(shù)據(jù)。

當(dāng)然，GPT的函數(shù)要比以往的函數(shù)復(fù)雜很多，現(xiàn)在全世界最火的語(yǔ)言模型是GPT3.5和GPT4.0，GPT3.5有1750億個(gè)參數(shù)，GPT4.0估計(jì)有上萬(wàn)億個(gè)參數(shù)，這個(gè)參數(shù)就是線性函數(shù)里面的a和b。由此可見(jiàn)，GPT非常厲害的，它列了一個(gè)有千億甚至上萬(wàn)億個(gè)參數(shù)的函數(shù)，然后代入了大量的數(shù)據(jù)和點(diǎn)，最后把里面的參數(shù)解了出來(lái)。我認(rèn)為OpenAI是一家非常偉大的公司。OpenAI公司的創(chuàng)始人是Ilya，之后是前YC的總裁SamAltman，很多人在討論，到底是Ilya重要還是Altman重要，因?yàn)镺penAI的核心算法都是Ilya帶著研發(fā)團(tuán)隊(duì)做的，但是我認(rèn)為Altman更重要一些，因?yàn)樗鉀Q了一個(gè)核心問(wèn)題，即錢(qián)的問(wèn)題。解一個(gè)萬(wàn)億參數(shù)的方程，少則幾千萬(wàn)美金，多則幾億美金。Altman的偉大之處，在于他可以讓有錢(qián)的投資人敢于投資未知的事業(yè)，并且最終將方程式解了出來(lái)，這是一個(gè)改變世界、改變?nèi)祟?lèi)的偉大發(fā)明。

四、AI在企業(yè)落地：大模型產(chǎn)生生產(chǎn)力的根本邏輯

回到企業(yè)視角，明略科技是做ToB業(yè)務(wù)的，在同其它企業(yè)CEO、CIO、CMO聊天的時(shí)候，我發(fā)現(xiàn)大家對(duì)于大模型的出現(xiàn)都感到很興奮，很多公司都建立了人工智能小分隊(duì)，但嘗試幾次后發(fā)現(xiàn)效果并不理想。有一些人認(rèn)為是因?yàn)閲?guó)內(nèi)的模型不行，他們嘗試使用國(guó)外的，結(jié)果也并不好。我認(rèn)為，一個(gè)想真正落地大模型的企業(yè)，如果還保持著上述思路，你與大模型就今生無(wú)緣了，因?yàn)榇竽Ｐ筒⒉皇菂?shù)越多，推理能力越強(qiáng)，越能解決自身的業(yè)務(wù)問(wèn)題的。

現(xiàn)在，OpenAI已經(jīng)把參數(shù)做得非常高了，它擁有的是互聯(lián)網(wǎng)上的通識(shí)知識(shí)，如果訓(xùn)練得足夠好，它可以擁有清華、北大優(yōu)秀本科畢業(yè)生同等的認(rèn)知能力。但即使擁有了這種認(rèn)知能力，就能確保大數(shù)據(jù)在企業(yè)中可以做好很多工作？答案是否定的。實(shí)際上，現(xiàn)實(shí)生活中很多優(yōu)秀的本科畢業(yè)生在企業(yè)里發(fā)揮的作用并不理想，這是我們需要特別思考的。

值得注意的是，并不是模型的參數(shù)決定了它是否能在工作中有效轉(zhuǎn)化成生產(chǎn)力。有一些任務(wù)，即使用很小參數(shù)的模型也能解決，還有很多的問(wèn)題，即使發(fā)展到GPT7.0階段也未必能解決。GPT3.5、GPT4.0的參數(shù)一直在上升，其主要目的在于自身迭代，要持續(xù)更新自身的核心能力。

五、國(guó)內(nèi)的大模型不能用嗎？

在同清華大學(xué)計(jì)算機(jī)系教授、智譜AI首席科學(xué)家唐杰老師聊天的時(shí)候，我提出了一個(gè)問(wèn)題，智譜AI需要在哪方面著重加強(qiáng)，才能追趕上OpenAI？唐杰老師的回答是加強(qiáng)推理能力。推理能力是什么？其實(shí)，人類(lèi)所有的智慧工作都可以稱(chēng)之為推理能力。當(dāng)不知道一個(gè)模型好壞的時(shí)候，我建議大家可以向大模型提出一個(gè)問(wèn)題進(jìn)行檢測(cè)，“美國(guó)的哪一個(gè)州跟其他的州不接壤”，這個(gè)問(wèn)題的正確答案是阿拉斯加和夏威夷，它需要大數(shù)據(jù)知道美國(guó)的地理情況以及州和州之間的關(guān)系，但是很多模型的答案都是答非所問(wèn)。這方面，國(guó)外LLaMA2等幾個(gè)開(kāi)源模型做得還比較好。

難道國(guó)內(nèi)的大模型無(wú)法使用？我的答案是可以使用。比如人們向大模型提出問(wèn)題，“湖南和湖北這兩個(gè)省會(huì)，哪個(gè)人口更多一些”，國(guó)內(nèi)的大模型往往會(huì)卡住，因?yàn)樗緵](méi)有理解這句話的意思，但如果通過(guò)操作把它的CoT能力調(diào)出來(lái)，大模型就有能力將答案推理出來(lái)。這如同一名新員工剛剛?cè)肼氁粯?，只要公司給它的任務(wù)拆得足夠細(xì)，他就能干好，甚至完成的情況不比清華、北大的畢業(yè)生差。我深切地感到，大模型的學(xué)習(xí)、發(fā)展和應(yīng)用的過(guò)程，同人類(lèi)從小的學(xué)習(xí)發(fā)展過(guò)程非常相像，兩者是完全可以類(lèi)比的。我們講大模型的迭代能力，就是要提高它的推理能力，而推理的過(guò)程需要信息。今天人們想將大模型應(yīng)用到公司之中，但是大模型并不知道公司原有的生產(chǎn)資料和信息系統(tǒng)。人們花費(fèi)大量資金，要解決的問(wèn)題是什么？是它想不斷地學(xué)習(xí)知識(shí)，從而提高自己的推理能力，它的最終形態(tài)是模型，而不是信息。它在企業(yè)中的價(jià)值是提供一個(gè)好的模型，所需要的是人們將信息找過(guò)來(lái)。

六、大模型在企業(yè)落地的好工具：Agent&Copilot

理性和感性的區(qū)別是什么？從哲學(xué)講，最大的區(qū)別是理性是有目標(biāo)的，而企業(yè)最核心的就是要有目標(biāo)。正是因?yàn)槠髽I(yè)是有目標(biāo)的，企業(yè)中絕大多數(shù)的生產(chǎn)活動(dòng)也都是理性的活動(dòng)，而所有的理性決策、理性活動(dòng)都需要有對(duì)應(yīng)的理性決策模型和信息?，F(xiàn)在，參數(shù)在不斷提高的過(guò)程中并沒(méi)有增加信息，不斷提高的參數(shù)只是讓模型的推理能力變強(qiáng)大了。做個(gè)類(lèi)比，模型是f，信息是x，只有把正確的x給到強(qiáng)大的f模型，才有可能算出正確的y，才有可能輔助企業(yè)的理性決策和下一步行動(dòng)，這是企業(yè)大模型不好用的核心原因。

除了大模型，當(dāng)然還有更高級(jí)的用法，比如Agent。Agent的本質(zhì)就是模型和信息，好的Agent可以把語(yǔ)言模型跟Memory、Tools、Planning的能力有機(jī)地組織起來(lái)。所以，Agent是今天做大模型創(chuàng)業(yè)或者企業(yè)去落地大模型使用的非常有效的一種手段。OpenAI也好，國(guó)內(nèi)的大模型也好，它們都如同優(yōu)秀的大學(xué)畢業(yè)生，雖然它們都是文科生，但勝在足夠聰明，閱讀理解能力非常強(qiáng)。Agent本質(zhì)上就是通過(guò)大模型的Planning能力，把大模型本身的語(yǔ)言能力、推理能力跟外部的信息系統(tǒng)和知識(shí)全部連接到一起的綜合性系統(tǒng)。對(duì)于擁有大模型的企業(yè)而言，將公司信息跟語(yǔ)言模型有機(jī)結(jié)合起來(lái)，相對(duì)便捷的方法就是使用Agent。幾個(gè)月前，OpenAI發(fā)布了GPTS，它是一個(gè)用來(lái)生成Agent的工具，其核心就是連接了一些常用的信息或者知識(shí)，把這些信息和知識(shí)給到OpenAI的標(biāo)準(zhǔn)接口，OpenAI就可以基于這些知識(shí)去解決一些問(wèn)題。在企業(yè)中，真正想把信息系統(tǒng)整理好，并且能夠跟大模型連接起來(lái)，需要解決諸多難題。最簡(jiǎn)單的方法就是使用Copilot。

Copilot是什么？它跟Agent有何關(guān)系？pilot的意思是駕駛員，Co-pilot的意思是聯(lián)合駕駛或者副駕駛，即開(kāi)車(chē)時(shí)旁邊坐著的那個(gè)人。人們最理想的狀態(tài)是讓汽車(chē)變成無(wú)人駕駛，但成本和代價(jià)很大。在Copilot中，主駕駛還是人，副駕駛的職能是協(xié)助人做一些決策和操作，甚至完成主駕托管的任務(wù)，但最后的決定權(quán)仍在人類(lèi)手中。小明助理存在的意義就在于此。

七、哪些行業(yè)可以使用大模型？首先是服務(wù)業(yè)

哪些行業(yè)可以使用大模型？哪些工種可以使用大模型？這也是一個(gè)很重要的問(wèn)題。任何行業(yè)要想真正用好大模型，真正地創(chuàng)造生產(chǎn)力，都需要把大模型本身產(chǎn)生決策的能力跟最終的行動(dòng)有機(jī)聯(lián)合起來(lái)，如果兩者無(wú)法鏈接，是無(wú)法產(chǎn)生生產(chǎn)力的。人們稱(chēng)呼人工智能為下一次工業(yè)革命，到底是誰(shuí)革誰(shuí)的命，這是一個(gè)很重要的問(wèn)題。蒸汽機(jī)和電機(jī)的發(fā)明，讓工廠革掉了手工作坊的命。我自己有一個(gè)觀點(diǎn)，首先開(kāi)始的將會(huì)是服務(wù)業(yè)革命。比如我們從事的是軟件和分析咨詢的專(zhuān)業(yè)服務(wù)領(lǐng)域，而GPT的出現(xiàn)帶來(lái)了大量復(fù)制的可能性，它可以讓人們的腦力勞動(dòng)被機(jī)器自動(dòng)化或者半自動(dòng)化地生產(chǎn)出來(lái)，像軟件公司、市場(chǎng)研究公司甚至律師事務(wù)所等專(zhuān)業(yè)服務(wù)機(jī)構(gòu)會(huì)出現(xiàn)一些兼并、收購(gòu)、整合甚至革命的情況。在人工智能發(fā)展的今天，制造行業(yè)、廣告行業(yè)都可能面臨重構(gòu)，人工智能會(huì)讓過(guò)程更加高效，并且打破中間環(huán)節(jié)的很多瓶頸。但這并不意味著人工智能會(huì)造成大規(guī)模的失業(yè)，能力提升后，需求也將隨之增加，大家還是有工作可以做的。

八、大模型落地企業(yè)的核心是知識(shí)工程

企業(yè)迎接大模型時(shí)代的第一個(gè)命題，就是要解決公司的知識(shí)工程問(wèn)題。同時(shí)，人們也要思考每個(gè)人自己的知識(shí)工程是什么?，F(xiàn)代認(rèn)知心理學(xué)將知識(shí)分為兩類(lèi)，一類(lèi)叫陳述性知識(shí)，一類(lèi)叫程序性知識(shí)。編程知識(shí)屬于程序性知識(shí)。例如，大象是一種動(dòng)物，這是陳述性知識(shí)。把大象放到冰箱里面分幾步，這是程序性知識(shí)。Prompt（提示工程）和CoT（思維鏈）技術(shù)是大模型革命性能力發(fā)現(xiàn)的重要組成部分，其意義可以媲美人類(lèi)文字和印刷術(shù)的發(fā)明。CoT的重點(diǎn)是把程序?qū)懬宄?。在小明助理中，只要?jiǎn)要地表明你的目標(biāo)，它就可以將Prompt模板寫(xiě)出來(lái)，非常方便。管理大師野中郁次郎的《創(chuàng)造知識(shí)的企業(yè)》一書(shū)中提出，每個(gè)企業(yè)中有暗默的知識(shí)，也有顯性的知識(shí)，企業(yè)最核心的就是要把這些知識(shí)管理好。在大模型時(shí)代，這些知識(shí)不僅存在于每名員工的大腦中，存在企業(yè)的文檔庫(kù)中，甚至存在于每次會(huì)議的錄音之中。甚至有一天，大語(yǔ)言模型可以直接執(zhí)行錄音里面的知識(shí)。這就如同一個(gè)非常聰明的清華、北大畢業(yè)生在你身邊當(dāng)助手，你需要做的就是每天拿資料同它交互，就可以高效地提升效率。未來(lái)，企業(yè)的知識(shí)管理邏輯也將發(fā)生巨大的變化。Prompt和CoT的出現(xiàn)，實(shí)現(xiàn)了大模型和大模型之間互相學(xué)習(xí)的設(shè)想，只要讀懂了你的指令，大模型就可以將這些指令執(zhí)行得非常好，并且下一個(gè)人可以立足訓(xùn)練成熟的AI繼續(xù)發(fā)展。每個(gè)人都站在巨人的肩膀之上，未來(lái)的人工智能發(fā)展速度會(huì)非常快。今天大語(yǔ)言模型出現(xiàn)后，很多AI擁有了通用能力，這種通用能力可以賦能各行各業(yè)，為每一個(gè)人服務(wù)。OpenAI是為全世界服務(wù)的，中國(guó)基礎(chǔ)模型公司做出的產(chǎn)品也是為所有用戶服務(wù)的，每一個(gè)做垂直應(yīng)用的企業(yè)，每一個(gè)企業(yè)里面想用大模型的員工，都可以將模型拿過(guò)來(lái)直接使用，這是一項(xiàng)非常偉大的變革。

九、知識(shí)與數(shù)據(jù)的安全考量

企業(yè)在整理數(shù)據(jù)和知識(shí)的時(shí)候，不僅要考慮如何規(guī)劃數(shù)據(jù)、知識(shí)，同時(shí)也要考慮權(quán)限問(wèn)題，如果企業(yè)將所有權(quán)限全部交給OpenAI，容易引發(fā)商業(yè)機(jī)密泄露。

我的建議是選擇兩個(gè)維度四象限的邏輯進(jìn)行分析，包括數(shù)據(jù)的公開(kāi)程度、執(zhí)行任務(wù)的推理復(fù)雜性等。對(duì)于一些低密集又需要高難度推理能力的，可以直接使用在線大模型；對(duì)于一些高密集且推理能力不高的，例如財(cái)務(wù)信息、HR信息、研發(fā)產(chǎn)品信息等，可以部署一個(gè)私有化模型。企業(yè)要做的，就是把對(duì)應(yīng)的密集問(wèn)題想明白、分好級(jí)。