嘉楠科技張楠賡：邊緣推理芯片是新型計(jì)算架構(gòu)設(shè)計(jì)突破口

世界人工智能大會(huì)正式開(kāi)幕首日，嘉楠科技發(fā)布AI芯片勘智K510。嘉楠科技董事長(zhǎng)兼CEO張楠賡表示，摩爾定律支配的晶體管性能增長(zhǎng)乏力，無(wú)法滿足算法模型的算力需求，亟需探索新的計(jì)算體系結(jié)構(gòu)設(shè)計(jì)。邊緣推理作為云邊協(xié)同的重要組成部分，已成為AI應(yīng)用大規(guī)模落地的關(guān)鍵，是萬(wàn)物智聯(lián)時(shí)代下新型處理器架構(gòu)設(shè)計(jì)的突破口。

大會(huì)期間，嘉楠科技正式發(fā)布AI芯片勘智K510。該芯片定位于中高端邊緣推理市場(chǎng)，采用了嘉楠自主研發(fā)的IP核架構(gòu)KPU2.0，結(jié)合3D PE陣列與GLB片上存儲(chǔ)設(shè)計(jì)，獨(dú)創(chuàng)計(jì)算數(shù)據(jù)流復(fù)用技術(shù)，將算力提升至原先的3倍。在硬件配置方面，K510集成新一代圖像處理單元，可支持3D ISP和TOF深度攝像頭，在高清視頻會(huì)議、高清航拍、工業(yè)視覺(jué)、智能家居和機(jī)器人等多個(gè)場(chǎng)景。

邊緣推理芯片是新型計(jì)算架構(gòu)設(shè)計(jì)突破口

張楠賡表示，在云邊協(xié)同的架構(gòu)中，邊緣AI在數(shù)據(jù)脫敏、數(shù)據(jù)感知和實(shí)時(shí)決策上有效彌補(bǔ)了時(shí)延和數(shù)據(jù)隱私上的短板，也能降低高昂的IT基礎(chǔ)設(shè)施成本。因此可以說(shuō)，邊緣推理是AI應(yīng)用大規(guī)模落地的關(guān)鍵。

張楠賡認(rèn)為，當(dāng)前，摩爾定律支配的晶體管性能遭遇增長(zhǎng)瓶頸，已經(jīng)跟不上現(xiàn)代算法對(duì)算力的需求。探索新的計(jì)算體系結(jié)構(gòu)就變得非常重要。邊緣推理芯片不同于傳統(tǒng)處理器。不僅需要開(kāi)發(fā)專用的IP核，而且需要編譯器、軟硬件等方面的整體優(yōu)化來(lái)提升計(jì)算效率，降低時(shí)延。同時(shí)，還要在處理器的設(shè)計(jì)中考慮功耗成本和數(shù)據(jù)安全性。

公開(kāi)資料顯示，嘉楠科技在ASIC領(lǐng)域積累了大量芯片設(shè)計(jì)經(jīng)驗(yàn)，包括標(biāo)準(zhǔn)單元設(shè)計(jì)、算法開(kāi)發(fā)和優(yōu)化、低電壓、高能效計(jì)算與散熱解決方案等。

嘉楠堅(jiān)持IP核心自主研發(fā)

2016年，嘉楠科技正式成立AI芯片部門，啟動(dòng)邊緣芯片研發(fā)項(xiàng)目——勘智AI。研發(fā)團(tuán)隊(duì)在ISA選型、功耗和功能設(shè)計(jì)上都全面瞄準(zhǔn)邊緣AI，并在一開(kāi)始就確立了依托開(kāi)源架構(gòu)研發(fā)自主IP核的技術(shù)路線。

張楠賡表示，芯片勘智K510在總線架構(gòu)、IP核心與視頻子系統(tǒng)推出全新設(shè)計(jì)，相比一代芯片算力提升3倍，經(jīng)典視覺(jué)算法大幅優(yōu)化，自研高速PHY接口理論帶寬10GB/s，8位數(shù)據(jù)壓縮率50%以上，極大優(yōu)化了勘智AI系列的機(jī)器視覺(jué)應(yīng)用性能。

張楠賡指出，IP核心KPU2.0采用了全局本地緩存設(shè)計(jì)，通過(guò)SRAM陣列滿足神經(jīng)網(wǎng)絡(luò)中不同層級(jí)對(duì)內(nèi)部訪問(wèn)帶寬和存儲(chǔ)的需求。計(jì)算卷積不需要進(jìn)行im2col（image to column）數(shù)據(jù)重排，提升計(jì)算效率；而通過(guò)多級(jí)存儲(chǔ)設(shè)計(jì)，K510可以增加卷積計(jì)算的數(shù)據(jù)復(fù)用，從而減少數(shù)據(jù)的讀取次數(shù)，降低芯片功耗。

張楠賡表示，進(jìn)入萬(wàn)物智聯(lián)時(shí)代，新架構(gòu)、新理念和新設(shè)計(jì)百家爭(zhēng)鳴，這是本土芯片行業(yè)面臨的歷史性機(jī)遇。我對(duì)中國(guó)半導(dǎo)體產(chǎn)業(yè)未來(lái)的發(fā)展充滿信心，我相信用不了多久，中國(guó)就將成為全球芯片設(shè)計(jì)中心，嘉楠愿意為這個(gè)目標(biāo)貢獻(xiàn)自己的力量。