特斯聯(lián)首席科學(xué)家在IEEE國(guó)際學(xué)術(shù)期刊上發(fā)表智能物聯(lián)網(wǎng)技術(shù)的最新科研成果

近期，特斯聯(lián)宣布任命IEEE Fellow、國(guó)家科技重大專項(xiàng)『新一代寬帶無線移動(dòng)通信網(wǎng)』總體組專家、科技部創(chuàng)新人才推進(jìn)計(jì)劃『寬帶無線傳感網(wǎng)』創(chuàng)新團(tuán)隊(duì)負(fù)責(zé)人楊旸博士為集團(tuán)首席科學(xué)家，并對(duì)外公布了楊旸博士與團(tuán)隊(duì)在IEEE國(guó)際學(xué)術(shù)期刊和國(guó)際頂級(jí)會(huì)議上發(fā)表的智能物聯(lián)網(wǎng)技術(shù)（AIoT）領(lǐng)域的最新科研成果：

智能物聯(lián)網(wǎng)的能耗、時(shí)延與交互

隨著5G移動(dòng)通信系統(tǒng)的廣泛商用，越來越多的物聯(lián)網(wǎng)應(yīng)用選擇了支持海量機(jī)器通信場(chǎng)景的NB-IoT（窄帶物聯(lián)網(wǎng)）技術(shù)。但是由于蜂窩移動(dòng)通信系統(tǒng)基礎(chǔ)設(shè)施的封閉性，以及缺乏有效的現(xiàn)場(chǎng)測(cè)量工具，NB-IoT網(wǎng)絡(luò)的許多重要指標(biāo)一直以來都沒有被深入地研究，例如：無線接入性能和能耗等。楊旸博士與團(tuán)隊(duì)針對(duì)智慧城市中大量部署的室內(nèi)外定位傳感器、門禁傳感器、水務(wù)傳感器和煙霧傳感器等，研發(fā)了精密融合功率測(cè)量和協(xié)議跟蹤能力的硬件設(shè)備，對(duì)部署在四個(gè)應(yīng)用場(chǎng)景、1200多個(gè)位置的傳感器節(jié)點(diǎn)進(jìn)行了為期三個(gè)月時(shí)間的大量現(xiàn)場(chǎng)測(cè)量，收集了49GB的各種傳感器節(jié)點(diǎn)的能耗狀態(tài)和過程數(shù)據(jù)。通過全面深入的數(shù)據(jù)歸類和分析研究，團(tuán)隊(duì)發(fā)現(xiàn)實(shí)際物聯(lián)網(wǎng)應(yīng)用場(chǎng)景中的傳感器節(jié)點(diǎn)能耗差異可以達(dá)到驚人的75倍，這會(huì)嚴(yán)重影響電池壽命，導(dǎo)致頻繁的網(wǎng)絡(luò)分區(qū)等問題。團(tuán)隊(duì)認(rèn)為造成這些節(jié)點(diǎn)能耗性能巨大差異的主要原因在于：無線網(wǎng)絡(luò)的覆蓋質(zhì)量參差不齊、功率消耗的長(zhǎng)尾特征、以及過度重復(fù)的控制消息?；谶@項(xiàng)在實(shí)際應(yīng)用場(chǎng)景中完成的扎實(shí)研究工作，團(tuán)隊(duì)進(jìn)一步給出了提升智能物聯(lián)網(wǎng)技術(shù)規(guī)范和芯片設(shè)計(jì)方向的優(yōu)化建議。這項(xiàng)科研成果名為《A First Look at Energy Consumption of NB-IoT in the Wild: Tools and Large-Scale Measurement》（《自然環(huán)境窄帶物聯(lián)網(wǎng)能耗初探：工具及大規(guī)模測(cè)量》），已發(fā)表在網(wǎng)絡(luò)領(lǐng)域的國(guó)際頂級(jí)期刊IEEE/ACM Transactions on Networking。

圖1：不同無線接入方式和增強(qiáng)覆蓋水平情況下的物聯(lián)網(wǎng)應(yīng)用能耗分析

在工業(yè)物聯(lián)網(wǎng)的應(yīng)用場(chǎng)景中，無線傳感器設(shè)備無需鋪設(shè)專門的有線網(wǎng)絡(luò)，具有靈活性和可擴(kuò)展等優(yōu)勢(shì)。但是，工業(yè)生產(chǎn)環(huán)境中復(fù)雜時(shí)變的無線衰落信道會(huì)導(dǎo)致無法預(yù)測(cè)的隨機(jī)服務(wù)時(shí)延和時(shí)延抖動(dòng)，嚴(yán)重降低了工業(yè)生產(chǎn)閉環(huán)反饋控制系統(tǒng)的性能和穩(wěn)定性，這是無線傳感器設(shè)備和無線通信技術(shù)應(yīng)用于高精度、高可靠的自動(dòng)化工業(yè)生產(chǎn)系統(tǒng)的最主要技術(shù)挑戰(zhàn)。針對(duì)工業(yè)物聯(lián)網(wǎng)應(yīng)用場(chǎng)景中的嚴(yán)苛?xí)r延要求，楊旸博士及團(tuán)隊(duì)提出了在無線多徑衰落信道中對(duì)時(shí)延分布進(jìn)行塑形的新方法，通過對(duì)原始最優(yōu)化函數(shù)的解耦分析，設(shè)計(jì)了“雙層閉式反饋控制算法（TACAN）”，實(shí)現(xiàn)了時(shí)延分布方差的最小化，從而顯著提高了工業(yè)物聯(lián)網(wǎng)系統(tǒng)的可靠性和穩(wěn)定性。團(tuán)隊(duì)分別采用經(jīng)典的萊斯分布（Rician）信道模型和真實(shí)工業(yè)應(yīng)用場(chǎng)景中測(cè)量的無線衰落信道響應(yīng)來有效驗(yàn)證了所提出的新方法和TACAN新算法。這項(xiàng)科研成果名為《TACAN: the Shaping of Delay Distribution under Multi-path Fading Channel for Industrial IoT Systems》（《雙層閉式反饋控制算法：工業(yè)物聯(lián)網(wǎng)系統(tǒng)多徑衰落信道下的時(shí)延分布塑形》），已發(fā)表在物聯(lián)網(wǎng)領(lǐng)域的國(guó)際頂級(jí)期刊IEEE Internet of Things Journal。

圖2：雙層閉式反饋控制算法（TACAN）在萊斯分布信道模型（左）和真實(shí)工業(yè)應(yīng)用場(chǎng)景（右）中都能夠有效降低平均服務(wù)時(shí)延和時(shí)延方差

作為智能物聯(lián)網(wǎng)應(yīng)用中最重要和最自然的人機(jī)交互方式，語音合成技術(shù)賦能物聯(lián)網(wǎng)終端自主生成真實(shí)、可信和富有表現(xiàn)力的類人語音。然而，現(xiàn)有的端到端文本轉(zhuǎn)語音（TTS）算法所合成的機(jī)器語音在表現(xiàn)力上仍然與人類語音有很大的差距，難以在高標(biāo)準(zhǔn)、高頻率的復(fù)雜應(yīng)用場(chǎng)景中實(shí)現(xiàn)高可靠商用。楊旸博士與團(tuán)隊(duì)從語音表現(xiàn)力的語言學(xué)本質(zhì)再出發(fā)，深入研究和分析了人類語音復(fù)雜的韻律變化和生成規(guī)律，提出了“跨語句的條件變分自動(dòng)編碼器文本轉(zhuǎn)語音算法”（CUC-VAE），它通過從現(xiàn)有文本前后語句中提取上下文相關(guān)的韻律特征，并有效整合當(dāng)前文本信息和說話人狀態(tài)，實(shí)現(xiàn)了對(duì)每個(gè)音素韻律變化的后驗(yàn)概率分布的準(zhǔn)確估計(jì)和利用。相比于傳統(tǒng)的VAE和CVAE算法從標(biāo)準(zhǔn)高斯分布中采樣，新算法是在前后語句信息為條件的韻律特征先驗(yàn)分布中進(jìn)行采樣，所生成的韻律變化與上下文相關(guān)，這更接近于人類自然生成韻律的方式，因此顯著提升了用戶在智能物聯(lián)網(wǎng)應(yīng)用場(chǎng)景中的語音交互體驗(yàn)。這項(xiàng)科研成果名為《Cross-Utterance Conditioned VAE for Non-Autoregressive Text-to-Speech》（《跨語句的條件變分自動(dòng)編碼器非自回歸文本轉(zhuǎn)語音算法》），已發(fā)表在自然語言處理領(lǐng)域的國(guó)際頂級(jí)會(huì)議ACL。

圖3：文本轉(zhuǎn)語音新算法CUC-VAE生成的“Mary asked the time”的能量分布和音高升降曲線，更自然地區(qū)分出不同的前后語句環(huán)境

算力網(wǎng)絡(luò)的資源管理和任務(wù)調(diào)度

在智能物聯(lián)網(wǎng)的應(yīng)用場(chǎng)景中，邊緣計(jì)算資源的廣泛部署可以及時(shí)有效地滿足終端用戶的低時(shí)延、強(qiáng)計(jì)算、快響應(yīng)等服務(wù)需求，例如：基于多維度計(jì)算機(jī)視覺的3D同步定位和建圖技術(shù)。異構(gòu)的邊緣計(jì)算設(shè)備有著不同的硬件資源（如CPU和GPU）和運(yùn)行環(huán)境，它們能為終端用戶運(yùn)行和完成各種任務(wù)，并產(chǎn)生不同的資源占用成本和服務(wù)質(zhì)量。然而，如何合理區(qū)分各種計(jì)算任務(wù)，并把它們高效地分配給最適合的異構(gòu)邊緣計(jì)算節(jié)點(diǎn)，是一個(gè)極具挑戰(zhàn)的學(xué)術(shù)問題。針對(duì)這些邊緣計(jì)算硬件設(shè)備的異構(gòu)性，以及用戶任務(wù)服務(wù)質(zhì)量需求的多樣性，楊旸博士及團(tuán)隊(duì)提出了服務(wù)編排和任務(wù)調(diào)度的新思路和新方法，在滿足各類用戶的服務(wù)等級(jí)協(xié)議的同時(shí)，有效降低系統(tǒng)資源占用的總成本。以計(jì)算機(jī)視覺應(yīng)用為例，作者們?cè)O(shè)計(jì)了名為“邊緣視覺”（EDGEVISION）的系統(tǒng)服務(wù)架構(gòu)，在異構(gòu)的邊緣計(jì)算設(shè)備上實(shí)現(xiàn)了多種計(jì)算機(jī)視覺應(yīng)用的高效任務(wù)區(qū)分和服務(wù)編排。這項(xiàng)科研成果名為《Task Partitioning and Orchestration on Heterogenous Edge Platforms：The Case of Vision Applications》（《異構(gòu)邊緣平臺(tái)上的任務(wù)劃分及編排：以視覺應(yīng)用為例》），已發(fā)表在物聯(lián)網(wǎng)領(lǐng)域的國(guó)際頂級(jí)期刊IEEE Internet of Things Journal。

圖4：任務(wù)調(diào)度新算法MLTS/MCTS（藍(lán)色）有效降低了系統(tǒng)總成本和邊緣服務(wù)時(shí)延

針對(duì)復(fù)雜多變的無線信道環(huán)境和多層次的移動(dòng)通信網(wǎng)絡(luò)架構(gòu)，楊旸博士與團(tuán)隊(duì)提出了基于大規(guī)模多天線中繼節(jié)點(diǎn)輔助的多層次算力系統(tǒng)，來增強(qiáng)復(fù)雜用戶任務(wù)的計(jì)算能力和效率。在這個(gè)方案中，多種類型的用戶把它們的計(jì)算任務(wù)卸載給附近由大規(guī)模多天線中繼節(jié)點(diǎn)所構(gòu)成的計(jì)算和緩存資源，或者分配給由霧接入網(wǎng)絡(luò)所鏈接的云計(jì)算資源。然而，如何綜合考慮任務(wù)調(diào)度、服務(wù)緩存和功率分配等不同需求，實(shí)現(xiàn)多用戶任務(wù)調(diào)度的總體時(shí)延最小化，是一個(gè)很有挑戰(zhàn)性的學(xué)術(shù)問題。團(tuán)隊(duì)分析了無線信道狀態(tài)信息不完備的負(fù)面影響，將其建模為一個(gè)強(qiáng)健的非凸優(yōu)化理論問題，并提出了一個(gè)有效的替代優(yōu)化算法。首先，針對(duì)給定的任務(wù)分配和服務(wù)緩存結(jié)果，該算法通過將非凸功率分配優(yōu)化問題轉(zhuǎn)化為一個(gè)簡(jiǎn)單的線性優(yōu)化問題來解決。其次，采用經(jīng)典的拉格朗日（Lagrange）部分松弛方法將任務(wù)分配和服務(wù)緩存的限制條件放松，構(gòu)建和解決了相應(yīng)的對(duì)偶問題，獲得任務(wù)分配和軟件緩存結(jié)果。最后，基于這些初步結(jié)果，團(tuán)隊(duì)提出了一個(gè)迭代優(yōu)化算法來找到任務(wù)調(diào)度、服務(wù)緩存和功率分配的聯(lián)合優(yōu)化結(jié)果。仿真結(jié)果顯示，新算法的總體性能優(yōu)于傳統(tǒng)的標(biāo)準(zhǔn)方法，即采用等效信干噪比（SINR）來漸進(jìn)式控制功率分配。這項(xiàng)科研成果名為《Joint Task Offloading and Caching for Massive MIMO-Aided Multi-Tier Computing Networks》（《大規(guī)模MIMO輔助多層次算力網(wǎng)絡(luò)的聯(lián)合任務(wù)調(diào)度與緩存》），已發(fā)表在通信領(lǐng)域的國(guó)際頂級(jí)期刊IEEE Transactions on Communications。

圖5：新算法（最下方曲線）在不同系統(tǒng)參數(shù)和應(yīng)用場(chǎng)景下都能夠有效降低服務(wù)時(shí)延

多智體反饋神經(jīng)網(wǎng)絡(luò)框架和應(yīng)用

深度神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺、自然語音處理、語音合成、人工智能游戲等領(lǐng)域取得了突破性的進(jìn)展，但現(xiàn)有的大部分神經(jīng)網(wǎng)絡(luò)框架只支持單向的數(shù)據(jù)流動(dòng)和處理。受到靈長(zhǎng)類動(dòng)物大腦中存在信號(hào)反饋機(jī)制的啟發(fā)，楊旸博士及團(tuán)隊(duì)提出了“多智體反饋神經(jīng)網(wǎng)絡(luò)”（MAFENN）框架，包含三個(gè)充分合作的智能體，其中的反饋智能體模擬了靈長(zhǎng)類動(dòng)物大腦中的信號(hào)反饋和錯(cuò)誤糾正機(jī)制，有效提升了神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中的反饋學(xué)習(xí)能力、特征提取能力、噪聲和干擾消除能力。在理論分析方面，團(tuán)隊(duì)創(chuàng)新地將MAFENN框架建模成三個(gè)玩家的反饋斯塔爾伯格博弈（feedback Stackelberg game），理論證明了其可以確定收斂到博弈均衡點(diǎn)。這項(xiàng)科研成果名為《Multi-Agent Feedback Enabled Neural Networks for Intelligent Communications》（面向智能通信的多智體反饋神經(jīng)網(wǎng)絡(luò)），已發(fā)表在無線通信領(lǐng)域的國(guó)際頂級(jí)期刊IEEE Transactions on Wireless Communications。

圖6：多智體反饋神經(jīng)網(wǎng)絡(luò)（MAFENN）的框架和三個(gè)玩家的反饋斯塔爾伯格博弈建模

在跨領(lǐng)域應(yīng)用方面，MAFENN框架首先被用于設(shè)計(jì)基于深度學(xué)習(xí)的無線信道智能均衡器，其中內(nèi)生的反饋糾錯(cuò)機(jī)制有效減輕和消除了無線信號(hào)傳輸中的碼間干擾、噪聲、以及非線性失真等問題。與傳統(tǒng)的無線信道均衡器相比，基于MAFENN框架的智能均衡器在復(fù)雜多變的線性和非線性無線多徑信道情況下，都能夠顯著提升信道的均衡效果，有效降低了系統(tǒng)的符號(hào)誤碼率。其次，針對(duì)無線視頻信號(hào)在傳播過程中極易受到多徑效應(yīng)、大氣損耗、雨衰、材料穿透阻擋等環(huán)境因素的嚴(yán)重干擾，團(tuán)隊(duì)提出了基于MAFENN框架的視頻接收端無線干擾消除算法，其中內(nèi)生的反饋糾錯(cuò)機(jī)制能夠高效準(zhǔn)確地修復(fù)和分類受損嚴(yán)重的無線視頻幀，新算法不僅顯著提高了海量視頻信號(hào)在無線多徑衰落信道中的實(shí)時(shí)傳輸質(zhì)量和服務(wù)性能可靠性，而且有效增強(qiáng)了各種類型視頻幀分類和識(shí)別的精準(zhǔn)性和實(shí)用性。這些相關(guān)的跨領(lǐng)域應(yīng)用研究成果已發(fā)表在通信領(lǐng)域的兩大旗艦會(huì)議：ICC和GLOBECOM。

圖7：基于MAFENN框架的智能均衡器（黑色）在線性（左）和非線性（右）無線信道情況下都能夠有效降低系統(tǒng)的符號(hào)誤碼率

圖8：基于MAFENN框架的視頻接收端無線干擾消除算法能夠高效準(zhǔn)確地修復(fù)和分類受損嚴(yán)重的無線視頻幀，CIFAR-10 數(shù)據(jù)集