高通Gary Brotman：完整的終端側(cè)AI生態(tài)系統(tǒng)加速市場發(fā)展

2018年03月09日09:36 來源：通信產(chǎn)業(yè)網(wǎng)T|T

【移動通信網(wǎng)】MWC一直被譽為手機圈的開年風(fēng)向標(biāo)，經(jīng)過《通信產(chǎn)業(yè)報》（網(wǎng)）記者走訪發(fā)現(xiàn)，AI成為MWC2018上名副其實的爆款，讓逐漸步入同質(zhì)化魔咒的手機市場迎來一絲新意。

由于華為手機的缺席，近幾年屢被提及的手機AI化在本屆MWC上聲量不再。不過這依然抵擋不住人工智能熱潮的降臨。目前的手機的AI之路，已經(jīng)從營銷噱頭走到產(chǎn)業(yè)變革。

其中，最值得一提的是，AI芯片迎來大爆發(fā)的前夜。平臺方面，高通剛剛發(fā)布驍龍845處理器，它屬于驍龍第三代AI平臺，主要通過Kryo385定制架構(gòu)、Adreno630、Hexagon685在終端異步運算數(shù)據(jù)，這部分性能和終端解決方案可以讓開發(fā)者自由選擇，相比驍龍835，驍龍845在AI上的計算能力是驍龍835的三倍，并支持多平臺的神經(jīng)網(wǎng)絡(luò)系統(tǒng)。

在MWC上眾多新發(fā)布的手機如華碩ZenFone5系列、三星S9系列、索尼XperiaXZ2等，正視采用了高通驍龍845芯片，讓自身的AI化成為制勝的砝碼。

正如高通產(chǎn)品管理總監(jiān)GaryBrotman對《通信產(chǎn)業(yè)報》（網(wǎng)）記者說的那樣，如今，越來越多的終端側(cè)的人工智能用例開始涌現(xiàn)。對高通而言，其擁有完整的終端側(cè)人工智能生態(tài)系統(tǒng)，系統(tǒng)的最內(nèi)層核心是面向AI算法優(yōu)化的芯片產(chǎn)品，支持不同的主流框架和網(wǎng)絡(luò)。往外擴一層是廣泛的操作系統(tǒng)支持，不僅支持單一的操作系統(tǒng)，而是提供跨平臺的解決方案。再往外一層是與大量云服務(wù)廠商及獨立軟件開發(fā)商的緊密合作，可將高通芯片應(yīng)用于不同領(lǐng)域的AI用例中，為用戶提供更好的人工智能體驗。通過這個自上而下的生態(tài)系統(tǒng)，高通正引領(lǐng)和加速人工智能市場的發(fā)展。

人工智能的顯著變化

傳統(tǒng)而言，很多對神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理都是在云端或者基于服務(wù)器完成的。但是過去幾年，這樣的模式發(fā)生了變化，很多人工智能的工作，比如模式匹配、建模檢測、分類、識別、檢測等逐漸從云端轉(zhuǎn)移到了終端側(cè)。

GaryBrotman表示，三個主要的原因驅(qū)動了這樣的遷移和演進(jìn)：

一是數(shù)據(jù)隱私。消費者對于個人數(shù)據(jù)隱私極其看重，個人數(shù)據(jù)的分享應(yīng)該受到更好的保護(hù)，普遍認(rèn)為終端側(cè)的安全性會更好一些。

二是性能。在終端側(cè)完成相關(guān)的處理和推理工作能保持超低時延的操作和運行，如果一切都在云端完成，考慮到云端處理獲取信息的往返時間，無疑在時延方面會有很大的挑戰(zhàn)。

三是整體的可靠性。終端不可能完全依賴于云端來完成所有AI的運算和處理。而且一旦連接中斷，那么終端將失去其自身價值。

“以上是終端側(cè)人工智能能帶來的價值，而終端側(cè)也是高通的優(yōu)勢所在�！盙aryBrotman說道。“高通是一家個芯片提供商，可以提供相應(yīng)的解決方案支持不同終端上的AI用例，包括智能手機、智能音箱、聯(lián)網(wǎng)攝像頭、聯(lián)網(wǎng)汽車、無人機等。作為一個硬件平臺和計算平臺提供商，高通的角色就是確保這些終端側(cè)AI用例無論是在性能上還是續(xù)航表現(xiàn)上都可以高效地運行，在終端側(cè)實現(xiàn)更好的續(xù)航和無縫的用戶體驗�！�

人工智能引擎AIEngine支持生態(tài)系統(tǒng)

MWC2018上，高通推出了人工智能引擎AIEngine。AIEngine包含了三個部分：硬件上主要是AdrenoGPU、KryoCPU和HexagonDSP。每個內(nèi)核架構(gòu)各不相同，在處理不同AI工作負(fù)載時有各自的角色和獨特價值。比如CPU可以處理32位的浮點運算和8位的定點精準(zhǔn)分類網(wǎng)絡(luò)，保證不同等級的精準(zhǔn)性和性能；Adreno支持32位和16位的浮點運算；HexagonDSP可以處理8位的定點運算。這些都是高通在硬件側(cè)做的優(yōu)化，并提供給開發(fā)者和OEM選擇。

AIEngine的第二個組成部分是軟件部分。GaryBrotman表示，在處理AI用例時，軟件和工具無疑更加重要。如果硬件是一個加速的平臺，那么在軟件層面開發(fā)者則能夠?qū)崿F(xiàn)大量的創(chuàng)新，并且實現(xiàn)最新的AI用例。

高通人工智能引擎AIEngine的核心軟件構(gòu)成也包括了三部分：第一，驍龍神經(jīng)處理引擎軟件框架；第二，API，隨著GoogleAndroidOreo發(fā)布AndroidNNAPI，可以讓開發(fā)者通過Android操作系統(tǒng)直接訪問驍龍平臺；第三，高通提供了一個非常獨特的HexagonNeuturalNetwork（NN）庫，開發(fā)者可以直接將人工智能算法在Hexagon向量處理器上運行。

最后一部分是框架，框架相當(dāng)于是AI算法使用的語言。高通支持很多不同的架構(gòu)，包括Facebook的Caffe/Caffe2、Google的TensorFlow。近期，微軟和Facebook啟動了新的開源項目——ONNX（開放神經(jīng)網(wǎng)絡(luò)交換）。ONNX的目的在于整合各種框架，支持開發(fā)者有更多靈活性，他們可以繼續(xù)在自己選擇的框架進(jìn)行編程，并通過ONNX與其他框架協(xié)同運行。這將為開發(fā)者和廠商帶來極大的便利，高通也可不必為每一個單一的框架提供支持。GaryBrotman稱，這是一個非常有前景的整合趨勢，得以支持更廣闊的生態(tài)系統(tǒng)。

高通的AI+

在AI、5G、IoT的ICT新時代，只有堅持開放與合作思維、生態(tài)共贏思維，才對參與各方都有利。高通也同樣認(rèn)為，通過廣泛的生態(tài)系統(tǒng)合作來推動人工智能的發(fā)展大有裨益。

GaryBrotman稱，高通的優(yōu)勢在于強大的邊緣計算能力，而我們眾多生態(tài)系統(tǒng)合作伙伴則是開發(fā)AI算法和模型的專家，他們擁有大量數(shù)據(jù)，并有能力實現(xiàn)不同的AI用例。我們的合作伙伴各有所長，每個企業(yè)專注的AI細(xì)分領(lǐng)域都不盡相同，包括視覺處理、手勢追蹤等。但無論是哪一家廠商，他們都面向驍龍平臺進(jìn)行了大量算法和模型優(yōu)化，使得他們的應(yīng)用能在高通的平臺上高效運行。

據(jù)了解，高通與兩家中國的人工智能軟件開發(fā)企業(yè)——商湯科技和曠視Face++建立了合作關(guān)系這兩家廠商都已基于驍龍800及驍龍600系列平臺開發(fā)了優(yōu)化的AI用例，并且已經(jīng)實現(xiàn)了商用。除了與軟件廠商的合作外，高通還與很多云服務(wù)領(lǐng)導(dǎo)廠商開展了合作。其中包括在中國與騰訊的合作，騰訊利用高通的驍龍神經(jīng)處理引擎對旗下的手機QQ應(yīng)用程序“高能舞室”進(jìn)行了優(yōu)化。此外，高通還和百度基于DuerOS開展合作，發(fā)展終端側(cè)的關(guān)鍵詞偵測和自然語言處理技術(shù)，從而為云端服務(wù)提供支持。

同時，高通與谷歌也有著悠久的合作關(guān)系，雙方在AI領(lǐng)域的合作可以追溯到驍龍820平臺，高通幫助谷歌實現(xiàn)TensorFlow面向移動終端的優(yōu)化，事實上驍龍平臺是首款支持TensorFlow的商用移動SoC。在AR領(lǐng)域，高通與微軟和亞馬遜也基于ONNX交換格式進(jìn)行了很多合作。GaryBrotman表示，高通正在和這些合作伙伴共同探索終端側(cè)人工智能與云端人工智能的結(jié)合。

可以說，高通的AI+中國廠商的合作，帶來了巨大的合作紅利，就是這種新思維與開放合作的真實寫照。