11月3日,智能終端平臺技術提供商中科創達在京舉辦了一場嵌入式人工智能技術論壇。此次論壇不僅有高通、英特爾、ARM等巨頭的參與,還有國內芯片領域優秀的創企寒武紀以及計算機視覺領域的獨角獸曠視科技等公司前來助陣。
為什么舉辦這場大會呢?中科創達CTO鄒鵬程風趣的談了上個月去圣地亞哥出差期間,生活中犯了6個小錯誤,比如忘帶拖鞋、衣物拉在洗衣機、鼠標忘在酒店等。而解決方案很簡單,就是大家聚集在一起,通過AI解決這些生活中發生的錯誤。
(中科創達CTO鄒鵬程)
“AI本身沒辦法變現,它是一種工具,只有深入的嵌入到每一個場景中,然后結合云端和終端,滿足用戶的某一需求或提升了用戶體驗,才能完成它的商業模式”,中科創達副總裁孫力一語點點出了此行的目的,即將AI落地到應用場景中不是一家公司可以做的,需要硬件、操作系統、軟件算法的公司的協作完成。
而現在做芯片的公司不太關注應用,做算法的公司忙著參加大賽,不一定懂得算法放在不同的芯片上如何吸收,如何裁剪網絡,這離最終的場景、消費者都有一定距離。而中科創達作為嵌入式AI的操作系統提供商,其價值在于提供一個平臺,連接芯片和算法,讓算法更快更流暢的在終端跑起來,進而優化場景的體驗。
本次大會,各家公布在各自領域的最新進展,也表達了嵌入式AI的前景以及面臨的問題,各家的合作未來也會更加深入。那么,就讓我們看一看什么是嵌入式AI,為什么要做嵌入式AI,以及中科創達面向場景都做了哪些嘗試。
中科創達成立于2008年,是一家有中科院軟件所背景的公司。目前它有3000多名員工,90%是工程師,分布于全球18個城市,有960多家客戶,超過5000款產品使用著它的技術。
成立之初,中科創達做移動端的操作系統。而隨著AI時代的到來,作為芯片與算法之間的操作系統方案商,它將更好的連接芯片與算法,更好的落地到場景應用中,從而實現AI的價值。可以看出中科創達一直都圍繞在終端側的計算上,發力嵌入式AI正是其定位在AI時代的延續。
所謂嵌入式AI和端側智能是緊密相關的,嵌入式AI就是將AI的能力“嵌入”到芯片硬件中,從而使設備具有端側智能。而端側智能則是指數據的采集、計算、決策都在前端設備進行,即將AI本地化,擺脫網絡的束縛。
嵌入式AI包括機器視覺、語音識別、語義理解等技術,而中科創達所聚焦的在于嵌入式機器視覺領域,做機器的“眼睛”,其落地的場景主要在智能手機、智能汽車以及其他面向物聯網領域的智能硬件。
中科創達副總裁孫力用幾個生動的例子解釋了為什么做嵌入式AI。一個場景是自動駕駛汽車每秒鐘可以產生1G的數據,必須及時迅速的在本地處理決策,以應對復雜的交通狀況。另一個場景是當你用智能手機拍照時,想要識別一個場景,讓藍天更藍,白云更白,這樣的場景識別需要快速做出決策,也不能放到云端。還有一個場景是家居場景,隨著家居智能化,越來越多的數據被傳輸到云端,隱私就成為了一個重要的問題,而本地計算就是一種良好的解決方式。
(中科創達副總裁孫力)
通過以上幾個場景應用,可以發現,一些需要快速處理、低延遲、無網絡、隱私場景成為嵌入式AI的絕佳用武之地,它能夠有效解決云端隱私的問題或者反應速度的問題。
但嵌入式AI當下也面臨著一些挑戰,包括運算的算力有限,功耗特別有限, CPU等性能有限等,一方面需要在硬件測升級芯片,降低功耗,另外也需要和云端的協同。
“未來一段時間,它一定是從底層硬件、嵌入式、云端協作的一個過程。具體哪些放在終端,哪些放在云端,需要結合具體的場景,沒有統一的劃線”,孫力總結到,中科創達會更加專注在終端側的智能化,而在云端側則跟合作伙伴合作來互相補充。
目前在嵌入式AI應用場景的探索中,中科創達主要聚焦在三大領域,分別為智能手機、智能汽車,以及智能物聯網領域,包括VR、無人機、攝像頭、機器人等。
在展區我們可以看到,面向物聯網領域,中科創達推出了TurboX智能大腦平臺,提供核心計算模塊、操作系統、算法和SDK的一體化解決方案,從而加速智能硬件原型到產品和的進程。
該智能大腦平臺匯集產業鏈包括內容、應用、云服務等多方資源,應用在無人機、機器人、VR、智能相機、可穿戴設備等領域。目前,微鯨VR、零度智控DOBBY無人機、零零無限HoverCamera以及貓眼視覺“貓鏡”等眾多產品均搭載了TurboX智能大腦平臺。
(展區的IoT應用)
在智能手機的解決方案中,中科創達在Camera算法、性能優化、多窗口任務處理、功能優化等方面均有著差異化的核心技術。還記得華為Mate10中展示的食物識別嗎,其解決方案就來自中科創達。
(基于高通驍龍835平臺的物體識別應用)
圖中是中科創達基于高通驍龍835平臺的物體識別應用,能夠在斷網的情況下實時識別食物名稱、體積以及卡路里。目前中科創達已經能夠識別出700多種食物。
正如前面所提及的,AI是一種工具,只有將AI真正落地到場景才能產生商業價值。而現實往往是做芯片的專注于芯片,做算法的專注于算法, 算法放在不同的芯片上如何吸收,怎么裁剪網絡,芯片以及算法如何最優化的落地到場景?
(中為中科創達CEO耿增強,左為CTO鄒鵬程,右為副總裁孫力)
中科創達CEO耿增強表示,這便是中科創達的優勢所在。中科創達對芯片和算法都有很深的了解,通過操作系統層連接芯片和算法。只有將芯片、操作系統、算法三者有機的結合,落地到應用場景中,才能充分發揮各家的效能,使價值最大化。
而這也意味著產業協作,共同打造生態。通過參會公司可以看出,不但有高通、英特爾、寒武紀等芯片公司,也有曠視科技、中科視拓等算法應用公司,中科創達作為操作系統方案商,剛好與之構成一個生態。
耿增強也談到,這個生態不是中科創達一家企業做的,而是聯合上下游一起做。芯片方面,中科創達和高通、華為海思、ARM、三星、英特爾等每個領域芯片巨頭都保持著緊密合作。在算法上,中科創達有物體識別、食物卡路里計算、體積計算等技術,依托中科創達的平臺,也使得很多的算法公司、應用公司的智能算法出現在大家面前。
目前人工智能才剛剛開始,難題也很多,包括性能的問題、精度的問題、功耗的問題、成本的問題等等,都是大家共同的問題。這些問題也反映出只有大家坐到一起,從產業鏈整體出發,通過產業鏈各個環節的優化,才能最終打造出不同場景中的優質應用。
AI時代,不同于互聯網時代少數公司獨霸一方,AI涉及的鏈條更長,應用領域更廣,合作與產業協同也開始成為大家的共識。
發力于嵌入式AI、端側智能的中科創達,憑借著“中間人”的角色打通芯片、算法,從而和上下游的廠商一起構建一個面向終端應用的AI生態。而生態也更加符合AI時代的發展趨勢,快速將應用落地,推動各個環節的優化, 從而加速人工智能的發展。