【導(dǎo)讀】為什么人們需要更低功耗的人工智能?麻省理工學(xué)院(MIT)副教授Vivienne Sze此前在接受采訪(fǎng)時(shí)表示,人工智能應(yīng)用正在向智能手機(jī)、微型機(jī)器人、互聯(lián)網(wǎng)連接設(shè)備和其他功率和處理能力有限的設(shè)備轉(zhuǎn)移,意味著數(shù)據(jù)處理不再需要在云端、倉(cāng)庫(kù)服務(wù)器機(jī)架上進(jìn)行,從云上卸載計(jì)算使我們能夠擴(kuò)大人工智能的影響范圍,通過(guò)減少與遠(yuǎn)程服務(wù)器通信造成的延遲來(lái)加快響應(yīng)時(shí)間。
為什么人們需要更低功耗的人工智能?麻省理工學(xué)院(MIT)副教授Vivienne Sze此前在接受采訪(fǎng)時(shí)表示,人工智能應(yīng)用正在向智能手機(jī)、微型機(jī)器人、互聯(lián)網(wǎng)連接設(shè)備和其他功率和處理能力有限的設(shè)備轉(zhuǎn)移,意味著數(shù)據(jù)處理不再需要在云端、倉(cāng)庫(kù)服務(wù)器機(jī)架上進(jìn)行,從云上卸載計(jì)算使我們能夠擴(kuò)大人工智能的影響范圍,通過(guò)減少與遠(yuǎn)程服務(wù)器通信造成的延遲來(lái)加快響應(yīng)時(shí)間。
現(xiàn)在,人工智能的本地化部署有了一個(gè)專(zhuān)屬名稱(chēng)——邊緣智能,也可叫做邊緣人工智能。隨著5G、人工智能和網(wǎng)絡(luò)安全三大領(lǐng)域相互滲透,智慧工廠和自動(dòng)駕駛兩大典型的物聯(lián)網(wǎng)應(yīng)用引發(fā)數(shù)據(jù)爆發(fā)式增長(zhǎng),傳統(tǒng)云端處理、邊端執(zhí)行的模式已經(jīng)出現(xiàn)明顯的瓶頸,終端硬件搭配AI模型和軟件算法已經(jīng)是大勢(shì)所趨,成為人工智能發(fā)展的下一個(gè)關(guān)鍵階段。
本文我們將重點(diǎn)討論傳統(tǒng)人工智能面臨的挑戰(zhàn),以及邊緣智能會(huì)帶來(lái)哪些好處。同時(shí),也會(huì)為大家推薦貿(mào)澤電子上在售的,適用于部署邊緣智能的元器件,推動(dòng)產(chǎn)業(yè)大升級(jí)。
邊緣智能的四大典型優(yōu)勢(shì)
自上世紀(jì)50年代人工智能概念被提出以后,產(chǎn)業(yè)發(fā)展至今經(jīng)歷了數(shù)次的高潮和寒冬。雖然有低谷,但人類(lèi)對(duì)人工智能技術(shù)的探索從沒(méi)有停止過(guò)。2006年至今,我們經(jīng)歷了人工智能產(chǎn)業(yè)新一輪發(fā)展大潮,在此過(guò)程中,“算力+算法+數(shù)據(jù)”正式被定義為人工智能產(chǎn)業(yè)的三駕馬車(chē),云計(jì)算平臺(tái)作為算力提供源,大幅提升了人工智能算法模型的體量。
根據(jù)前瞻產(chǎn)業(yè)研究院的統(tǒng)計(jì)數(shù)據(jù),從2016年到2020年全球人工智能產(chǎn)業(yè)市場(chǎng)規(guī)模實(shí)現(xiàn)了數(shù)倍的增長(zhǎng),從2016年的593億美元快速增長(zhǎng)到了2020年的2,335億美元。市場(chǎng)的高速增長(zhǎng)不僅給企業(yè)帶來(lái)巨大的投資回報(bào),同時(shí)也賦予社會(huì)發(fā)展肉眼可見(jiàn)的便利性。
圖1:全球人工智能市場(chǎng)規(guī)模(圖源:前瞻產(chǎn)業(yè)研究院)
然而,在電信業(yè)務(wù)、政府、安防、金融四大傳統(tǒng)人工智能應(yīng)用領(lǐng)域取得突破之后,全球人工智能發(fā)展遇到了新的阻力,發(fā)生了巨大的變化。根據(jù)市場(chǎng)分析機(jī)構(gòu)IDC的預(yù)測(cè),未來(lái)人工智能發(fā)展不再僅僅是云端集中式,會(huì)更加注重落地和實(shí)踐,趨向廣泛化、縱向化,打通人工智能技術(shù)和廣泛行業(yè)的最后一公里。
在這種大趨勢(shì)下,傳統(tǒng)人工智能應(yīng)用框架出現(xiàn)了明顯的技術(shù)瓶頸,包括數(shù)據(jù)瓶頸、泛化瓶頸、能耗瓶頸、預(yù)義鴻溝瓶頸、可解釋性瓶頸和可靠性瓶頸等。在這么多瓶頸背后,一個(gè)相同的原因是此前的人工智能應(yīng)用框架里,所有應(yīng)用都是以云計(jì)算為依托,數(shù)據(jù)都必須返回到云端,給處理效率、信息安全、部署成本帶來(lái)了極大的挑戰(zhàn)。
圖2:傳統(tǒng)人工智能應(yīng)用框架(圖源:前瞻產(chǎn)業(yè)研究院)
隨著人工智能落地到越來(lái)越多的細(xì)分場(chǎng)景里,完全依賴(lài)云計(jì)算的人工智能越來(lái)越不適應(yīng),業(yè)界提出的解決方案便是邊緣智能。當(dāng)然,邊緣智能和傳統(tǒng)的云端智能絕不是替代關(guān)系,而是更好的補(bǔ)充。通過(guò)下方邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟(ECC)發(fā)布的邊緣計(jì)算參考架構(gòu)能夠看出,邊緣智能和云端智能并不割裂,只是應(yīng)用程序和邊緣端緊密結(jié)合。
圖3:邊緣計(jì)算參考架構(gòu)(圖源:邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟(ECC))
從系統(tǒng)框架來(lái)看,邊緣智能方案大致可以分為基礎(chǔ)資源層、虛擬化層、邊緣虛擬服務(wù)層,實(shí)際上就是云端智能的下沉,一般而言,具體的業(yè)務(wù)切分由規(guī)則引擎來(lái)負(fù)責(zé)。如下圖4所示,當(dāng)計(jì)算資源遷移到邊緣端之后,邊緣智能方案將獨(dú)立擁有操作系統(tǒng)以及相關(guān)的硬件資源,這也就是為什么我們上面提到,邊緣智能的核心要義是應(yīng)用程序和邊緣端深度融合。
圖4:基于規(guī)則引擎的邊緣智能方案(圖源:論文《一種基于規(guī)則引擎的邊緣計(jì)算技術(shù)研究及實(shí)施方案》)
計(jì)算和任務(wù)處理直接在邊緣端進(jìn)行,這讓邊緣智能方案具備四大突出的技術(shù)優(yōu)勢(shì)。
實(shí)時(shí)性好
首先是實(shí)時(shí)數(shù)據(jù)處理、提高響應(yīng)速度。相較于傳統(tǒng)海量數(shù)據(jù)無(wú)差別上云而言,邊緣智能由于更靠近用戶(hù)終端裝置,可以加快數(shù)據(jù)的處理與傳送速度,減少延遲。這種實(shí)時(shí)性對(duì)自動(dòng)駕駛、工業(yè)機(jī)器人等應(yīng)用有重要價(jià)值。
帶寬需求小
其次是減少互聯(lián)網(wǎng)帶寬依賴(lài)。根據(jù)IDC的統(tǒng)計(jì)數(shù)據(jù),2021年,全球創(chuàng)造了82.5ZB的數(shù)據(jù),未來(lái)五年全球數(shù)據(jù)規(guī)模還將以21.2%的年復(fù)合增長(zhǎng)率快速發(fā)展,到2026年達(dá)到216ZB。如果這些數(shù)據(jù)全部送到云數(shù)據(jù)中心去處理,那么將會(huì)對(duì)網(wǎng)絡(luò)帶寬造成巨大的傳輸壓力。而邊緣智能以卸載的方式將大部分邊緣端產(chǎn)生的巨量數(shù)據(jù)及時(shí)處理,幫助減輕網(wǎng)絡(luò)帶寬的壓力。
功耗低
第三是降低系統(tǒng)功耗。根據(jù)工信部數(shù)據(jù),2021年中國(guó)數(shù)據(jù)中心耗電量2,166億千瓦時(shí),占社會(huì)用電量比例達(dá)2.6%,相當(dāng)于1.3個(gè)上海市的總社會(huì)用電量。通過(guò)云邊結(jié)合的方式,數(shù)據(jù)中心可以更加專(zhuān)注在AI大模型的訓(xùn)練和運(yùn)轉(zhuǎn),邊緣智能方案極為強(qiáng)調(diào)能耗比,將有助于降低整體功耗。
安全性好
最后,邊緣智能能夠更好地保護(hù)用戶(hù)的數(shù)據(jù)隱私和數(shù)據(jù)安全。邊緣智能方案在終端就可以對(duì)數(shù)據(jù)進(jìn)行清洗、預(yù)處理、聚合、篩選等操作,數(shù)據(jù)不用完全返回云端再做處理,或者最終傳輸?shù)皆贫说臄?shù)據(jù)為脫敏數(shù)據(jù),降低了隱私、機(jī)密數(shù)據(jù)泄露的風(fēng)險(xiǎn),提升了數(shù)據(jù)的安全性。
憑借上述這些突出的技術(shù)優(yōu)勢(shì),邊緣智能在智能駕駛、智慧工廠、智慧能源和智能家居等領(lǐng)域應(yīng)用廣泛,提升了人工智能的應(yīng)用深度和廣度,豐富了“AI+”的實(shí)際應(yīng)用。當(dāng)然,想要打造高效穩(wěn)定的邊緣智能方案,離不開(kāi)電子元器件的支持。作為全球知名先的電子元器件分銷(xiāo)平臺(tái),貿(mào)澤電子銷(xiāo)售的電子元器件遍及各種邊緣智能解決方案,助力打造低碳智能的數(shù)字新世界。下面,我們就來(lái)為大家推薦幾款具有代表性、可用于邊緣智能的元器件產(chǎn)品。
Microchip機(jī)器學(xué)習(xí)整體解決方案
上述內(nèi)容已經(jīng)提到,邊緣智能是云端智能的下沉,也就是說(shuō)將人工智能的模型置于邊緣端。目前,云端配合最理想的方式是:將機(jī)器學(xué)習(xí)的訓(xùn)練模型放置在云端,通過(guò)云端大算力的優(yōu)勢(shì)提升訓(xùn)練的效率;將機(jī)器學(xué)習(xí)的推理、決策和執(zhí)行模型放置在邊緣,需要的計(jì)算和存儲(chǔ)資源相對(duì)較小,保障了部署的靈活性,并降低系統(tǒng)反應(yīng)的時(shí)間。
因此,我們通過(guò)Microchip機(jī)器學(xué)習(xí)整體解決方案能夠看到,在邊緣一側(cè),元器件會(huì)涉及到更善于終端推理的FPGA,更利于系統(tǒng)集成和部署的MCU/MPU,以及其他幫助工程師打造邊緣機(jī)器學(xué)習(xí)方案的模擬器件和安全器件。目前,Microchip這份完整的機(jī)器學(xué)習(xí)方案已經(jīng)在貿(mào)澤電子全面上線(xiàn),接下來(lái)我們就來(lái)系統(tǒng)地看一下這份方案,以及方案里面的具體器件。
圖5:Microchip機(jī)器學(xué)習(xí)整體解決方案(圖源:Microchip)
綜合而言,Microchip機(jī)器學(xué)習(xí)整體解決方案是一個(gè)包括軟件和硬件工具套件、參考設(shè)計(jì)以及硅平臺(tái)的系統(tǒng)方案,非常適合用于需要具有高級(jí)性能的簡(jiǎn)單易用的應(yīng)用。也就是說(shuō),無(wú)論你是AI和機(jī)器學(xué)習(xí)方面的新手,還是尋求高性能、經(jīng)驗(yàn)豐富的工程師大牛,都能夠在Microchip機(jī)器學(xué)習(xí)整體解決方案里找到適合自己的軟硬件組合。
在硅器件方面,Microchip廣泛的硅器件產(chǎn)品組合包括MCU、MPU和FPGA。為幫助工程師使用這些器件,Microchip準(zhǔn)備了全面豐富的軟件工具包,允許工程師朋友使用流行的ML框架,包括TensorFlow、Keras、Caffe和ONNX涵蓋的許多其他框架,以及TinyML和TensorFlow Lite中的框架。這些豐富的開(kāi)發(fā)套件組合起來(lái),構(gòu)成了Microchip硅器件背后的開(kāi)發(fā)生態(tài)系統(tǒng)。
比如,在使用Microchip的MCU或MPU器件時(shí),MPLAB開(kāi)發(fā)生態(tài)系統(tǒng)將與Microchip的開(kāi)發(fā)板以及機(jī)器學(xué)習(xí)設(shè)計(jì)合作伙伴提供的軟件套件和解決方案無(wú)縫集成,提供MPLAB X集成開(kāi)發(fā)環(huán)境(IDE)、MPLAB XC C編譯器、MPLAB Data Visualizer等開(kāi)發(fā)工具,顯著提升開(kāi)發(fā)者的開(kāi)發(fā)效率。
在使用Microchip的FPGA器件時(shí),該公司先進(jìn)的VectorBlox加速器軟件開(kāi)發(fā)套件(SDK)可以讓開(kāi)發(fā)者輕松編程高能效神經(jīng)網(wǎng)絡(luò)。VectorBlox加速器SDK還附帶了基于PolarFire視頻套件構(gòu)建智能AI相機(jī)平臺(tái)的說(shuō)明,讓開(kāi)發(fā)者可以更加方便地評(píng)估不同的卷積神經(jīng)網(wǎng)絡(luò)(CNN)。
此外,圍繞豐富的硅器件,Microchip還提供了豐富的評(píng)估套件,包括帶有TDK InvenSense 6軸MEMS運(yùn)動(dòng)傳感器的SAM D21機(jī)器學(xué)習(xí)評(píng)估套件和帶Bosch IMU的SAM D21機(jī)器學(xué)習(xí)評(píng)估套件。
通過(guò)全面的軟硬件組合,以及Microchip經(jīng)過(guò)驗(yàn)證的參考設(shè)計(jì)和經(jīng)驗(yàn)豐富的合作伙伴網(wǎng)絡(luò),可以幫助廣大機(jī)器學(xué)習(xí)開(kāi)發(fā)者降低風(fēng)險(xiǎn)、縮短上市時(shí)間、降低功耗和應(yīng)用成本。開(kāi)發(fā)者可以借助這些資源設(shè)計(jì)各種應(yīng)用程序,用于數(shù)據(jù)中心、自動(dòng)駕駛汽車(chē)、安全和監(jiān)控、電子圍欄、增強(qiáng)和虛擬現(xiàn)實(shí)耳機(jī)頭顯、無(wú)人機(jī)、機(jī)器人、衛(wèi)星圖像和通訊中心等領(lǐng)域。
上面我們對(duì)Microchip機(jī)器學(xué)習(xí)解決方案進(jìn)行了全面介紹,接下來(lái)我們通過(guò)一款具體的方案,看一下Microchip方案在機(jī)器學(xué)習(xí)方面的出色性能。在此,我們?yōu)榇蠹艺归_(kāi)介紹上面提到的帶有TDK InvenSense 6軸MEMS運(yùn)動(dòng)傳感器的SAM D21機(jī)器學(xué)習(xí)評(píng)估套件,貿(mào)澤電子上該評(píng)估套件的物料號(hào)為EV18H79A,大家可以通過(guò)搜索此物料號(hào),在貿(mào)澤電子平臺(tái)快速找到這款評(píng)估套件,并且通過(guò)該評(píng)估套件的詳情頁(yè)就可以看到我們上述提到的Microchip機(jī)器學(xué)習(xí)整體解決方案。
圖6:EV18H79A(圖源:貿(mào)澤電子)
EV18H79A SAMD21機(jī)器學(xué)習(xí)評(píng)估套件基于Arm? Cortex?-M0+的32位MCU打造,帶有板載調(diào)試器(nEDBG)、ATECC608A CryptoAuthentication安全元件IC和完全認(rèn)證的ATWINC1510 Wi-Fi網(wǎng)絡(luò)控制器。作為一款面向機(jī)器學(xué)習(xí)應(yīng)用的多功能傳感器開(kāi)發(fā)工具,EV18H79A上集成了Microchip MCP9808高精度溫度傳感器、光傳感器以及帶有TDK InvenSense ICM-42688-P、高精度6軸MEMS的附加板,幫助開(kāi)發(fā)者收集數(shù)據(jù)以訓(xùn)練和創(chuàng)建機(jī)器學(xué)習(xí)模型。
此外,為了讓開(kāi)發(fā)者更快上手EV18H79A SAMD21機(jī)器學(xué)習(xí)評(píng)估套件,Microchip還提供了用戶(hù)指南和項(xiàng)目示例,進(jìn)一步幫助大家縮短開(kāi)發(fā)周期。
可用于AIoT應(yīng)用的ESP-EYE開(kāi)發(fā)板
我們都知道,人工智能和物聯(lián)網(wǎng)融合而成的AIoT是邊緣智能典型的應(yīng)用場(chǎng)景,當(dāng)然也可以說(shuō),邊緣智能是AIoT落地的重要推動(dòng)技術(shù)。那么,接下來(lái)我們?yōu)榇蠹彝扑]一款來(lái)自制造商Espressif Systems(樂(lè)鑫科技)、可用于AIoT場(chǎng)景的ESP-EYE開(kāi)發(fā)板。
圖7:ESP-EYE(圖源:貿(mào)澤電子)
ESP-EYE是專(zhuān)注于AIoT智能物聯(lián)網(wǎng)領(lǐng)域的圖像識(shí)別與語(yǔ)音處理開(kāi)發(fā)板,板載ESP32系列芯片,集成200萬(wàn)像素?cái)z像頭、數(shù)字麥克風(fēng),擁有8MB PSRAM和4MB閃存的豐富存儲(chǔ),支持Wi-Fi圖像傳輸與MicroUSB調(diào)試與供電?;谝陨县S富的配置和功能,開(kāi)發(fā)者可以基于ESP-EYE實(shí)現(xiàn)語(yǔ)音喚醒、人臉檢測(cè)、人臉識(shí)別等交互功能,可廣泛應(yīng)用于智能物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用開(kāi)發(fā)。
同時(shí),為了幫助開(kāi)發(fā)者提升開(kāi)發(fā)效率,Espressif Systems為ESP-EYE準(zhǔn)備了全面的用戶(hù)指南,讓大家可在Linux、MacOS、Windows操作系統(tǒng)中完成軟件燒寫(xiě),并實(shí)現(xiàn)上述AIoT相關(guān)功能,可協(xié)助用戶(hù)開(kāi)發(fā)高度集成的AI解決方案。
邊緣智能未來(lái)發(fā)展趨勢(shì)
作為傳統(tǒng)云端智能的重要補(bǔ)充和延伸,邊緣智能具有無(wú)窮的魅力,是未來(lái)人工智能領(lǐng)域發(fā)展的重要方向,相關(guān)廠商也將以芯片和軟件技術(shù)為抓手,積極推動(dòng)邊緣智能的發(fā)展。
面向未來(lái),邊緣智能將呈現(xiàn)四大明顯的發(fā)展趨勢(shì)。首先是核心芯片集成度更高、算力更強(qiáng),整體方案更加智能;其次是系統(tǒng)架構(gòu)更加靈活,更容易開(kāi)發(fā)和部署;第三是邊緣智能方案的能效比將不斷提升,使得更多的AI負(fù)載將卸載到邊緣端;最后是邊緣智能的生態(tài)將更加成熟,圍繞核心硬件將會(huì)有更加豐富的配套工具和開(kāi)發(fā)環(huán)境。
而在邊緣智能技術(shù)不斷提升的過(guò)程中,電子元器件始終都將是整個(gè)方案最核心的部分之一,貿(mào)澤電子將持續(xù)為行業(yè)帶來(lái)前沿的元器件產(chǎn)品,助力實(shí)現(xiàn)更好的邊緣智能方案。
免責(zé)聲明:本文為轉(zhuǎn)載文章,轉(zhuǎn)載此文目的在于傳遞更多信息,版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問(wèn)題,請(qǐng)聯(lián)系小編進(jìn)行處理。
推薦閱讀:
低功耗藍(lán)牙/蜂窩物聯(lián)網(wǎng)智能手表實(shí)現(xiàn)遠(yuǎn)程護(hù)理和SOS警報(bào)
安森美和Ride Vision合作,為摩托車(chē)騎行者提供先進(jìn)的安全方案