物聯(lián)網(wǎng)“新篇章”：如何將機器學(xué)習(xí)引入邊緣計算?

導(dǎo)讀：回顧昨日，2018 年風(fēng)口浪尖上的云計算，“人人說云，事事上云”，各大中型企業(yè)到初創(chuàng)企業(yè)紛紛把不同類型的應(yīng)用服務(wù)遷移到云上，尋找上云最佳途徑。

圖片來自“123RF”

自 2006 年云計算正式在科技世界中展露頭角，近 13 年的迅猛發(fā)展，2019 年云計算市場早已不同以往?；仡欁蛉?，2018 年風(fēng)口浪尖上的云計算，“人人說云，事事上云”，各大中型企業(yè)到初創(chuàng)企業(yè)紛紛把不同類型的應(yīng)用服務(wù)遷移到云上，尋找上云最佳途徑。再看今朝，AI、物聯(lián)網(wǎng)、5G 等新興技術(shù)的發(fā)展落地，不斷拓寬著云計算的實踐邊界與應(yīng)用空間。

與云計算互補：AI 推動邊緣計算應(yīng)運而生

從云計算對傳統(tǒng) IT 架構(gòu)的顛覆性變革，到 AI 構(gòu)建模型與算法的智能世界，再到萬物互聯(lián)的 IoT 悄然崛起，云計算以排山倒海之勢拉動著 IT 產(chǎn)業(yè)鏈的發(fā)展，而人工智能和物聯(lián)網(wǎng)也一直都是社會普遍關(guān)注的焦點話題。

值得注意的是，近兩年，與我們生活息息相關(guān)的智能服務(wù)隨處可見，但其底層的 AI 技術(shù)或者說機器學(xué)習(xí)技術(shù)卻已擁有著超過 50 年的悠久歷史。要說“人工智能”為何在近幾年才逐步走近人們的生活，這與云計算有著密切聯(lián)系。2006 年云計算的誕生，預(yù)示著人工智能拐點的到來，數(shù)據(jù)量越來越大，計算能力越來越強，過去不實用的 AI 技術(shù)到了 2006 年也都逐步進入實用階段，可以說，是云計算讓 AI 技術(shù)更加接近企業(yè)與消費者，并不斷利用 AI 技術(shù)驅(qū)動著產(chǎn)業(yè)變革。

技術(shù)發(fā)展總是相互貫通的，隨著數(shù)十億的智能設(shè)備在住房、工廠、醫(yī)院、汽車等地普及開來，物聯(lián)網(wǎng)技術(shù)的興起必然是這個時代的又一場革命。隨著物聯(lián)網(wǎng)在各行各業(yè)的推廣應(yīng)用，我們急需一個解決方案來收集、處理、存儲這些物聯(lián)網(wǎng)設(shè)備所產(chǎn)生的龐雜數(shù)據(jù)，而云計算平臺正是分析加工這些海量數(shù)據(jù)與連接的技術(shù)基石。同時，IoT 通常會在邊緣端對設(shè)備進行管理和控制，很多的數(shù)據(jù)需在邊緣進行實時決策，這就對邊緣設(shè)備的智能化提出了更高的要求。

將機器學(xué)習(xí)智能引入邊緣計算

邊緣計算意味著把云計算的資源、計算、存儲等能力帶到更接近用戶的本地邊緣設(shè)備中，大量計算可以在本地直接處理，而無需把所有數(shù)據(jù)都發(fā)送到云端，實現(xiàn)本地事件的更快響應(yīng)。

事實上，要想確保 IoT 應(yīng)用程序能夠快速響應(yīng)本地事件，則必須以非常低的延遲獲得推理結(jié)果，但這時如果把數(shù)據(jù)發(fā)送至云端，再等待云端的推理決策，這個過程就很難滿足一些業(yè)務(wù)場景的需求。

例如，在很多智慧城市的智慧攝像頭場景中，智能攝像頭需要在邊緣側(cè)快速識別汽車牌照或者人臉等場景，如若把海量的視頻數(shù)據(jù)實時上傳到云端去做推理，這勢必會帶來大量不必要的帶寬占用，并無法滿足其對于實時決策的需求，這時就需要一個更加智能的解決方案來做推理。

但是，僅使用云計算來部署人工智能的方式，與將云計算與邊緣計算有效結(jié)合起來應(yīng)用人工智能的方式截然不同。數(shù)據(jù)科學(xué)家依靠云計算來攝取和存儲大量數(shù)據(jù)集，并識別數(shù)據(jù)中的模式和關(guān)系，在建立模型的整個過程中，訓(xùn)練和優(yōu)化機器學(xué)習(xí)模型需要大量計算資源，因此與云計算是天然良配。

而實際上，最終的、經(jīng)過優(yōu)化的機器學(xué)習(xí)模型在推理的過程中并不需要太多的資源。所以為了確保 IoT 應(yīng)用程序以非常低的延遲獲得推理結(jié)果，我們就可以把訓(xùn)練放在云端，推理放在邊緣側(cè)，以達到利用云端去訓(xùn)練機器學(xué)習(xí)模型，利用邊緣設(shè)備實時進行推理，甚至在沒有互聯(lián)網(wǎng)的環(huán)境中產(chǎn)生數(shù)據(jù)時，也能實現(xiàn)高速響應(yīng)業(yè)務(wù)變化并作出決策。

例如，在智慧農(nóng)業(yè)的場景中，裝在農(nóng)田里的傳感器會對收集的環(huán)境數(shù)據(jù)進行實時決策。但在這些場景中，設(shè)備通常無法保證連接到互聯(lián)網(wǎng)，這時就更加需要邊緣端實時作出決策，待設(shè)備具備互聯(lián)網(wǎng)連接時，再同步數(shù)據(jù)到云端。

廣闊的市場前景，潛在的應(yīng)用范圍，毋庸置疑，人工智能讓邊緣計算更有價值。據(jù)美國市場調(diào)研公司 CB Insights 估算，到 2023 年全球邊緣計算行業(yè)，整體市場容量有望達到 340 億美元。其中包括亞馬遜、微軟、谷歌在內(nèi)的幾大公有云巨頭的爭相布局也說明了邊緣計算未來發(fā)展的無限潛力，尤其在智能家居領(lǐng)域，邊緣計算如何發(fā)揮更大價值已成為行業(yè)的主要研究方向。

智能家居中的邊緣智能

目前，智能家居中的大部分智能設(shè)備主要還是通過云計算來實現(xiàn)設(shè)備交互，但設(shè)備對云計算的強依賴同樣會產(chǎn)生響應(yīng)速度慢、延遲感強、網(wǎng)絡(luò)故障等諸多問題。這時，填補目前云計算特性不足并提升計算效率的邊緣計算，在智能家居領(lǐng)域中強勢崛起。

據(jù)麥肯錫預(yù)測，到 2025 年，全球聯(lián)網(wǎng)設(shè)備總量將達 750 億。從智能的家庭監(jiān)控攝像頭，到智能門鎖，智能空調(diào)等，對于每天要處理大量 IoT 數(shù)據(jù)的智能家居行業(yè)來說，邊緣計算將成為必然選擇。

以格蘭仕的智慧家居數(shù)字化轉(zhuǎn)型為例，自 1978 年 9 月 28 日創(chuàng)立以來，格蘭仕歷經(jīng)多次轉(zhuǎn)型，從輕紡明星企業(yè)，到微波爐“黃金品牌”，再到綜合性白色家電集團，成為中國家電產(chǎn)業(yè)的龍頭企業(yè)之一。然而隨著科技的發(fā)展和消費需求的變化，為了應(yīng)對智能化制造、精益化管理等一系列挑戰(zhàn)，格蘭仕決定開啟第四次轉(zhuǎn)型 —— 數(shù)字化轉(zhuǎn)型。

但格蘭仕過去傳統(tǒng)架構(gòu)設(shè)計的信息系統(tǒng)已不再適用，在數(shù)字化轉(zhuǎn)型過程中，格蘭仕在對比了眾多解決方案后，最終選擇利用 AWS IoT 、AWS ECS 等 AWS 解決方案完成了電商平臺與物聯(lián)網(wǎng)平臺的開發(fā)部署。

在 AWS 智慧家庭設(shè)備的解決方案中，用戶可在 Amazon SageMaker 中構(gòu)建預(yù)測模型以用于場景檢測分析，并對其進行優(yōu)化以便在任何攝像機上的穩(wěn)定運行，然后部署該模型以便預(yù)測可疑活動并發(fā)送警報，實現(xiàn)在云中構(gòu)建、訓(xùn)練和優(yōu)化機器學(xué)習(xí)模型，并在本地設(shè)備進行推理的高效響應(yīng)。

用戶首先可將訓(xùn)練數(shù)據(jù)上傳至存儲桶中，并選擇 SageMaker 提供的現(xiàn)有算法生成訓(xùn)練模型，該模型以壓縮 zip 文件的形式被復(fù)制到另一 Amazon S3 存儲桶內(nèi)。接下來，該 zip 文件會被復(fù)制到設(shè)備中，該設(shè)備則在運行時由 AWS Lambda 函數(shù)進行調(diào)用。其中，在 IoT Greengrass 上運行推理過程所收集到的數(shù)據(jù)可發(fā)送回 SageMaker，進行就地標記，并用于不斷提高機器學(xué)習(xí)模型的質(zhì)量。

在上圖具體的智慧家庭場景中，機器學(xué)習(xí)模型需要在家中的智能攝像頭和網(wǎng)關(guān)的邊緣設(shè)備上直接運行，并檢測是否發(fā)生了一些需要實時處理的數(shù)據(jù)。在邊緣端，這些機器學(xué)習(xí)模型作為一個 Serverless 函數(shù)部署，該函數(shù)則由應(yīng)用程序直接調(diào)用(圖中 2 和 6)。在每個邊緣位置，由于 FaaS 中的部署單元為一個函數(shù)，因此它比推送到虛擬機或容器要更高效得多，而且一旦有新的機器學(xué)習(xí)模型在云端產(chǎn)生時，都會為其分配一個新版本，并將其同步到邊緣端去運行(圖中 2，3 之間的交互)。總之，機器學(xué)習(xí)的繁重工作在云中完成，邊緣計算簡化了推理與部署體驗，Serverless 也將簡化開發(fā)人員的工作負擔(dān)。

小結(jié)

邊緣計算作為算力架構(gòu)優(yōu)化最重要的技術(shù)，不僅是物聯(lián)網(wǎng)發(fā)展的重要方向，同時也是未來 AI 技術(shù)的重要延伸。萬物互聯(lián)，將機器學(xué)習(xí)智能引入邊緣計算，使智能計算更接近于應(yīng)用程序，人工智能與邊緣計算的融合與突破，勢必將重新定義未來科技的發(fā)展新方向。