連續運算（Compute Continuum）正在蓬勃發展，其概念是把適當的運算資源放在系統中最佳的處理點 ─ 從雲端資料中心到邊緣系統及終端裝置。連續運算會跟哪些科技相關連？
文／Arm 白皮書
物聯網（IoT）裝置的加速成長以及這些裝置與系統擷取到的龐大資料，已經促使業界重新思考該在哪裡運算數據。因此，業界並未持續仰賴傳統的資料中心運算模型，而是擁抱了連續運算的概念：把適當的運算資源放在系統中最佳的處理點 ─ 從雲端資料中心到邊緣系統及終端裝置。
我們看到的轉移相當徹底，也非常的重要。在傳統的雲端模式中，企業的數據直接導引至雲端進行處理，原因是雲端是大多數重量級運算智能的所在。不過，在我們目前所處的由資料驅動轉型的年代，由於資料量的緣故以及新近對資安、安全、隱私、延遲與可靠性的重視，這越來越不像是個可長可久的經濟模式。
[ 2022年度CIO大調查報告下載 ]
如今數據的洞察驅動幾近即時的決策，直接影響工廠、城市、交通運輸、建物與家庭的運作。為了因應這個形勢，運算必須是快速、高效且安全，這大致上意味著將更多的運算工作放在比較靠近資料產生的地方。這也為更多的終端運算、運用全新型態的網路與私有邊緣伺服器進行更多本地化運算，以及分配哪些工作負載繼續放在雲端資料中心，作出明智的選擇，也提供了充分的理由。好消息是近來科技的進展已經匯聚在一起，讓這種數位轉型就經濟效益上變得可行。
這種以運算最佳化為中心的、嶄新的矩陣化思考的優點，在於它可以：
- 利用降低做決策的延遲，提升回應性。
- 提升資料的安全性與隱私。
- 較低的功耗。
- 使用較少的網路頻寬。
- 極大化效率、可靠性與自主性。
- 降低基礎建設與營運成本。
這些效益的結合，最終將為擁抱此一轉型的企業組織帶來全新的運算能力與機會。事實上，它對產業的好處相當大。據麥肯錫公司（McKinsey & Company）近期的一份研究報告估計，光是包括汽車、運輸、航太、國防產業以及整體工廠的次產業在內的工業界，藉由應用資料、分析結果與物聯網技術，就能享有超過一兆美元的新產出的價值（新營收與擴大的利潤率）。
如何善用連續運算
如先前所提，由於龐大的資料量以及嶄新資料洞察驅動的應用與商業模式需求，傳統基於雲端的模式在可擴充性方面碰到挑戰。資訊科技（IT）與營運科技（負責自動化與工廠作業的 OT ）的未來將與今日不同，它們將會融合成單一的網路與單一的作業模式，而 IT 資料、OT 資料、社群資料與客戶資料都將結合在一起，以獲取商業洞察。
此番斷言也獲得多項預測的支持：全球的網際網路協定（IP）流量2017年到2022年間將成長三倍，每年年成長率達到 26%。據思科的視覺網路指數（Visual Networking Index），2022年總 IP 流量每個月將達到 396 EB。全球行動裝置流量的成長可能更快：該指數指出同一期間內行動資料流量將會成長 7 倍，從2017年的每個月只有 11 EB，成長到2022年的 77.5 EB。在考量更多形式的流量後，市調公司 IDC 預測全球的資料儲存量於 2018 年到 2025 年期間，將從 33 ZB 長到 175 ZB。
簡而言之，打造更多數量的傳統資料中心，並不是長期永續的解決辦法。
在這份白皮書中，我們會提出嶄新的續運算的定義、趨勢/需求、架構、產品與效益。這點很重要，因為它可協助提供一致的用語的定義，特別是有關「邊緣」的使用；它同時也讓讀者對於可用的全新運算能力，產生新的理解。畢竟，我們希望這些資訊將協助產業重新思考如何設計產品、系統與網路，讓企業可以好好掌握即將到來的資料驅動的商機。
為何是現在這個時間點？
幾乎在所有垂直市場中的許多企業都已發現，他們可以藉由開採龐大的新資訊來源與資料，做出具有洞察的決策，讓他們的事業轉型。他們知道，若比競爭對手早一步如此做，可以帶來長期的成功。為此，他們想要利用更多的運算資源並打造物聯網網路，以便監控賣場、農地等。
此一轉型正在進行中。市調公司顧能（Gartner）估計2018年間，企業產生的資料有近九成是在集中式的資料中心或雲端處理。同樣的研究預測來到2022年，只剩下 25%的資料會集中處理，其餘的 75%會發生在雲端以外的連續運算範圍的某處。負責擷取所有資料的是數十億個全新的邊緣或終端裝置，它們在運算技術持續進步的帶動下，可以讓我們以符合成本效益的方式部署與日俱增的運算力。比方說，根據 Strategy Analytics 與 Arm 的預測，行動裝置的數量未來十年內預計將從 17 億個成長至 22 億個。根據顧能與 Arm，智慧網路攝影機的數量也將從 1.6 億支驟增至 13 億支；另外，根據 IDC 的《全球嵌入式與智慧系統預測報告，2017-2022》，具備 AI 功能的裝置數量會從 3 億個暴增至 32 億個。
硬體如此爆炸性的成長對於雲端來說，意味物聯網資料量的成長速度遠比頻寬的成長速度快上許多。我們只要考量一個使用場景就好：Arm 預計未來 5 億個高解析（ HD ）的影像感測器，每個月會產生高達 300 EB 的資料。那將超越終端網路可用的頻寬，更別提雲端。光是其中部份的資料（比方說保全攝影機），已經超越我們可以高效率的、或以合乎成本效益方式的，在終端裝置（攝影機）進行運算的資料量，但這些資料在靠近終端裝置的邊緣裝置上，卻可進行更好的處理。
科技趨勢
我們現在不妨來檢視促成連續運算成功，幾個科技趨勢。
運算
在運算層面上，開發人員感到空前的順手。處於物聯網裝置核心的處理器，連續幾個世代已經提供 32 位元與 64 位元的低功耗、通用運算，以及新近的訊號處理與機器學習功能。傳統上來說，每個類型的運算都需要獨立的運算區塊，但只限於一些專家才能進行產品的開發。今日，所有的開發人員無論經驗如何，都可以在儘可能靠近資料產生源頭的地方，輕易取用完成工作所需的運算類型。供邊緣使用的 64 位元裝置的崛起，開啟了將傳統的雲端應用轉移到邊緣的大門。開發人員有了雲端原生的開發模型後，已可在從邊緣一路到雲端的連續運算範圍中，安排與設置資料運算的最佳點。
訊號處理
當 ML 的浪潮開始來襲時，很少人預見搭載訊號處理功能的低功耗運算，會產生如此大的衝擊。傳統上在邊緣部署 ML 的方法，是讓類神經網路消耗原始的資料。這種方式的副作用是這種網路需要大量的記憶體與運算力。把 ML 分為兩個步驟處理的全新學派，目前已經浮現。首先是訊號調節或資料清理階段，隨後是類神經網路運算。第一遍先對原始的資料進行訊號處理，可以大幅減少網路運算力與記憶體的需求。網路接下來只針對清理過的資料採取動作，而這也降低了處理任務的複雜性。
AI/ML 的影響
另一個讓連續運算蓬勃發展的主因，則是人工智慧與機器學習。受惠於處理器不斷的提升與創新，過去一度只侷限在資料中心/雲端進行運算的 AI 與 ML 演算法，如今已能在邊緣處理，甚至是在最小型的終端裝置上。這也改變了我們對 AI 的想法。
AI 的成長始於雲端。雲端上無限且毫不費力的運算力，造成演算法的快速演進，並讓用戶從資料獲得存取權與洞察。但現在把 AI 放到雲端已不具效率；我們必須讓運算處理來配合資料，而非讓資料來配合運算處理。
根據 Arm 的估算，當今具備 AI 功能的裝置，有超過 95% 來自行動、智慧家庭與物聯網等市場，剩下的 5%則來自基礎建設。從這個數據得知，當今具備 AI 功能的出貨裝置中，有 90% 是基於 Arm 的架構。
使用邊緣運算的全球電信業決策者中有 43% 相信，邊緣運算將提供他們處理目前與未來人工智慧所需的彈性。
同時，AI 與 ML 已經部署在 CPU 上。最近一份 Arm 的工程調查顯示有超過四成的受訪者指出，他們把演算法部署在 CPU，而非特殊或卸載的引擎中。
這些需求需要全新層級的邊緣處理基礎建設，以及用來管理它們的支援軟體服務：
- ML 軟體技術的精進，讓 ML 作業可以在終端、或是基礎建設邊緣極小型且省電的模組中（ TinyML ）進行，而非在超大規模的資料中心。
- ML 目前可以在終端裝置與邊緣裝置執行，提供更快的即時洞察，並達成更佳的用戶體驗，並創造更多的營收。
異質運算
我們可在許多不同的異質（ Heterogeneous ）系統中，讓各種的架構（CPU、繪圖處理器、類神經網路處理器等）彼此結合。例如，小型與效率極高的處理器，搭配同一實體裝置中威力更強大的處理器與加速器，或許可提供 always-on 的功能。
根據 TECHnalysis Research，由於邊緣運算的工作負載從安全性（62%）到網路流量管理（59%）、資料快取（39%），再到連網應用加速（ 27%），彼此間的差異很大，因此這點相當重要。
安全性
經過數年的討論與探索，業界已將注意力集中在部署安全物聯網系統的需求與方法上。平台安全性架構（ PSA ）是針對安全性提出的一個強健且標準化的框架，可以讓裝置一出廠就具備安全性。許多政府若不是已對物聯網發表安全性指令，就是正在準備此類指令。從數年前發表了物聯網安全性宣言起，Arm 已經向前推進很長一段路。
連網
系統開發人員在連網方面，目前擁有歷來最佳的選項。藍牙、WiFi、窄頻物聯網（NB-IoT）、低功率廣域網路（LPWAN）、網狀結構…不管應用拓樸、範圍與功耗需求如何，都有可以滿足需求的無線電技術。更棒的是，5G 已經在全球各地推出。5G 設計的用意在於為物聯網的使用場景延伸行動網路，並利用低延遲的小型封包對數十億個節點提供支援，同時提供服務品質的支援。連網、AI/ML 以及開發人員可輕易取得各種運算匯聚在一起，讓所有的產業與組織都有可能進行數位轉型。
網路的演進
工廠內部多年來，都以 WirelessHeart、工業乙太網路（CC-Link IE、EtherCAT、Ethernet/IP、Modbus TCPJlkj、POWERLINK、PROFINET 與 SERCOS III）以及其它製造網路協議為主。汽車業與其它產業則已推出專屬的網路協議，以縮短傳統網路世界與特定產業間的落差。就像雲端供應商服務應用程式開發人員一樣，網路專家必須設置介面，讓其它專家可以依需求加速或放慢網路的服務與連接。
以連網汽車領域的網路為例。這裡的終端裝置是引擎控制單元（ECU），它會針對像是語音與手勢控制、車輛資訊、先進駕駛輔助系統（ADAS）與動力總成資料等服務，與車輛內部的邊緣閘道器進行溝通。如果要取用更龐大、資料量更大的資訊，車輛則會透過與微型多接取邊緣運算架構（μMEC）溝通，取得基礎建設的服務。μMEC 是一種專門用在智慧城市服務的小型硬體/軟體平台。它可以使用 5G、無線區域網路（WLAN ）或光纖連線，並可以安裝在路燈燈桿上、車輛中等。μMEC 的概念驗證是建構在 LuxTurrim5G 與開源元件的基礎上。
隨著這些經濟的與技術的驅動力讓網路出現轉型，它們同時也改變了企業。邊緣與終端的連續運算，把傳統物聯網供應鏈的數個階段限縮匯聚成一個盒子，然後把資料中心與雲端運算的資源帶到裝置的內部。這也讓 IT 界與 OT 界彼此的關係更為緊密。
驅動力與需求
延遲
隨著物聯網持續成長、而我們把更多的智能放到邊緣與終端裝置，延遲的問題變得相當重要。舉自駕車的列隊行駛為例：每台車輛要煞車，或對馬路以及/或其它車輛環境做出回應，需要毫秒的反應時間，無法等待雲端分析完即時情況後再採取動作。此外，所有可能對人類性命構成潛在危險的物聯網應用，對於回應/反應延遲都有嚴格的要求。例如，工廠的廠房檢測到故障後，必須在幾毫秒內立即下指令關閉大型馬達。
資料隱私與常駐
不管是因為資料的敏感本質、公司政策或是回應法規要求，許多企業組織可能偏好把敏感或價值較高的資料留在內部或本地儲存。同樣的，用戶也偏好儘可能把最多的個資留在他們的終端裝置上。在此類政策與規定的限制下，基礎建設的邊緣與終端可以處理與儲存這些資料。
功耗
不管是小型的電池驅動裝置、可以蒐集能源的終端裝置，或是接上中央電源的邊緣伺服器，功耗在連續運算範圍的所有環節都相當重要。當每個裝置消耗幾毫瓦的數十億個全新的物聯網裝置，所有裝置功耗加總起來，就相當可觀。此外，傳送資料會比運算資料消耗更多的電池電力，因此透過本地執行運算以傳送較少量的資料，可以延長電池的續航力。
頻寬
資料的中轉相當昂貴，而對於雲端來說，物聯網資料量的成長速度遠高於頻寬的成長速度。語音啟動任務中，要傳送一個長度五秒鐘的語音檔案片段到雲端，需要 330 GOPS （每秒 10 億次運算）的運算力來執行自動語音辨識、並以每秒 32kb 的速度把音訊資料傳送至雲端。同一片段若要執行自然語言處理並送回終端裝置，則需要 600 GOPS。這還不包括裝置已經執行的語音檢測、關鍵詞萃取、波束成形、回音消除與噪音抑制等運算。因此，更大的資料量需要更大型的網路，也因此成本更高、且更耗電。
可靠性/功能性安全
邊緣與終端解決方案，讓企業得以因應針對可靠性與安全的關鍵需求。管理關鍵任務的機械與設備，需要在邊緣擷取、處理與管控資料，以便降低無預期停機或失靈的潛在可能性，而這種可能性可能因為維修費用與營收的流失，讓損失很快累積達到數百萬美元，更別提現場工作人員的安全。任何可能直接或間接對人員造成傷害的作業或系統，通常設計時都會考量到功能性安全。在最壞的情況下，我們允許系統故障，但絕不允許它的故障對人員造成傷害。
自主性
當網際網路回傳、或其它端點暫時無法使用、讓資料因此無法傳至雲端時，廠商憑藉利用邊緣的運算力，仍然可以持續提供服務（且在某些情況下，某些系統可能並不需要隨時連網）。我們藉由強化較大型架構的回復性，可以緩和網路斷線帶來的衝擊。例如，不管是否與雲端連線，海上的鑽油平台都必須針對安全與成本做出決策。
成本
降低網路基礎建設的成本（頻寬、傳輸與作業），是連續運算另一個關鍵的效益。外海的鑽油平台使用昂貴的衛星傳輸系統把資料傳送到雲端，因此大量的資料會讓帳單金額暴增。
安全性/節點的保護
任何有關物聯網的討論倘若沒有回應對安全性的考量，都是不完整的。邊緣與終端裝置由於並非安裝在受到保護的資料中心內，因此會有更多挑戰。所有的部署作業都需要一個「終端 ─ 邊緣 ─ 雲端」的安全性架構，以確保可靠的長期作業。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球CIO同步獲取精華見解 ]
結論：未來開放的道路
未來幾年，所有的產業、經濟活動與生活，都將出現重大的數位轉型。安全的「終端 ─ 邊緣 ─ 雲端」物聯網解決方案，將部署在各個工廠、城市與家庭中。全球經濟的運作模式，基本上，轉型將使資源使用更有效率、對環境更友善，並能以客戶為中心。拜新參與者之賜，這種轉型將會發生。他們在連續運算解決方案提供的設計彈性與選擇性的激勵下，可以大膽提出全新的創新產品、打造可以擴展連續運算的全新協會組織，並在全新的標準下聯合起來，加速並簡化部署作業。我們已經看到此類的協作，像 MEC/ Linux Foundation Edge/ IIC / 邊緣運算聯盟（ Edge Computing Consortium ）等組織，就是明證。
從資料中心到邊緣再到終端的這個龐大的連續電子運作的範圍內，重新思考如何部署運算資源，在未來幾年內將帶動驚人的創新與技術的精進。
終端與邊緣運算會帶來：
- 藉由降低來回兩趟的延遲，帶來更佳的回應性。
- 提升資料的安全性與隱私。
- 降低功耗。
- 更佳利用網路頻寬。
- 為系統帶來高效率、可靠性與自主性。
- 更低的部署與營運成本。
企業利用連續運算提供的選擇與解決方案，可以更完整地進行數位轉型作業，並在嶄新資料來源彙集產出的可操作洞察驅動下，將會看到更佳的利用率與效率，以及全新的商業模式。
我們稍早引用的麥肯錫公司的研究報告指出，「整體工業界的成功轉型」可以讓股東的收益最高提升兩兆美元，增加幅度為 9%到 22%。這包括近一兆美元的營收成長（成長率為 3%到 10%），以及因為效率提升利潤率放大可能產生的 0.7 兆美元（成長率為 4%到 9%）。
正如雲端運算創造了龐大的全新應用與服務，並以前所未見的規模帶來高效率，連續運算將帶來更大的價值。各種關鍵技術匯聚在一起，將促成更高的工程生產力、更快的創新、更具深度的洞察，更多共同協作的可能性、全新的商業模式，以及目前還未發現到的嶄新資料驅動的營收流。與之前的產業典範轉移一樣，跑在前面的人，勢必將獲取更大比例的經濟效益。（本文內容由 Arm 提供）
