第五波計算技術的融合——人工智能(AI)、5G與物聯網(IoT)——正持續加速令人驚訝的變化,并驅動全新的數據消費模型。在僅考慮IoT的情況:盡管還在發展初期,我們看到它已經褪去全球微型傳感器網絡的原始面貌,進一步擴展至包含更多高性能設備,包括從智能影像傳感器到自駕汽車。
隨著IoT持續成長并帶動全球數字化轉型,通往上游云端的數據海嘯,讓長期以來針對下游分配優化的網絡基礎設施遭受打擊。它也促生了一個迫切的需求,即在全球互聯網架構內實現更分散的算力分布,而這也導致對Arm Neoverse計算解決方案的需求與日俱增。整個生態系統已經對這個挑戰作出響應,而縱觀Arm過去一年內的進展, Neoverse正在將其初始愿景轉換成今日之現實。
由于大型數據集與專屬的算力相當集中的緣故,今日大負荷的AI計算多數在云端完成,特別是機器學習(ML)模型的訓練。但若把這些模型應用到真實世界中靠近決策點的推論時,以云端為中心的AI模型就會捉襟見肘。數據傳輸數千英里來到數據中心進行模型比較時,可能會碰到不少延時的問題,因此,沒有人能保證當結果返回時仍然對決策有用。時間至關重要,因此把“智能”從云端分配到邊緣,就顯得合情合理。
隨著對決策的要求朝邊緣移動,AI將扮演雙重角色。除了依據數據本身包含的信息作出及時決定之外,當大量的數據需要被導引至正確的位置時,AI需要在從流量管理到封包檢驗等方面都發揮作用。這是一個訓練與推論兼顧的問題,而傳統的計算系統無法與之相適應。過去,互聯網邊緣傳統上只是一個網橋,現在正快速變成智能計算平臺,并最終將促成我們稱之為AI Edge的浮現,并在2025年形成一個高達300億美元的計算芯片潛在市場規模。
它可顯著減少到云端的回程,降低延遲,并提升可靠性、效率與安全性。有鑒于當今來自全球設備部署的洞見來得極快,模型必須需要實時進化,這點已經顯現出至關重要性。利用AI邊緣的應用程序的成功部署,關鍵在于提供能夠覆蓋各種功耗與性能需求的多元解決方案。單一廠商的解決方案,并無法滿足所有需求。除了變成以AI為中心,AI邊緣必須是云端原生的、虛擬化(VM或containers)的,同時支持多用戶。最重要的是,它必須是安全無虞。
(本文轉載自電子發燒友網,如有侵權,請聯系刪除)