總結
Edge AI can bring together AI and edge computing. In the future, deploying AI workflows closer to sources of data generation or to the endpoints where decisions are acted on can help produce faster results at a lower cost.
隨著 AI 的不斷增加,實際問題仍舊是關於有效且符合成本效益地採用 AI。邊緣 AI 是人工智慧最具影響力的調整方案之一,因為它需要部署整個 AI 工作流程,使其更接近資料來源或做出決策的端點。邊緣運算讓 AI 的強大功能更加強大。
什麼是邊緣 AI?
邊緣 AI 已經提出,適合各種需求分析的機器人手術裝置,以及智慧型手機語音助理,以一小段時間回應您的問題。在每種情況下,邊緣 AI 允許在本地(邊緣)進行資料收集、分析和決策,而無需在雲端運算資源的幫助下來回傳輸資料。它讓現有的連線應用程式更快速、反應更靈敏,因此可將 AI 應用程式放置在更多設定中,例如無線網路微弱的遠端位置。
邊緣 AI 可能是在 AI 開發和基礎架構的投資中帶來實質成果的催化劑。邊緣端的 AI 能將豐富、功能性、低延遲的情報帶入更多使用案例,並藉此讓 AI 更有效地產生價值成果。
如何運作?
邊緣 AI 透過多項啟動技術的演進來實現:
- 機器學習的功能已經發展到組織可以更輕鬆地開發和部署自訂邊緣 AI 應用程式,以解決現實生活中的問題。
- GPU 和平行處理技術的進步,讓部署在邊緣端執行 AI 所需的強大獨立式運算硬體成為可能。
- IoT並非新技術,但為邊緣AI提供了其他必要的原料:資料。有了內建的運算能力,IoT裝置就不再需要連接到網際網路,即可執行基本功能,並對收集的資料採取行動。
邊緣 AI 和雲端 AI:完美的合作夥伴
邊緣 AI 和雲端 AI 並非問題的一部分,而是兩項輔助工具,可協助組織以最有效率的方式部署自己的 AI 應用程式。雲端仍扮演關鍵角色,提供訓練、部署及管理邊緣 AI 的管道,至少針對無線網路範圍內的執行個體,以及針對重負載或邊緣部署無法處理的運算提供額外運算。雲端也會收集資料,持續最佳化應用程式,並用於組織的其他位置。
分散式 AI (DAI) 是一種混合式方法,旨在利用所有可用資源達成目標。與使用雲端相比,邊緣 AI 是完成任務的較便宜的方式,但可能僅適用於特定使用案例和特定條件下,例如,如果服務供應商透過使用方式收費。DAI 利用邊緣裝置、雲端和網路,根據所需處理能力、延遲、成本、網路流量和安全性等參數來分享 AI 工作負載。
邊緣 AI 的優勢:尋找投資報酬率
邊緣 AI 的主要優勢是,與雲端連結的 AI 相比,延遲更低,效能更快,此外,在無網路的環境下部署 AI。邊緣 AI 不含網路變數,可提升任務關鍵型應用程式的可用性和可靠性。它也可能為敏感資料提供更多隱私,並對網路罪犯造成更有限的攻擊面。對於希望控制網路使用量和相關成本的組織而言,邊緣 AI 是一個高效的解決方案,特別是當作為 DAI 系統的一部分使用時。
然而,並非所有 AI 都需要在邊緣端執行。額外硬體的成本必須權衡它能提供的價值。邊緣 AI 也能增加挑戰性,尤其是在嘗試大規模管理時。當選項可用時,雲端連接邊緣 AI 節點的集中控制和管理可能比自動化裝置的效能增強更有利。
邊緣AI的挑戰
邊緣 AI 在有希望的同時,在資料儲存基礎架構和管理方面面臨重大挑戰,這直接影響業務成果、投資報酬率和投資決策。以下是五大關鍵挑戰:
- 有限的儲存容量和可擴充性
邊緣裝置的儲存容量通常有限,因此難以在本地儲存和處理大量資料。這限制了有效擴展 AI 應用程式的能力,導致即時資料處理和決策的瓶頸。效率低落的資料處理可能會延遲深度資訊,影響及時決策,並降低邊緣 AI 承諾的競爭優勢。
- 資料管理複雜性與遠端管理
邊緣 AI 涉及即時管理,通常不完整或嘈雜的資料,這使得資料品質和可靠性變得複雜。確保資料完整性對於準確的 AI 模型輸出至關重要。不良的資料品質可能導致深度資訊受損,影響業務決策,最終影響投資報酬率。高品質資料管理對於最大化 AI 的價值至關重要。邊緣位置也往往缺乏現場 IT 支援,因此需要具備簡易遠端管理能力的解決方案。
- 資料超載與備援
邊緣產生的資料量龐大,可能導致資料彙總和備援的效率低下。這會導致資料傳輸和儲存的成本增加。除非儲存裝置具備擴充性與效能,足以抵消邊緣 AI,否則資料處理成本過高可能會降低潛在的投資報酬率。
- 電力與資源限制
邊緣裝置通常在電力與資源限制下運作,需要針對低功耗進行 AI 模型最佳化,同時不影響效能。低效率的資源利用率會限制邊緣 AI 解決方案的部署,影響他們提供即時深度資訊的能力,並影響整體業務效率。
- 整合與互通性的挑戰
分散的供應商生態系統,以及將邊緣 AI 與現有系統整合的複雜性,都可能阻礙無縫資料管理和處理。整合上的挑戰可能會延遲邊緣 AI 投資的投資報酬率,因為這些投資會讓 AI 解決方案在各種環境中的部署和擴展變得複雜。
解決這些挑戰對於發揮邊緣 AI 的最大效益,並確保投資能產生實際的業務成果至關重要。透過制定健全的資料管理策略和優化儲存基礎架構,組織可以釋放邊緣 AI 的全部潛力,以增強決策能力並推動業務成長。
應用案例
一些最令人興奮的邊緣 AI 使用案例,是將自主決策帶入網路覆蓋範圍之外的遠端位置,例如礦場、農場、未開發區域或外部空間。它還可以支援自駕車和軍事硬體的地理範圍和系統效能。
此外,邊緣 AI 也協助現有的 AI 使用案例提升效能。例如,醫療或工廠環境中的機器人裝置,用來將資料傳輸到雲端進行處理,可以更快回應,並提高操作的精確度。
正確的資料儲存裝置如何支援邊緣 AI 的成功
選擇合適的資料儲存解決方案對於解決邊緣 AI 應用程式的挑戰至關重要,特別是由於邊緣位置的遠端和空間受限。Pure Storage 透過以下方式解決邊緣 AI 資料儲存基礎架構和管理方面的挑戰:
- 管理資料過載和備援:Pure Storage 分層基礎架構透過將經常存取的資料儲存在高速儲存上,以及將較不經常存取的資料歸檔到符合成本效益的儲存上,來協助管理資料過載。這種方法可降低資料傳輸和儲存的相關費用。
- 避免電力與資源限制:Pure Storage 平台比其他全快閃儲存廠商節省高達 85% 的電力,解決了大型 AI 叢集和電力受限資料中心的電力限制問題。這種效率支援優化的資源利用率。FlashArray//RC20 專為滿足低容量環境與邊緣部署的需求而設計。
- 克服整合與互通性的挑戰:Pure Storage 解決方案的設計能與現有系統無縫整合,包括 GPU 叢集。它們為各種 AI 工作負載提供統一的平台,簡化資料管理,並確保不同環境的相容性。
深入了解 FlashBlade//EXA,以及 FlashBlade 如何為要求嚴苛的 AI 工作負載提供無與倫比的效能和可擴充性。
Accelerate AI Innovation
Learn more about the most powerful data storage platform ever, built for AI.






