AI 和資料安全性的 7 個挑戰，以及建立韌性的提示

AI 在現代網路安全中兼具劍與魔力。它會在幾秒鐘內完成龐大的資料集，及早標記異常狀況，並購買防禦者採取行動的時間。根據 Ponemon Institute 的新研究指出，已有 47% 的美國組織已經使用 AI 來協助保護他們最寶貴的資產：資料。

為了了解團隊如何為儲存資料建立彈性，Ponemon Institute 調查了 610 名 IT 和資安從業人員，研究由 Pure Storage 贊助的「網路彈性狀態」研究。調查結果顯示，有 45% 的從業人員預期 AI 型安全技術將強化其組織的資料安全儲存。超過半數 （53%） 的 AI 表示，透過處理之前由人類團隊管理的任務，可以更有效率、更具成本效益地簡化保護。

然而，AI 也帶來新的資料安全風險。Ponemon Institute 調查的半數從業人員將資料中毒視為 AI 驅動儲存的威脅。其他則指出系統設定不佳，以及因過度依賴 AI 進行網路風險管理而造成配置錯誤。 

這些發現的關鍵要點：雖然 AI 工具能協助您更快發現問題，但達到真正的網路彈性取決於您保護和復原資料的能力。考慮到這一點，讓我們看看七項 AI 和資料安全挑戰，以及強化韌性的實際方法範例。

1. AI 無法消除網路安全中的人為因素

AI 可以找出模式並加速分類，但判斷仍取決於人員，包括要調查的內容、何時應向上呈報，以及如何遏制威脅。隨著攻擊者使用生成式 AI 來製造更令人信服的線索，資料安全帶來的更大風險並非“AI 取代人類”，而是團隊在沒有必要的訓練、決策框架和事件教戰手冊的情況下過度信任自動化。

建立韌性的提示

• 讓人員隨時掌握成果。使用 AI 監控來標記異常活動，例如意外刪除或非典型資料移動，但在觸發遏制步驟或重大回應之前，需要人為審查。
• 訓練向上呈報。確保員工知道何時應呈報警示、如何解讀和使用 AI 驅動的深度資訊，以及事件期間誰擁有最終權限。
• 排練事件回應。進行結合 AI 警示與人為決策的桌面練習，讓團隊在真實世界條件下練習遏制與溝通。

2. 即使使用 AI，也沒有任何 Silver Bullet

AI 對早期警告非常有用，例如標記異常的讀取、刪除和傳輸，但它無法保護資料安全，也無法讓您自行回到穩定狀態。強大的資料安全控制可降低遺失的可能性，並採取嚴謹的網路彈性做法，確保事件發生時能迅速復原。 

建立韌性的秘訣

• 強化資料層。現代化網路安全與分層息息相關。套用最低權限、保護金鑰保存庫，並鎖定儲存控制台，以防止誤用或竄改。

• 保持乾淨、防竄改、不褪色的副本。維護關鍵資料集和配置的受保護副本，並排練還原，以確保您能可靠地達成Recovery Point Objective （RPO） 和還原時間目標 （RTO） 目標。這將幫助您更好地抵禦備份竄改、Ransomware加密，以及意外或內部刪除。
• 依設計避免損壞。區隔網路並嚴格分離職責，防止單一入侵事件在整個環境中蔓延。

探索分層彈性如何保護資料完整性，並促進任何規模的快速復原。

3. AI 仍然比預防性功能更具反應性

AI 在資料儲存風險浮現方面非常強大，例如異常讀取、刪除或資料移動。然而，它無法預防根本原因，例如初始的網路釣魚點擊或竊取的權杖。好消息是，根據「網路韌性狀態」研究，AI 有助於減少安全團隊的人工工作負載。這意味著從業人員在預防措施上投入更多頻寬，如更強大的配置、員工訓練和例行系統強化。

建立韌性的秘訣

• 關閉簡易的門。保持系統修補、移除過時的帳戶，並關閉未使用的存取路徑，以防止簡單的攻擊獲得動力。再加上資安意識訓練，教員工如何辨識網路釣魚、惡意連結，以及其他社交工程技巧，讓使用者成為第一線防禦者。
• 面對風險變化，快速應對。為可能消除資料或削弱保護的行動新增短暫的暫停和快速檢視，例如刪除備份或變更保留/金鑰。清楚的標籤和簡短的檢查清單，有助於人們瞭解自己處於危險地區。
• 在自動駕駛上恢復—人類開始後。在實施重大更新或政策變更之前，請擷取難以忘懷的快照、維護一頁的復原計畫，並對樣本資料進行快速還原演練，以確保每個人都瞭解如何回到安全狀態。

4. AI 模型必須不斷演進，或風險不佳的電訪

AI 只有在從乾淨、最新的資料中學習後才有幫助。AI 模型若不加以控制，可能會漂移，將正常活動視為可疑或遺漏新模式。如同 Ponemon Institute 的研究，IT 和資安從業人員將刻意破壞資料，破壞訓練資料或標籤，視為 AI 驅動的儲存風險。

建立韌性的秘訣

• 使用可信賴的資料更新模型。定期使用經過驗證的代表性資料集重新訓練模型，並記下資料來源。擺脫任何您無法忍受的事物。
• 留意訊號。監控錯誤警報和遺漏。如果噪音增加，請微調警示或重新訓練，並在發生不點火情況時隨時保持備用模式就緒。
• 保護管線。限制誰可以變更訓練資料、標籤或偵測規則。對於大量更新，需要快速的同儕審查，並保留簡單的變更記錄。

5. 監督對於預防自動化而不需監督至關重要

AI 可以即時產生或調整安全規則。如果沒有防守，可能會過度安全（封鎖業務關鍵存取）或缺乏安全（遺漏真正的威脅）。根據 Ponemon Institute 對 Pure Storage 的研究，設定不當的系統是第二大 AI 驅動儲存風險，在未適當監督的情況下，會降低自動化的風險。

建立韌性的秘訣

• 先設定界限。說明 AI 可以自行調整的內容（例如，警示臨界值）、需要確認的內容，以及非上限的內容（例如，刪除政策）。
• 在信任前試用。先讓 AI 建議的變更在陰影模式下執行（建議/僅提醒）。此外，除非人類確認其應繼續，否則使用時間有限的變更會過期；這有助於確保未經驗證的規則不會持續存在。
• 安全推出，然後檢視。為一小群使用者進行階段更新，如果錯誤急遽增加，則自動還原，並快速每週檢視 AI 所做的變更或調整，以決定調整方式。

6. 有效的異常偵測需求 （非常） 廣泛的環境

為了找出駭客攻擊中的需求，AI 需要涵蓋使用者、系統和資料儲存環境。換句話說，它需要來自不同來源的大量資料。但規模縮減了兩種方式：如果沒有適當的護欄，資料防火套很容易讓工具和人員不堪負荷。

建立韌性的秘訣

• 監控重要事項。追蹤簡短的紅旗警訊清單，如異常刪除和大型轉帳。確保每個系統和資料集都有指定的擁有者，以協助加速決策。
• 維持資料可管理性。資料到達時刪除重複資料，在短時間內保留詳細記錄和摘要，並維持正常活動的清晰基準。
• 讓警示變得有用。關聯相關事件、設定合理的門檻，並只傳送高優先順序的警示給人員，尤其是當變更可能破壞或暴露資料時。

了解 Pure Storage 如何提供客戶所需的可操作 CVE 資訊，以瞭解並減輕漏洞。 

7. AI 的資料飢餓會提高隱私和合規風險

生成式 AI 系統通常需要存取敏感資料，以提供相關成果。這增加了意外暴露和合規性失誤的可能性，尤其是在一般資料保護規範 （GDPR）、加州消費者隱私法 （CCPA） 和新興 AI 責任規則的規範下。目標是在不擴大隱私攻擊面的情況下，啟用 AI。

建立韌性的秘訣

• 限制 AI 能看到的內容。標示敏感資料，並提供模型所需的資訊。預設情況下，遮蔽或移除個人資訊，並盡可能使用假的或較小的樣本資料進行測試。
• 為儲存設備建立隱私。使用強大的存取控制、限時權限，以及鎖定、不可變更的複本（不可變/保留鎖定），以免敏感資料遭到更改或外洩。此外，確保資料在靜態和傳輸過程中都經過加密。 REST
• 設定使用和分享的護欄。決定提示、結果和日誌的上線位置、誰可以存取，以及您將保留多久。遵循最低權限的方法，只有授權的使用者或系統才能檢視敏感的輸出。保留稽核記錄，並關閉任何儲存提示或結果的功能，除非您真正需要。

彈性是 AI 和資料安全性的前進方向

AI 已經透過自動化重複性任務、降低成本，以及為團隊提供寶貴的時間，來簡化資料安全性。但也會帶來新的風險。AI 的明智前進途徑 AI 是將彈性放在第一步，透過分層防禦、不可變資料和可復原的分層基礎架構，將安全性建立在您的基礎上。Pure Storage 透過簡化資料層的作業，並在最重要的時刻實現快速、可預測的復原，協助組織達成復原能力。

雖然上述的 AI 和資料安全挑戰全年持續存在，但網路安全意識月可作為即時提醒，以評估您的安全狀態，重新審視您的復原策略，並確保您的 AI 抱負建立在安全、合規和彈性的資料平台上，如 Pure Storage。展望 2026 年及以後，這些挑戰只會加劇，現在正是準備的時候。

The State of Cyber Resilience

Learn how 620 US-based IT security practitioners are approaching data storage security in the age of AI.

Read the Report