AI와 데이터 보안의 7가지 도전과제 및 복원력 구축을 위한 팁

AI현대 사이버 보안에서 AI는 ‘검’이자 ‘방패’입니다. AI는 방대한 데이터 세트를 몇 초 만에 분석하고, 이상 징후를 조기에 포착해 방어자가 대응할 수 있는 시간을 벌어줍니다. Ponemon Institute의 최신 연구에 따르면, 미국 조직의 47%가 이미 가장 가치 있는 자산인 데이터 보호를 위해 AI를 사용하고 있습니다.

퓨스토리지에 저장된 데이터의 회복 탄력성을 어떻게 구축하고 있는지 이해하기 위해, Ponemon Institute는 퓨어스토리지가 후원한 “사이버 복원력 실태” 연구에서 610명의 IT 및 보안 실무자를 대상으로 설문을 진행했습니다. 이에 따르면 응답자의 45%는 AI 기반 보안 기술이 자사의 데이터 보안·스토리지를 강화할 것이라고 기대했고, 절반이 넘는 53%는 AI가 기존에는 인간이 처리하던 작업을 더 업무 효율적이고 비용 효율적으로 처리함으로써 보호 작업을 단순화한다고 답했습니다.

하지만 AI는 새로운 데이터 보안 위험도 함께 가져옵니다. Ponemon Institute 설문에 참여한 실무자의 절반은 데이터 포이즈닝(data poisoning)을 가장 심각한 AI 기반 스토리지 위협으로 꼽았습니다. 또 다른 응답자들은 사이버 위험 관리를 위한 AI에 대한 과도한 의존으로 인해 시스템 설정 및 구성이 잘못되었다고 지적했습니다.

이 결과에서 얻을 수 있는 핵심 메시지는 무엇일까요? AI 툴은 문제를 더 빨리 발견하는 데 도움이 될 수 있지만, 진정한 사이버 복원력을 달성할 수 있는지는 데이터를 얼마나 잘 보호하고 복구할 수 있는지에 달려 있다는 점입니다. 이를 염두에 두고, AI와 데이터 보안에서 마주하는 7가지 도전과제와 함께 회복 탄력성을 강화할 수 있는 실질적인 사례들을 살펴보겠습니다.

1. AI는 사이버 보안의 인적 요소를 제거하지 못한다.

AI는 패턴을 찾아내고 분류 속도를 높일 수 있지만, 무엇을 조사할지, 언제 에스컬레이션할지, 어떻게 위협을 차단할지에 대한 최종 판단은 여전히 사람의 몫입니다. 공격자들이 생성형 AI를 사용해 더욱 그럴듯한 미끼를 만들어 내면서, 데이터 보안에 있어 더 큰 위험은 ‘AI가 사람을 대체하는 것’이 아니라, 필요한 교육, 의사결정 프레임워크 및 침해 사고 플레이북 없이 자동화에 과도하게 의존하는 것입니다.

복원력 구축을 위한 팁

• 사람들이 결과를 책임지게 하세요. 예기치 않은 삭제나 비정상적인 데이터 이동과 같은 이상 활동을 탐지하기 위해 AI 모니터링을 활용하되, 격리 조치나 주요 대응을 실행하기 전에는 반드시 사람이 검토하도록 합니다.
• 에스컬레이션 교육을 실행하세요. 직원들이 언제 알림을 에스컬레이션해야 하는지, AI 기반 인사이트를 어떻게 해석·활용해야 하는지, 사고 발생 시 최종 권한을 가진 사람이 누구인지 명확히 알 수 있도록 합니다.
• 침해 사고 대응 리허설을 진행하세요. AI의 알림과 인간의 의사결정을 결합한 모의 연습을 실행하여 실제 상황과 유사한 환경에서 격리 및 커뮤니케이션 연습을 합니다.

2. AI를 도입해도 보안에 ‘만능 해결책’은 없다.

AI는 비정상적인 읽기, 삭제, 전송을 표시해 조기 경보를 제공하는 데는 유용하지만, 그 자체로 데이터를 안전하게 지키거나 시스템을 안정 상태로 되돌려놓지는 못합니다. 강력한 데이터 보안 통제는 손실 가능성을 줄여 주고, 잘 정립된 사이버 복원력 프랙티스는 사고 발생 시 빠르게 복구할 수 있도록 보장합니다.

복원력을 구축하기 위한 팁

• 데이터 계층을 강화하세요. 현대 사이버 보안에서 중요한 건 바로 계층화입니다. 최소 권한 원칙을 적용하고, 키 볼트를 안전하게 보호하며, 스토리지 콘솔을 잠궈 오·남용이나 변조를 방지해야 합니다.

• 깨끗하고 변조가 어려운, 지워지지 않는 사본을 유지하세요. 중요한 데이터 세트와 설정의 보호된 사본을 유지하고, 복구 연습을 통해 복구시점목표(RPO)와 복구시간목표(RTO)를 안정적으로 충족할 수 있는지 확인해야 합니다. 이는 백업 변조, 랜섬웨어 암호화, 실수 또는 내부자에 의한 삭제에 더 잘 대비할 수 있도록 도와줍니다.
• 설계 단계에서부터 피해를 방지하세요. 네트워크를 분할하고, 엄격한 직무 분리를 적용해 단일 침해가 전체 환경으로 확산되는 것을 막아야 합니다.

계층화된 복원력이 어떻게 데이터 무결성을 보호하고 어떤 규모에서도 신속한 복구를 가능하게 하는지 알아보세요.

3. AI는 여전히 예방보다 ‘사후 대응’에 가깝다.

AI는 비정상적인 읽기, 삭제, 데이터 이동 등 데이터 스토리지 위험을 드러내는 데 강력합니다. 하지만 초기 피싱 클릭이나 도난당한 토큰과 같은 근본 원인은 막지 못합니다. 반가운 점은, “State of Cyber Resilience” 연구에 따르면 AI가 보안팀의 수작업 업무를 줄이고 있다는 것입니다. 이는 실무자들이 더 강력한 구성, 직원 교육, 정기적인 시스템 하드닝 같은 예방 조치에 더 많은 시간을 투자할 수 있음을 의미합니다.

복원력을 구축하기 위한 팁

• 쉬운 공격 경로부터 차단하세요. 시스템 패치를 최신 상태로 유지하고, 오래된 계정을 제거하며, 사용되지 않는 접근 경로를 닫아 단순한 공격이 확산되기 전에 차단해야 합니다. 여기에 직원 대상 보안 인식 교육을 더해, 피싱, 악성 링크, 기타 사회공학 기법을 식별하는 법을 가르치면 사용자를 최전선 방어자로 만들 수 있습니다.
• 위험한 변화에 미리 대비하세요. 백업 삭제나 보존 정책/키 변경처럼 데이터를 지우거나 보호를 약화시킬 수 있는 작업에는 짧은 대기 시간과 빠른 검토 단계를 추가해야 합니다. 명확한 라벨과 짧은 체크리스트는 사용자가 지금 위험 구간에 들어왔다는 것을 인지하는 데 도움이 됩니다.
• 사람의 ‘승인’ 이후에는 자동으로 복구가 이뤄지도록 하세요. 대규모 업데이트나 정책 변경을 적용하기 전에, 지워지지 않는 스냅샷을 생성하고, 한 페이지짜리 롤백 계획을 준비하며, 샘플 데이터를 대상으로 한 빠른 복구 연습을 수행해 모두가 안전한 상태로 돌아가는 방법을 이해하도록 해야 합니다.

4. AI 모델은 계속 진화해야 한다 – 그렇지 않으면 잘못된 판단을 내릴 위험이 있다.

AI는 깨끗한 최신 데이터로부터 학습할 때만 도움이 됩니다. 선택하지 않으면 AI 모델이 드리프트하여 정상적인 활동이 의심스럽거AI는 깨끗하고 최신 데이터로부터 학습할 때만 도움이 됩니다. 방치된 AI 모델은 정상적인 활동을 의심스럽다고 표시하거나 새로운 패턴을 놓칠 수 있습니다. 또한 Ponemon Institute 연구에서 알 수 있듯, IT 및 보안 실무자들은 학습 데이터나 레이블을 훼손하는 의도적인 데이터 포이즈닝을 가장 중요한 AI 기반 스토리지 위험으로 보고 있습니다.

복원력을 구축하기 위한 팁

• 신뢰할 수 있는 데이터로 모델을 새로 고치세요. 검증된 대표 데이터 세트를 사용해 모델을 정기적으로 재훈련하고, 데이터의 출처를 기록해야 합니다. 신뢰할 수 없는 데이터는 완전히 제거하세요.
• 신호를 주의 깊게 관찰하세요. 오경보 및 누락을 모니터링하세요. 노이즈가 증가하면 경보를 미세 조정하거나 재훈련을 진행하고, 변경이 잘못 작동했을 때를 대비해 항상 대체 모델을 준비해 두어야 합니다.
• 파이프라인을 보호하세요. 학습 데이터, 레이블, 탐지 규칙을 변경할 수 있는 사람을 제한해야 합니다. 대량 업데이트 시에는 빠른 동료 검토를 요구하고, 단순한 변경 로그를 유지해 추적 가능성을 확보하십시오.

5. ‘감독 없는 자동화’를 막기 위한 감독은 필수다.

AI는 실시간으로 보안 규칙을 생성하거나 조정할 수 있습니다. 하지만 가드레일이 없다면 비즈니스에 필수적인 접근을 막아버리는 과도한 보안이나, 실제 위협을 놓치는 과소 보안으로 이어질 수 있습니다. Ponemon Institute가 퓨어스토리지를 위해 수행한 연구에 따르면, 잘못 구성된 시스템은 두 번째로 큰 AI 기반 스토리지 위험으로 나타났으며, 이는 적절한 감독 없이 자동화가 작동할 때의 위험을 잘 보여 줍니다.

복원력을 구축하기 위한 팁

• 기준을 먼저 설정하세요. AI가 스스로 조정할 수 있는 것(예: 경보 임계치), 사람이 반드시 확인해야 하는 것, 절대 손대지 못하는 것(예: 삭제 정책)을 명확히 구분해 두어야 합니다.
• 신뢰하기 전에 시험해 보세요. AI가 제안한 변경 사항은 우선 쉐도우 모드(권고·알림 전용)로 실행해 실제 영향 없이 검증하고, 사람이 지속 적용 여부를 확인하지 않으면 자동으로 만료되는 시간 제한 변경(time-limited changes)을 적용합니다. 이를 통해 검증되지 않은 규칙이 장기간 유지되는 것을 방지할 수 있습니다.
• 안전하게 배포한 뒤 검토하세요. 업데이트를 소규모 사용자 그룹에 단계적으로 배포하고, 오류가 급증하면 자동으로 롤백되게 설정하며, AI가 만들거나 조정한 변경 사항을 주간 단위로 간단히 리뷰해 조정 여부를 결정해야 합니다.

6. 효과적인 이상 탐지는 매우 넓은 ‘맥락’을 필요로 한다

‘건초 더미 속 바늘’ 같은 공격을 포착하려면, AI는 사용자, 시스템, 데이터 스토어 전반의 맥락이 필요합니다. 다시 말해 다양한 소스에서 수집한 방대한 양의 데이터가 필요합니다. 하지만 이 규모는 양날의 검이어서, 적절한 안전장치가 없으면 쏟아지는 데이터 때문에 보안 도구도, 이를 다뤄야 하는 사람도 금세 감당하기 어려운 상황에 놓일 수 있습니다.

복원력을 구축하기 위한 팁

• 중요한 것만 모니터링하세요. 비정상적인 삭제나 대용량 전송 등 소수의 핵심 위험 신호만 집중해 모니터링합니다. 각 시스템과 데이터 세트에는 의사 결정을 빠르게 내릴 책임자를 지정해 두어야 합니다.
• 데이터를 관리 가능한 수준으로 유지하세요. 데이터 유입 시점에 중복을 제거하고, 상세 로그는 단기간만 보관하되 장기적으로는 요약 정보만 유지합니다. 또한 정상적인 활동 패턴에 대한 명확한 기준선을 지속적으로 관리합니다.
• 경보를 ‘쓸모 있게’ 활용하세요. 관련 이벤트를 연계해서 보고, 합리적인 임계치를 설정하며, 특히 데이터가 파괴되거나 노출될 수 있는 변경이 발생했을 때만 사람에게 고우선순위 경보를 보내도록 해야 합니다.

고객이 취약점을 이해하고 완화할 수 있도록, 퓨어스토리지가 어떻게 실질적으로 활용 가능한 CVE 정보를 제공하는지 알아보세요.

7. AI의 데이터 의존성은 개인정보 및 규제 리스크를 증폭시킨다

생성형 AI 시스템은 의미 있는 결과를 제공하기 위해 종종 민감한 데이터에 대한 접근을 요구합니다. 이로 인해 의도치 않은 정보 노출이나 규제 위반 가능성이 높아지며, 특히 일반 개인정보보호법(GDPR), 캘리포니아 소비자 개인정보 보호법(CCPA), 그리고 새롭게 등장하는 AI 책임성 관련 규제 환경에서는 그 위험이 더욱 커집니다. 핵심 과제는 AI를 활용하면서도 개인정보 보호의 공격 표면을 확장하지 않는 것입니다.

복원력을 구축하기 위한 팁

• AI가 볼 수 있는 것을 제한하세요. 민감 데이터를 라벨링하고, 모델에는 필요한 정보만 제공해야 합니다. 기본적으로 개인정보는 마스킹하거나 제거하고, 가능하다면 가상 데이터나 더 작은 샘플 데이터로 테스트하세요.
• 스토리지에 프라이버시를 내재화하세요. 강력한 접근 통제, 기간 제한 권한, 잠겨 있고 변경 불가능한 사본(immutable/retention-locked)을 사용해 민감 데이터가 변경되거나 노출되지 않도록 해야 합니다. 또한 데이터는 저장 중일 때도, 전송 중일 때도 암호화되어 있어야 합니다.
• 사용 및 공유를 위한 가드레일을 설정하세요. 프롬프트, 결과, 로그를 어디에 저장할지, 누가 접근할 수 있을지, 얼마나 오래 보관할지를 결정해야 합니다. 최소 권한 원칙을 따라 인가된 사용자나 시스템만 민감한 출력에 접근하게 하고, 감사 추적을 유지하며, 꼭 필요하지 않다면 프롬프트나 결과를 자동으로 저장하는 기능은 꺼 두어야 합니다.

AI와 데이터 보안을 위한 길은 바로 ‘복원력’

AI는 이미 반복 작업을 자동화하고 비용을 낮추며, 보안팀에 소중한 시간을 돌려주면서 데이터 보안을 단순화하고 있습니다. 하지만 동시에 새로운 위험도 등장합니다. AI와 함께 나아가는 합리적인 길은, 모든 지점에서 복원력을 우선순위에 두는 것입니다. 계층화된 방어, 불변 데이터 및 복구에 최적화된 계층형 인프라를 통해 보안이 내재된 기반을 구축해야 합니다. 퓨어스토리지는 데이터 계층의 운영을 단순화하고, 중요한 순간에 빠르고 예측 가능한 복구를 가능하게 함으로써 조직이 이러한 복원력을 확보할 수 있도록 지원하고 있습니다. 

위에서 설명한 AI 및 데이터 보안 과제는 연중 지속되지만, 사이버 보안 인식의 달은 보안 태세를 평가하고, 복구 전략을 재검토하며, 퓨어스토리지와 같은 안전하고, 규정을 준수하며, 복원력이 뛰어난 데이터 플랫폼에 AI 전략을 구축해야 한다는 점을 상기시켜 줍니다. 2026년과 그 이후에도 이러한 과제는 더욱 심화될 것이며, 그렇기에 지금이 바로 대비할 때입니다.

The State of Cyber Resilience

Learn how 620 US-based IT security practitioners are approaching data storage security in the age of AI.

Read the Report