Ransomware 3.0, 에이전트 AI와의 만남 AI 으로 사이버 복원력의 중요성 강화
Ransomware 3.0은 AI를 사용하여 몸값을 계획하고 단계화하는 새로운 세대의 Ransomware입니다. 이번 주에 보았던 것처럼, AI과 방어에 AI를 가치 있게 만드는 동일한 에이전트 기능을 전례 없는 속도와 규모로 공격에 무기화할 수 있습니다.
또한 3.0 시대는 Ransomware 공격자들이 AI 브라우저로 전환하고, 공격자들은 더 많은 피해자를 유치할 것이라고 생각합니다. Ransomware에 대한 새로운 변형은 또한 가해자가 여러 형태의 갈취(때때로 3중 갈취)를 함께 사용하여 표적에 더 큰 압력을 가하려는 의지를 강조합니다.
Ransomware가 브라우저로 이동
AI 브라우저에는 챗봇 및 작업 수행 에이전트가 내장되어 있습니다. 사용자들은 AI 브라우저의 덕목을 확장하고 있습니다. 그러나 AI 브라우저를 지능화하는 기능은 이미 Ransomware 해커에 의해 수정되고 있습니다. 공격자들은 “즉각적인 주입”을 통해 대규모 언어 모델(LLM)에 구축된 애플리케이션에 대한 코드를 생성하여, 에이전트 AI가 신뢰할 수 있는 사용자로부터 요청이 온다고 생각하도록 속입니다.
뉴욕 대학교 탠던 공학대학원의 연구원들은 최근 개념 증명의 신속한 소프트웨어 주입을 생성했으며, 이는 외부 연구원들이 “발견”하고 신속하게 “PromptLock”이라고 부릅니다. (연구자들은 Ransomware NYU가 발표하고 “노프, 우리는 그렇게 했습니다.”)
프로젝트의 일환으로, NYU 연구원들은 대규모 언어 모델(LLM)을 통해 시스템 매핑, 중요한 파일 식별, 데이터 도용 또는 암호화, 랜섬웨어 Ransomware 공격의 4단계를 시뮬레이션했습니다. 연구자들은 개인용 컴퓨터, 엔터프라이즈 서버 및 산업 제어 시스템 전반에서 AI 기반 시뮬레이션을 테스트했으며, 완전한 Ransomware 공격이 자율적으로 실행될 수 있음을 발견했습니다.
Anthropic의 AI 오케스트레이션 스파이 보고서
이러한 연구 결과에 대한 실제 에코에서, 이번 주 앤트로픽은 AI 에이전트를 사용하여 주요 기술 기업, 은행, 제조업체 및 정부 기관에 침투하는 국가 후원 그룹에 의해 시작된 공격인 최초의 대규모 AI 오케스트레이션 사이버 스파이 캠페인을 발견했다고 보고했습니다. AI 인간이 공격 흐름을 지시한 이전 사건과 달리, 이 작업은 자율 AI 시스템을 사용하여 정찰에서 데이터 유출에 이르기까지 캠페인의 최대 90%를 자체적으로 수행했습니다. 이는 AI 기반 사이버 위협이 얼마나 빠르게 진화하고 있는지를 강조합니다. 방어자들에게 이는 위협 환경이 변화하고 있을 뿐만 아니라 기존의 인간의 대응 주기를 넘어 가속화되고 있다는 것을 증명하는 끔찍한 순간입니다.
관련 읽기: 앱 계층 개인정보 보호에 실패하는 경우: 데이터 계층 거버넌스 사례
모든 AI가 좋은 AI는 아닙니다.
AI는 Ransomware 공격의 거의 모든 단계에 적용될 수 있습니다. AI가 주도하는 피싱은 미묘한 차이가 있고, 상황에 맞게 올바르며, “약한 링크” 또는 스피어 피싱으로 알려진 고부가가치 표적을 표적으로 삼을 수 있습니다. 엔터프라이즈에 대한 액세스가 확보되면, AI는 고가치 표적의 활동을 관찰할 뿐만 아니라 합법적인 활동을 모방하거나 더 많은 자산에 접근하는 데 도움이 되는 구성 오류를 찾는 등 회피를 가능하게 하는 방법을 모색할 수 있습니다.
또한, AI가 코드를 쓸 수 있는 능력은 사이버 범죄자들에게 특히 유용합니다. 예를 들어, 고객은 기존의 시그니처 기반 탐지 방법을 속일 수 있을 만큼의 무작위 차별화만으로 악성코드를 배포할 수 있습니다. 이러한 AI 유래 다형성 코드는 회피 또는 기회 타게팅에 필요한 Ransomware를 지속적으로 개선하거나 재전송할 수 있습니다.
마지막으로, AI는 공격자들이 Ransomware 공격의 시작 작업을 자동화할 수 있도록 합니다. 이는 많은 사이버 공격이 특히 피싱 단계에서 손쉬운 확장을 활용할 때 성공 가능성을 높일 수 있다는 점을 고려할 때 매우 중요합니다. 자동화 기능은 강력한 멀티플라이어로, 더 많은 작업을 동시에 진행할 수 있도록 합니다.
Ransomware에 갈취 계층 추가
Ransomware 3.0의 또 다른 특징은 공격적이고 표적이 된 형태의 강압입니다. Ransomware가 처음 등장했을 때, 공격자들의 첫 번째 물결은 데이터를 암호화하고 복호화 키에 대한 대가로 대가를 요구하는 콘텐츠였습니다. 대부분의 경우 암호화의 품질이 떨어졌고 끊어질 수 있습니다. 또한 엄격한 백업 시스템을 통해 조직은 요구를 무시하고 복구를 구현할 수 있습니다.
Ransomware의 다음 단계인 Ransomware 2.0은 범죄자들이 데이터를 암호화할 뿐만 아니라, 유출시키고, 퍼블릭 웹에서 공개하거나 사이버 범죄 생태계의 많은 데이터 브로커 중 한 명에게 판매하겠다고 위협했습니다. 서비스형 Ransomware는 Ransomware 2.0의 특징이기도 했습니다. 블록체인 기술이 등장하면서 암호화 방법론은 큰 도약을 이루었습니다. 이 경우, 데이터 백업은 복구를 가능하게 할 수 있지만, 범죄자들의 손에 들어가는 방대한 양의 데이터는 엄청난 평판 훼손을 초래할 수 있으며, 또한 영향을 받는 고객 및 파트너에 대한 규제상의 벌금 및 가능한 재정적 합의를 초래할 수 있습니다.
Ransomware 3.0 시대에 데이터 백업을 복원하면 엔터프라이즈 예산이 심각하게 감소할 수 있습니다. 퓨어스토리지와 포네몬 연구소가 실시한 새로운 사이버 복원성 연구에 상술된 바와 같이, 사이버 공격을 당하는 기업들에게 가장 큰 비용은 중요한 데이터의 최신 백업 복구입니다. 응답자들은 다른 상당한 비용이 영향을 받는 시스템과 애플리케이션을 복구, 복구 또는 교체하고, 사고를 탐지 및 억제하며, 복구된 시스템이 올바르게 작동하는지 테스트하는 것이라고 말했습니다.
Ransomware 3.0이 야기하는 위험은 현실입니다. AI에 대한 숙달로 인해 용감해진 범죄자들은 표적 조직에 압박을 가하는 데 더 공격적이 될 AI 수 있습니다.
사이버 복구는 그 어느 때보다 중요해졌습니다.
에이전트 AI는 단순히 생산성에 대한 규칙을 재작성한 것이 아니라 엔터프라이즈 IT에 대한 위험을 재작성한 것입니다. 기업들은 이제 자동화된 정찰, 적응형 악성코드 및 다단계 갈취에 대처해야 하며, 이는 모든 인간 팀이 대응할 수 있는 속도보다 빠르게 확장됩니다. 환경이 발전함에 따라 엔터프라이즈 보안 팀은 다음을 수행해야 합니다.
- 에이전트적 AI의 변화를 인정하세요. 위협 환경에는 이제 사람의 감독 없이 지속적인 운영을 가능하게 하는 완전 자율 공격 프레임워크가 포함되어 있다는 점을 이해하세요.
- 비즈니스에 중요하지 않을 때 지속적인 메모리, 광범위한 툴 액세스 또는 장기적인 데이터 보존을 지원하는 기능을 사용하지 않는 것을 고려해 보십시오. Anthropic을 포함한 많은 에이전트 AI 플랫폼은 기업이 민감한 데이터에 대한 에이전트의 액세스를 제한하고, 장기 메모리를 비활성화하며, 외부 API 또는 미확인 툴과의 통합을 제한할 수 있도록 합니다. 이 모든 것은 감옥에 갇히거나 신속하게 주입될 경우 위험을 직접적으로 줄입니다.
- AI 인식 방어 강화: 기존의 악성코드 서명뿐만 아니라 비정상적인 에이전트 행동, 권한 에스컬레이션 및 신속한 자동화를 인식할 수 있는 탐지 툴에 투자하세요.
- 징역형 및 오용에 대비하여 시스템 강화: 도구 사용, 세분화된 ID 및 역할 제어, 에이전트 작업의 지속적인 검증에 대한 제약을 포함하여 AI 액세스에 대한 계층화된 보호 기능을 구현하세요.
- 속도 및 복구에 집중: 자율주행 에이전트의 이동 속도를 감안할 때 신속한 대응과 즉각적인 복구 기능은 매우 중요합니다. 가변적인 백업과 실시간 모니터링은 이제 옵션이 아닌 필수 요소입니다.
- 감독을 위해 인간을 계속 지켜나가세요. 자율운영 툴에는 엄격한 거버넌스 경계가 필요합니다. 보안팀은 감독 위원회를 구성하고, 정기적인 검토를 수행하며, 의심스러운 활동에 대한 상부 보고 경로를 확인해야 합니다.
- 인텔리전스 공유 및 협업: 파트너 및 업계 기관과의 지속적인 정보 공유는 분산된 AI 기반 캠페인이 확산되거나 확대되기 전에 이를 상쇄하는 데 필수적입니다.
기업은 이 사건을 모닝콜로 처리해야 합니다. 사이버 운영에서 에이전트적 AI의 시대는 이제 현실이 되어, 현대적인 복원력 계획, 신속한 탐지 및 생존과 성공을 위한 인적 감독의 핵심 요소를 만들어가고 있습니다.