공격 자동화와 방어 조건의 변화
2026년 4월 공개된 범용 AI 모델 클로드 미토스(Claude Mythos)는 OpenBSD에서 27년, FFmpeg에서 16년 동안 발견되지 않았던 취약점을 사람의 개입 없이 탐지했습니다. 리눅스에서는 코드 결함을 연쇄로 결합해 서버를 장악하는 경로도 스스로 구성했습니다. 이런 공격 능력은 보안 전용 훈련 없이 코드와 추론, 자율성이 전반적으로 향상되는 과정에서 발생했습니다(Anthropic 2026 기준). 취약점 발견부터 공격 코드 생성까지 걸리는 시간이 빠르게 단축되면서, 방어 조직의 대응 시간도 줄고 있습니다. 이러한 변화는 다음 수치에서 확인할 수 있습니다.
취약점 패치가 공개된 시점과 실제로 악용된 시점의 차이(Time-to-Exploit, TTE)는 2018년 평균 63일이었지만 2025년에는 -7일로 집계됐습니다. 패치 공개 일주일 전에 이미 악용이 시작된다는 뜻입니다. 최초 침투 이후 후속 공격이 시작되기까지 걸리는 시간도 2022년 8시간 이상에서 2025년 22초로 줄었습니다(Mandiant M-Trends 2026 기준). 사람이 경보를 확인하고 대응을 결정하는 주기로는 따라갈 수 없는 속도입니다.
공격이 자동화되면 침투부터 목적 달성까지의 단계가 짧아지고 변종도 빠르게 늘어납니다. 사전에 정의한 탐지룰과 시나리오에 의존하는 방식으로는 정의되지 않은 공격을 탐지하기 어렵습니다. 방어 측에도 상황을 스스로 해석하고 다음 행동을 결정하는 에이전틱 AI가 필요해진 배경입니다.
확인할 점이 하나 있습니다. 공격과 방어의 자동화는 대칭이 아닙니다. 공격 측 AI는 수천 번 시도해 한 번만 성공하면 되지만, 방어 측 AI는 한 번의 잘못된 판단도 실제 운영에 영향을 줄 수 있습니다. 오탐으로 정상 서비스를 격리하면 업무가 중단되고, 위협을 탐지하지 못하면 침해가 진행됩니다. 실패 비용이 낮은 공격의 자동화와 달리 방어의 자동화는 판단 하나하나에 근거가 필요합니다. 따라서 방어 데이터의 조건은 더 엄격해야 합니다.
이 요구를 데이터 관점으로 정리하면 다음과 같습니다. 입력 데이터의 품질은 모델의 성능만큼 판단 정확도를 좌우합니다. 현상을 요약한 로그와 경보는 발생 상태만 보여주고, 원인을 판단할 원본을 제공하지 않습니다. 근거 없이 속도만 높인 판단은 방어가 아닌 새로운 위험입니다.
로그와 경보 의존 구조가 AI 판단에 남기는 4가지 공백
상태정보는 탐지 이벤트, 시스템 로그, 경보처럼 현재 상황을 요약한 데이터입니다. 다만 근본 원인을 추적하는 데 필요한 원본 데이터는 담지 않습니다. 문제는 대부분의 보안 운영이 이러한 상태정보에 의존한다는 데 있습니다. 이 구조에서는 에이전틱 AI를 도입해도 충분한 판단 근거를 확보하기 어렵고, 그 결과 AI의 판단 정확도와 신뢰성을 떨어뜨리는 4가지 공백이 생깁니다.
- 근본 원인 분석의 공백: 이벤트 로그는 발생 상태를 보여줄 뿐입니다. 공격이 어떤 경로로 들어와 무엇을 거쳐 어디까지 갔는지 추적하려면 원본 패킷과 세션이 필요합니다. 로그로만 조사하면 한 시스템의 로그에서 다른 시스템의 로그로 옮겨 다니며 같은 현상을 재확인하는 순환 조사가 반복되고, 그 사이 공격자는 다음 단계로 이동합니다.
- 사전 정의의 공백: 모든 위협 유형을 미리 정의하고 대응 규칙을 작성해 두기는 어렵습니다. 공격자가 탐지룰을 우회하거나 정상 도구를 악용하면 규칙은 작동하지 않습니다. 변종이 자동으로 생성되는 환경에서는 정의되지 않은 영역이 축소되지 않고 오히려 확대됩니다.
- 경보 처리의 공백: 상태정보 기반 탐지는 오탐이 늘어나는 구조입니다. 처리할 경보가 늘어날수록 실제 위협이 대량 경보에 가려질 위험도 커지고, 경보의 신뢰도가 떨어지면 자동화된 조치에 대한 신뢰까지 함께 떨어집니다.
- 데이터 연결의 공백: 여러 시스템에 흩어진 로그를 하나의 공격 흐름으로 재구성하는 작업은 시간과 비용이 큽니다. AI는 조직 전체의 데이터를 연결해 분석할 수 있을 때 성능을 발휘합니다. 사일로로 분리된 불완전한 데이터로 학습하고 판단하는 AI는 잘못된 결론에 이릅니다.
4가지 공백은 사람이 운영할 때는 조사 지연으로 나타납니다. 판단을 자율로 넘기면 성격이 달라집니다. 잘못된 판단이 검토 없이 다음 행동으로 이어지는 위험이 됩니다. 에이전틱 AI를 도입할 때 데이터 품질 요건이 기존 운영보다 훨씬 높아집니다.
판단 구조 비교: 상태정보 기반 AI와 맥락데이터 기반 AI
두 접근의 차이는 어떤 데이터로 판단하는가에서 시작해 가시성 범위, 오탐 발생 구조, 사후 검증 가능성까지 이어집니다.
5개 기준은 서로 밀접하게 연결되어 있습니다. 판단 근거가 요약된 정보에 머물면 가시성도 제한되고, 불완전한 정보에 의존한 추정이 늘어나 오탐 가능성이 커집니다. 또한 원본 데이터가 없으면 근본 원인을 추적하거나 AI의 판단 과정을 검증하기 어렵습니다. 결국 어떤 데이터를 판단 근거로 사용하는가가 나머지 4개 기준의 수준을 좌우합니다.
상태정보 기반 접근에도 분명한 쓰임이 있습니다. 이미 알려진 위협 유형을 빠르게 처리하거나 대규모 이벤트를 필터링하는 것처럼 시나리오가 분명한 환경에서는 이 방식이 효율적입니다. 맥락데이터 기반 접근이 필요한지는 판단 품질을 좌우하는 3가지 과제로 확인합니다. 미지의 공격 경로 추적, AI 판단 근거의 운영자 검증, 사고 후 완전한 포렌식 재현의 필요 여부입니다. 하나라도 해당하면 맥락데이터 기반 접근으로 전환해야 합니다.
전환을 검토할 때는 비용 구조도 함께 확인해야 합니다. 상태정보 기반 구조는 초기 구축 비용이 낮은 대신 오탐 검증과 순환 조사에 드는 운영 비용이 경보량에 비례해 늘어납니다. 맥락데이터 기반 구조는 원본 수집과 저장에 초기 투자가 듭니다. 대신 판단 근거가 데이터 안에 들어 있어 반복 검증 비용이 줄어듭니다. 에이전틱 AI 도입은 판단 횟수를 크게 늘리는 결정입니다. 판단 한 건당 검증 비용이 낮은 구조를 먼저 갖추는 쪽이 총비용에서 유리합니다.
첫 번째 조건, 원본: AI 판단 범위를 정하는 계층
맥락데이터의 출발점은 원본 데이터입니다. 샘플링은 수집 대상에서 빠지는 패킷이 생기고, 메타데이터 수집은 통신의 실제 내용까지 복원하지는 못합니다. 풀패킷 수집으로 수집 구간의 트래픽을 전량 저장하는 구조가 없다면 에이전틱 AI 운영에서 3가지 위험이 실제로 나타납니다.
- 판단 불가 영역의 발생: 수집되지 않은 구간은 AI가 판단할 수 없는 영역으로 남습니다. AI가 다룰 수 있는 범위의 상한은 모델의 성능이 아닌 수집 범위입니다.
- 과거 트래픽 조사 불가: 원본 트래픽 데이터가 없으면 새로운 위협 지표를 발견하더라도, 과거에 동일한 위협이 유입되었는지 확인할 수 없습니다. 공격 자동화 환경에서는 탐지보다 침투가 앞서는 경우가 늘어납니다. 과거 데이터를 다시 분석할 수 있어야 새로운 위협에도 대응할 수 있습니다.
- 판단 신뢰의 하락: 불완전한 데이터로 판단하면 오탐이 늘고, 오탐이 반복되면 운영자는 자동화된 판단을 그대로 수용하지 않게 됩니다. 그 결과 자동화로 얻은 효율이 검증 부담으로 상쇄됩니다.
소프트웨어 공급망 공격이 대표적인 예입니다. 악성 행위가 정상적인 통신 채널을 타고 이루어지기 때문에 코드 서명이나 패키지 무결성 검사만으로는 막기 어렵고, 원본 트래픽을 직접 분석하지 않으면 탐지 자체가 어렵습니다. 이런 공격 유형에서는 원본을 전수 수집해 두어야 판단할 근거가 남습니다.
두 번째와 세 번째 조건: 기준선과 설명성
원본 데이터는 정확한 판단의 출발점입니다. 여기에 일관된 분석 기준과 판단 결과를 검증할 수 있는 체계가 더해져야 합니다.
행위기준선(Behavioral Baseline) 데이터는 정상 패턴에서 벗어난 활동을 식별하고, 원본 트랜잭션/세션 데이터는 해당 활동의 세부 내용과 맥락을 제공해 실제 위협 여부를 판단할 수 있게 합니다. 행위기준선 데이터가 없으면 AI는 개별 이벤트를 독립된 신호로만 처리합니다. 그 결과 정상적인 활동으로 위장한 내부자 위협이나 장기간에 걸쳐 은밀하게 진행되는 공격을 탐지하기 어렵습니다. 이탈의 방향과 크기가 수치로 입력되면 AI는 비정상 여부를 구분하는 이진 판단을 넘어 맥락을 고려한 판단을 내립니다.
탐지설명성(XAI)은 AI가 어떤 데이터와 특성에 근거해 판단했는지 운영자가 검토하도록 판단 과정을 남기는 계층입니다. 자율 판단의 범위가 넓어질수록 이 계층의 중요성도 함께 커집니다. 두 계층이 없는 환경에서 에이전틱 AI가 마주하는 판단 오류는 3개 유형으로 나타납니다.
- 오탐 증가: 정상과 비정상을 구분할 기준선이 없으면 AI는 임계값 규칙에 의존하게 되어 오탐 부담이 커집니다.
- 판단 근거 불투명: AI가 어떤 특성에 근거해 위협으로 판정했는지 알 수 없으면, 운영자는 그 판단의 수용 여부를 스스로 판별할 수 없습니다.
- 검증 비용 증가: 판단 과정이 확인되지 않는 AI는 오탐 대응 과정에서 반복적인 수동 확인을 요구해 자동화의 효과를 상쇄하고, 잘못된 자율 조치가 발생했을 때 책임 소재도 불분명해집니다.
설명성은 AI 판단을 무조건 신뢰하게 하는 장치가 아닙니다. 특성 기여도와 판단 과정이 보이면 운영자는 AI 판단의 신뢰성을 직접 검토하고 오탐을 신속하게 판별합니다. 이 검증 가능성이 자율 실행 범위 확대의 판단 근거입니다.
산업별 데이터 요건: 규제와 환경 구조에 따른 차이
같은 데이터 기반이라도 산업 환경에 따라 요구 수준이 달라집니다. 공통점은 하나입니다. 어느 환경이든 에이전틱 AI가 판단하려면 판단 근거가 되는 원본 데이터를 그 환경의 제약 안에서 확보해야 합니다.
- 금융: 원본 트래픽 보존과 내부자 비정상 행위 탐지, 규제 준수 증적 확보를 함께 요구합니다. 관할마다 규제의 이름은 달라도 요구는 공통됩니다. 국내는 개인정보의 안전성 확보조치 기준이 개인정보처리시스템 접속기록을 1년 이상, 정보주체 5만 명 이상이거나 고유식별정보와 민감정보를 처리하면 2년 이상 보관하도록 합니다. 일본은 금융분야 사이버보안 가이드라인이 2024년 10월 4일 공표되어 로그 기록과 사고 대응 체계를 요구하고, 개인정보보호법은 유출 속보를 3일에서 5일 안에 제출하도록 합니다. 미국 NYDFS 23 NYCRR Part 500은 사고 탐지와 대응에 사용하는 감사증적을 3년 이상 보존하고 사고를 72시간 안에 보고하도록 합니다. EU의 디지털 운영 복원력 법(DORA)은 2025년 1월 17일 적용 이후 보안 아키텍처가 규제 요건을 충족하는지 스스로 점검하게 합니다. AI 판단의 근거가 되는 원본을 규제 점검과 감사에 제시할 수 있는지까지 함께 확인해야 합니다.
- 국방: 망 분리 구조에서는 외부 인텔리전스 의존이 제한됩니다. 폐쇄망 안에서 내부 트래픽 전수 분석으로 행위기준선을 학습하고 판단 근거를 자체 확보하는 구조가 필요합니다.
- 제조, OT: 생산 라인을 중단하지 않고 산업 프로토콜을 분석할 수 있어야 합니다. 가용성이 최우선인 환경에서는 차단 중심 대응보다 원본 기반의 정확한 판단과 영향 범위 확인이 먼저입니다.
- 의료: 환자 데이터 비식별화 요건과 의료기기 네트워크 가시성 확보를 동시에 충족해야 합니다. 개인정보 보호 제약 안에서 원본 수준의 조사 근거를 유지하도록 설계해야 합니다.
도입 순서와 데이터 인프라 선행 조건
도입 검토는 모델 성능 비교가 아닌 데이터 인프라 확인에서 시작합니다. 판단 근거 데이터 없이 도입되는 에이전틱 AI는 추정을 자동화할 뿐이고, 자율 실행 범위가 넓을수록 그 비용은 커집니다.
- 원본의 수집과 보존: 풀패킷 기반 전수 수집과 원본 트랜잭션, 세션의 보존, 과거 트래픽 조사 가능성을 먼저 확보합니다. 판단할 수 없는 영역을 없애는 단계입니다.
- 기준선의 학습: 자산별 정상 패턴을 학습해 이탈을 정량화하는 행위기준선을 수립합니다. AI 판단에 기준을 부여하는 단계입니다.
- 검증 구조의 확보: 탐지설명성(XAI)으로 판단 과정을 검토할 수 있는 구조를 갖춥니다. 자율 실행 범위를 얼마나 넓힐지 결정할 근거를 세우는 단계입니다.
경쟁력은 더 나은 AI를 고르는 일보다 그 AI가 판단에 활용할 맥락데이터를 갖추는 일에 가깝습니다. 판단의 자동화는 탐지에서 분석, 판단, 대응으로 이어지는 Closed-Loop 자동화, 즉 자율보안운영(Autonomous Security Operations)으로 향하며, 세 계층이 함께 입력될수록 더 안정적으로 동작합니다.
자주 묻는 질문
Q. 풀패킷 수집 없이 AI 기반 NDR(Network Detection and Response)을 도입해도 효과가 있나요?
메타데이터 기반 분석만으로도 통신 패턴과 이상 행위를 탐지할 수 있어 일정한 효과를 기대할 수 있습니다. 다만 풀패킷 데이터를 함께 활용하면 탐지된 행위의 구체적인 내용과 맥락까지 분석할 수 있어, AI가 더 풍부한 근거를 바탕으로 위협 여부를 판단할 수 있습니다. 따라서 필요한 탐지 수준과 데이터 활용 범위에 따라 수집 방식을 선택해야 합니다.
Q. 행위기준선 학습에는 얼마나 많은 데이터가 필요한가요?
행위기준선 데이터는 자산별 정상 패턴을 충분히 학습해야 정확도가 높아지고, 학습 기간과 범위는 환경마다 다릅니다. 더 중요한 것은 손실 없는 원본 트래픽 수집입니다. 샘플링된 데이터로 학습하면 실제 통신의 일부만 반영되어 기준선의 정확도가 떨어집니다.
Q. 기존 SIEM(Security Information and Event Management)을 운영 중인데 에이전틱 AI 도입을 위해 NDR을 추가해야 하나요?
기존 SIEM은 로그와 이벤트 기반 가시성을 제공합니다. 원본 트래픽과 행위 맥락이 없으면 에이전틱 AI의 판단 근거는 불완전한 채로 남습니다. 로그와 원본 패킷, 세션을 하나의 조사 흐름으로 연결할 때 자동화 효과가 높아집니다.
