공격이 자동화되는 시대: 방어의 조건이 달라졌다
2026년 4월 공개된 자율형 보안 분석 AI 미토스(Mithos)는 OpenBSD에서 27년 동안 아무도 찾지 못한 취약점을, FFmpeg에서 16년 된 취약점을 사람의 개입 없이 찾아냈습니다. 리눅스에서는 코드 결함 여럿을 엮어 서버를 장악하는 경로도 스스로 구성했습니다. 취약점을 찾는 일과 공격 코드를 작성하는 일 사이의 간격은 그동안 방어 측의 시간 여유 역할을 해 왔습니다. 그 간격이 사라지고 있다는 신호는 이미 수치로 나옵니다.
취약점이 알려진 시점과 실제로 악용된 시점의 차이(Time-to-Exploit, TTE)는 2018년 평균 63일이었지만 2025년에는 -7일로 집계됐습니다. 패치가 나오기 일주일 전에 이미 공격이 들어온다는 뜻입니다. 침투한 계정이 다른 위협 그룹으로 넘어가기까지 걸린 시간의 중앙값도 2022년 8시간에서 2025년 22초로 줄었습니다(Mandiant M-Trends 2026 기준). 사람이 경보를 확인하고 대응을 결정하는 주기로는 따라갈 수 없는 속도입니다.
공격이 자동화되면 킬체인은 짧아지고 변종은 대량으로 쏟아집니다. 사전에 정의한 탐지룰과 시나리오로 대응하는 방식은 정의되지 않은 공격 앞에서 멈춥니다. 방어 측에도 상황을 스스로 해석하고 다음 행동을 결정하는 에이전틱 AI가 필요해진 배경입니다.
여기서 짚어야 할 것이 있습니다. 공격과 방어의 자동화는 대칭이 아닙니다. 공격 측 AI는 수천 번 시도해 한 번만 성공하면 됩니다. 방어 측 AI는 매 판단이 운영에 닿습니다. 오탐으로 정상 서비스를 격리하면 업무가 멈추고, 위협을 놓치면 침해가 진행됩니다. 실패 비용이 낮은 공격의 자동화와 달리 방어의 자동화는 판단 하나하나에 근거가 필요합니다. 방어 데이터의 조건이 더 엄격해야 하는 것도 이 비대칭 때문입니다.
이 요구를 데이터 관점으로 옮기면 이렇습니다. 방어 AI의 판단 정확도는 모델이 아니라 입력 데이터의 질에 직결됩니다. 현상을 요약한 상태정보는 무슨 일이 있었는지는 알려주지만, 왜 그렇게 됐는지를 판단할 원본을 주지 않습니다. 근거 없이 빨라지기만 한 판단은 방어가 아니라 새로운 위험입니다. 이 글은 상태정보 의존 구조가 남기는 공백, 두 판단 구조의 비교, 각 데이터 계층의 역할, 산업별 요건과 도입 순서를 차례로 다룹니다.
상태정보 의존 구조가 AI 판단에 남기는 네 가지 공백
상태정보는 탐지 이벤트, 시스템 로그, 경보처럼 현상을 요약해 전달하는 데이터입니다. 근본 원인을 조사할 원본이 없습니다. 대부분의 보안 운영이 이 위에서 이루어지는데, 에이전틱 AI를 얹으려는 환경에서 이 의존 구조는 판단 품질의 상한을 낮추는 네 가지 공백을 남깁니다.
- 근본 원인 분석의 공백: 이벤트 로그는 발생 사실을 기록할 뿐입니다. 공격이 어떤 경로로 들어와 무엇을 거쳐 어디까지 갔는지 추적하려면 원본 패킷과 세션이 필요합니다. 로그로만 조사하면 한 시스템의 로그에서 다른 시스템의 로그로 옮겨 다니며 같은 현상을 재확인하는 순환 조사가 반복되고, 그 사이 공격자는 다음 단계로 이동합니다.
- 사전 정의의 공백: 모든 위협 유형을 미리 정의하고 대응 규칙을 작성하는 일은 불가능합니다. 공격자가 탐지룰을 우회하거나 정상 도구를 악용하면 규칙은 작동하지 않습니다. 변종이 자동으로 생성되는 환경에서는 정의되지 않은 영역이 좁혀지는 것이 아니라 오히려 넓어집니다.
- 경보 처리의 공백: 상태정보 기반 탐지는 오탐이 늘어나는 구조입니다. 처리할 경보가 늘어날수록 실제 위협이 소음에 묻힐 위험도 커지고, 경보의 신뢰도가 떨어지면 자동화된 조치에 대한 신뢰도 함께 떨어집니다.
- 데이터 연결의 공백: 여러 시스템에 흩어진 로그를 하나의 공격 흐름으로 재구성하는 작업은 시간과 비용이 큽니다. AI는 조직 전체의 데이터를 연결해 볼 수 있을 때 제 성능을 냅니다. 사일로로 쪼개진 불완전한 데이터로 학습하고 판단하는 AI는 잘못된 결론에 이릅니다.
네 공백은 사람이 운영할 때는 조사 지연으로 나타납니다. 판단을 자율로 넘기면 성격이 달라집니다. 잘못된 판단이 검토 없이 다음 행동으로 이어지는 위험이 됩니다. 에이전틱 AI를 도입할 때 데이터 품질 요건이 기존 운영보다 훨씬 높아집니다.
판단 구조 비교: 상태정보 기반 AI와 맥락데이터 기반 AI
두 접근의 차이는 어떤 데이터로 판단하는가에서 시작해 가시성 범위, 오탐 발생 구조, 사후 검증 가능성까지 이어집니다.
다섯 기준은 사실 하나의 연쇄입니다. 판단 근거가 요약 수준이면 가시성도 요약 수준에 머물고, 요약 위의 판단은 추정이 되어 오탐 부담이 커집니다. 원본이 없으니 근본 원인으로 내려갈 수 없고, 판단 경로를 확인할 방법이 없으니 검증도 경보를 다시 보는 수준을 넘지 못합니다. 첫 행의 차이가 나머지 네 행을 결정합니다.
상태정보 기반 접근이 늘 틀린 것은 아닙니다. 이미 알려진 위협 유형의 빠른 경보 처리나 대규모 이벤트 필터링처럼 시나리오가 분명한 환경에서는 이 방식도 효율적입니다. 판단이 갈리는 지점은 세 가지 질문입니다. 미지의 공격 경로를 추적해야 하는가, AI 판단의 근거를 운영자가 검증해야 하는가, 사고 후 완전한 포렌식 재현이 필요한가. 하나라도 해당하면 맥락데이터 기반 접근이 필요합니다.
전환을 검토할 때는 비용의 구조도 함께 봐야 합니다. 상태정보 기반 구조는 초기 구축 비용이 낮은 대신 오탐 검증과 순환 조사에 드는 운영 비용이 경보량에 비례해 늘어납니다. 맥락데이터 기반 구조는 원본 수집과 저장에 초기 투자가 듭니다. 대신 판단 근거가 데이터 안에 들어 있어 반복 검증 비용이 줄어듭니다. 에이전틱 AI 도입은 판단 횟수를 크게 늘리는 결정입니다. 판단 한 건당 검증 비용이 낮은 구조를 먼저 갖추는 쪽이 총비용에서 유리합니다.
첫 번째 조건, 원본: AI 판단의 하한선을 정하는 계층
맥락데이터의 출발점은 원본입니다. 샘플링은 특정 패킷을 놓치고 메타데이터 수집은 원본 콘텐츠를 복원하지 못합니다. 풀패킷 수집으로 수집 구간의 트래픽을 전량 저장하는 구조가 없다면 에이전틱 AI 운영에서 세 가지 위험이 실제로 나타납니다.
- 판단 불가 영역의 발생: 수집되지 않은 구간은 AI가 판단할 수 없는 영역으로 남습니다. AI의 커버리지는 모델이 아니라 수집 범위가 결정합니다.
- 소급 조사의 불가: 원본이 없으면 새로운 위협 지표가 확인돼도 과거 트래픽에서 잠복 위협을 역추적할 수 없습니다. 공격 자동화 환경에서는 탐지보다 침투가 앞서는 경우가 늘어납니다. 소급 조사 가능성은 방어의 기본 조건입니다.
- 판단 신뢰의 하락: 불완전한 데이터로 판단하는 AI는 오탐이 늘고, 오탐이 반복되면 운영자는 자동화된 판단 자체를 믿지 않게 됩니다. 자동화의 효율 이득이 검증 부담으로 상쇄되는 구조입니다.
소프트웨어 공급망 공격이 대표적인 예입니다. 악성 행위가 정상적인 통신 채널을 타고 이루어지기 때문에 코드 서명이나 패키지 무결성 검사만으로는 막기 어렵고, 원본 트래픽을 직접 분석하지 않으면 탐지 자체가 어렵습니다. 이런 공격 유형 앞에서 원본 전수 수집은 선택지가 아니라 판단이 성립하기 위한 전제입니다.
두 번째와 세 번째 조건: 기준선과 설명성
원본 위에는 두 계층이 더 필요합니다. 하나는 판단의 기준, 다른 하나는 판단의 검증입니다.
행위기준선(Behavioral Baseline)은 자산별 정상 패턴을 학습해 이탈과 비정상 세션을 탐지하는 계층입니다. 원본이 무슨 일이 있었는지를 보여준다면, 행위기준선은 그것이 평소와 얼마나 다른지를 수치로 줍니다. 이 계층이 없으면 AI는 개별 이벤트를 고립된 신호로만 처리하게 되어, 정상처럼 보이는 내부자 비정상 행위나 느린 속도로 잠복하는 공격을 놓치기 쉽습니다. 이탈의 방향과 크기가 수치로 들어올 때 AI는 비정상이라는 이진 판단이 아니라 맥락을 고려한 판단을 내립니다.
탐지설명성(XAI)은 AI가 어떤 데이터와 특성에 근거해 판단했는지 운영자가 검토하도록 의사결정 경로를 남기는 계층입니다. 자율 판단의 범위가 넓어질수록 이 계층의 무게도 함께 커집니다. 두 계층이 없는 환경에서 에이전틱 AI가 마주하는 판단 오류는 세 유형으로 나타납니다.
- 오탐 증가: 정상과 비정상을 가를 기준선이 없으면 AI는 임계값 규칙에 의존하게 되어 오탐 부담이 커집니다.
- 판단 근거 불투명: AI가 어떤 특성에 근거해 위협으로 판정했는지 알 수 없으면, 운영자는 그 판단을 받아들일지 물리칠지 스스로 가릴 수 없습니다.
- 검증 비용 증가: 판단 경로가 드러나지 않는 AI는 오탐 대응 과정에서 반복적인 수동 확인을 요구해 자동화의 효과를 깎아먹고, 잘못된 자율 조치가 발생했을 때 책임 소재도 흐려집니다.
설명성은 AI 판단을 무조건 믿게 하는 장치가 아니라 그 반대입니다. 특성 기여도와 의사결정 경로가 보이면 운영자는 AI 판단의 신뢰성을 직접 검토하고 오탐을 빠르게 걸러냅니다. 이 검증 가능성이 자율 실행 범위를 넓혀도 되는지 가르는 근거입니다.
산업별 데이터 요건: 규제와 환경 구조가 가르는 차이
같은 데이터 기반이라도 산업 환경에 따라 요구 수준이 달라집니다. 공통점은 하나입니다. 어느 환경이든 에이전틱 AI가 판단하려면 판단의 재료가 되는 원본이 그 환경의 제약 안에서 확보돼야 합니다.
- 금융: 원본 트래픽 보존, 내부자 비정상 행위 탐지, 규제 준수 증적 확보가 핵심입니다. 관할마다 규제의 이름은 달라도 요구는 겹칩니다. 국내는 전자금융감독규정이 정보처리시스템 가동기록을 1년 이상 보존하도록 하고, 미국 NYDFS 23 NYCRR Part 500은 사고 탐지와 대응에 쓰는 감사증적을 3년 이상 남기고 사고를 72시간 안에 보고하도록 합니다. EU의 디지털 운영 복원력 법(DORA)은 2025년 1월 17일 적용 이후 보안 아키텍처가 규제 요건을 충족하는지 스스로 점검하게 합니다. AI 판단의 근거가 되는 원본을 그 감사에 제시할 수 있는지까지 함께 봐야 합니다.
- 국방: 망 분리 구조에서는 외부 인텔리전스 의존이 제한됩니다. 폐쇄망 안에서 내부 트래픽 전수 분석으로 행위기준선을 학습하고 판단 근거를 자체 확보하는 구조가 필요합니다.
- 제조, OT: 생산 라인을 세우지 않고 산업 프로토콜을 분석할 수 있어야 합니다. 가용성이 최우선인 환경에서는 차단 중심 대응보다 원본 기반의 정확한 판단과 영향 범위 확인이 먼저입니다.
- 의료: 환자 데이터 비식별화 요건과 의료기기 네트워크 가시성 확보가 동시에 걸립니다. 개인정보 보호 제약 안에서 원본 수준의 조사 근거를 유지하는 설계가 관건입니다.
도입 순서: AI보다 데이터 인프라가 먼저다
도입 검토에서 가장 흔한 실수는 모델의 성능부터 비교하는 것입니다. 판단 근거 데이터 없이 들어오는 에이전틱 AI는 추정을 자동화할 뿐이고, 자율 실행 범위가 넓을수록 그 비용은 커집니다. 순서는 데이터 인프라가 먼저입니다.
- 원본의 수집과 보존: 풀패킷 기반 전수 수집과 원본 트랜잭션, 세션의 보존, 소급 조사 가능성을 먼저 확보합니다. 판단할 수 없는 영역을 없애는 단계입니다.
- 기준선의 학습: 자산별 정상 패턴을 학습해 이탈을 정량화하는 행위기준선을 만듭니다. AI 판단에 기준을 부여하는 단계입니다.
- 검증 구조의 확보: 탐지설명성(XAI)으로 판단 경로를 검토할 수 있는 구조를 갖춥니다. 자율 실행 범위를 얼마나 넓힐지 결정할 근거를 세우는 단계입니다.
세 단계 가운데 갖춰지지 않은 것이 있다면 AI 도입보다 해당 인프라가 먼저입니다. 경쟁력의 본질은 우수한 AI가 아니라 완전한 맥락데이터의 확보입니다. 공격 측 AI가 자동화하는 것은 속도이고, 방어 측이 자동화해야 하는 것은 판단입니다. 판단의 자동화는 탐지에서 분석, 판단, 대응으로 이어지는 Closed-Loop 자동화, 즉 자율보안운영(Autonomous Security Operations)으로 향하며, 이 체계는 세 계층이 함께 입력될 때만 성립합니다.
자주 묻는 질문
Q. 풀패킷 수집 없이 AI 기반 NDR(Network Detection and Response)을 도입해도 효과가 있나요?
샘플링이나 메타데이터 기반 분석은 알려진 위협에는 유효합니다. 다만 수집되지 않은 구간이 남아 소급 조사와 포렌식 재현이 어렵습니다. 확정적 판단과 완전한 재현이 필요한 환경이라면 풀패킷 수집 기반 전수검사 여부가 핵심 선택 기준입니다.
Q. 행위기준선 학습에는 얼마나 많은 데이터가 필요한가요?
행위기준선은 자산별 정상 패턴을 충분히 학습해야 정확도가 올라가며, 학습 기간과 데이터 범위는 환경마다 다릅니다. 더 중요한 것은 손실 없는 원본 트래픽 수집 여부입니다. 샘플링된 데이터로 학습한 기준선은 정확도에 한계가 있습니다.
Q. 기존 SIEM(Security Information and Event Management)을 운영 중인데 에이전틱 AI 도입을 위해 NDR을 추가해야 하나요?
기존 SIEM은 로그와 이벤트 기반 가시성을 제공합니다. 원본 트래픽과 행위 맥락이 없으면 에이전틱 AI의 판단 근거는 불완전한 채로 남습니다. 로그와 원본 패킷, 세션을 하나의 조사 흐름으로 연결할 때 자동화 효과가 실질적으로 올라갑니다.
