Guide | The Case for AI Zero Trust (Korean)

AI 모델, 에이전트 및 엔터프라이즈 시스템을 보호하기 위한 AI 제로 트러스트 전략을 알아보세요. 신뢰 경계, 세분화, 최소 권한 원칙을 통해 AI 기반 사이버 보안 위험을 줄이는 방법을 설명합니다.

/live_board/v2/downloads?uid=adea8cc3-58fc-4507-9c11-b9cd2bd38d80&redirect=true

AI 제로 트러스트의 필요성 보안 리더를 위한 AI 네이티브

트러스트 적용 가이드 CTO, CISO 및 엔터프라이즈 보안 아키텍트 대상

AI 제로 트러스트의 필요성

1. 요약: 변화된 위협 환경 위협 환경이 변화했습니다. Anthropic의 Claude Mythos가 입증한 기능은 AI의 공격적 활용에 있어 획기적인 변화를 보여줍니다. 이는 국가 안보 위험으로 분류된 최초의 프론티어 모델이었으며, AI 사이버 보안의 '루비콘강을 건넜다'는 우려가 크게 제기되었습니다. 이제 공격자는 방어자가 패치하는 속도보다 더 빠르게 취약점을 발견하여 머신 속도로 다단계 공격을 실행합니다. 이전에는 숙련된 인간 작업자가 있어야 가능했던 수준으로 환경 깊숙이 침투할 수 있습니다. 결과적으로 취약점이 노출된 시점부터 비즈니스 중단이 발생하기까지의 시간이 영구적으로 몇 주에서 몇 분으로 단축되었습니다.

이와 동시에 새로운 공격 표면이 등장하고 있습니다. AI 에이전트, 대규모 언어 모델, 이를 구동하는 인프라는 포트나 프로토콜이 아닌 요청의 컨텍스트와 의도에 존재하는 위험을 초래합니다. 기존 네트워크 제어는 이러한 계층을 검사하도록 설계되지 않았습니다. 예를 들어, 침해된 에이전트는 이전에는 사람이 수개월에 걸쳐 수행해야 했던 작업을 단 몇 초 만에 실행할 수 있습니다. 이는 네트워크를 보호하는 방식뿐만 아니라 네트워크가 뒷받침하는 비즈니스를 보호하는 방식까지 변화시킵니다.

제로 트러스트는 여전히 이러한 환경에 적합한 보안 모델입니다. 세 가지 원칙, 즉 '절대 신뢰하지 말고 항상 검증하라', '최소 권한 액세스', '침해 발생을 가정하라'는 여전히 유효합니다. Mythos 시대에는 침해가 ' 가능한 상황'에서 '발생 가능성이 높은 상황'으로 바뀌었기 때문에, 침해 발생을 가정하는 접근 방식이 특히 중요해집니다. 이제 아키텍처는 침해를 드문 예외 상황으로 취급하기보다 이러한 현실을 바탕으로 설계되어야 합니다.

제로 트러스트 보안 체계에서 모든 방어 결정은 다음과 같은 세 가지 운영 목표로 귀결됩니다.

• 공격 표면과 중요 자산의 노출을 줄이고, • 성공적인 침해의 영향과 피해 범위를 최소화하고 대응하며, • 신속하게 완화하고 복구하십시오.

오늘날의 현실을 고려하면 AI 게이트웨이, 프라이빗 AI 팩토리에 존재하는 모델 환경, AI 에이전트 및 사용자, MCP로 연결된 서비스에 대한 새로운 신뢰 영역을 명시적으로 정의하여 제로 트러스트를 AI 제로 트러스트로 확장해야 할 필요성이 분명합니다. 이러한 새로운 영역은 기존 네트워크 제어뿐만 아니라 AI 상호작용, 자율적 행동, 모델 기반 워크플로로 인해 발생하는 고유한 위험에 대응하도록 설계된 AI 네이티브 정책 적용 기술을 통해 보호되어야 합니다.

기존 보안은 다음과 같이 묻습니다: “누가 이것을 보냈으며, 어디로 향하고 있는가?” AI 제로 트러스트는 한 단계 더 나아가 이렇게 묻습니다. “이것은 실제로 무엇을 말하고 있으며, 무엇을 하려는 것인가?” 공격은 메시지의 겉모습이 아니라 그 의미에 숨어 있습니다. AI 제로 트러스트는 데이터의 맥락을 분석하여 프롬프트 주입과 같은 공격을 차단합니다.

AI 제로 트러스트의 필요성

이 아키텍처에서는 AI 제로 트러스트가 두 가지 새로운 전략적 제어 지점을 통해 적용됩니다. AI 네트워크 방화벽과 보안 LLM 게이트웨이가 바로 그것입니다.

이러한 제어 지점은 함께 작동하여 공격 표면을 줄이고 피해 범위를 제한하며, 기존 네트워크 위협과 새롭게 대두되는 AI 기반 공격으로부터 기업을 보호하는 데 도움을 줍니다.

실질적으로 AI 네트워크 방화벽은 시맨틱 및 데이터 트래픽의 서킷 브레이커와 같은 역할을 합니다. 예를 들어, AI 에이전트, LLM, 핵심 엔터프라이즈 애플리케이션 간의 통신에 보안 정책을 적용합니다. 이는 체크 포인트의 R82.20 소프트웨어 릴리스에서 도입된 핵심 기능으로, 중요한 AI 보안 조치를 구현할 수 있도록 합니다.

AI 네트워크 방화벽: 온프레미스, 클라우드 및 가상

프롬프트 인젝션 탐지와 사용자, 에이전트, 모델 및 민감한 엔터프라이즈 시스템 간의 정책 적용을 포함한 AI 인식 검사 및 세분화 기능을 추가하여 기존 NGFW의 역할을 확장합니다.

AI 및 모델 상호작용을 위한 전용 제어 지점 역할을 하며, 안전한 LLM 라우팅, 프롬프트 방어, 콘텐츠 및 정책 검사, AI 애플리케이션과 에이전트의 내부 및 외부 모델 연결에 대한 거버넌스를 제공합니다.

AI 네트워크 방화벽 보안 LLM 게이트웨이

에이전트

사용자 LLM API 호출

데이터 트래픽

AI 프론티어 모델 AI 에이전트 및 사용자 AI 네트워크 방화벽 AI 팩토리

데이터 센터

AI 프롬프트 방어

AI 애플리케이션 트래픽 검사 [NGFW]

에이전틱 AI & RAG 액세스 제어

관리 플레인 및 옵저버빌리티

MCP 클라이언트

생성형 AI 애플리케이션

검증 및 보안 처리된 프롬프트

LLM API 호출

LLM 워크로드

IT 시스템

GPU 서버

MCP 서버

AI 방화벽은 프롬프트 보호, AI 기반 애플리케이션 트래픽 검사, RAG 액세스 제어 및 에이전틱 AI 보안, 텔레메트리, 관리를 위한 중앙 정책 적용 계층으로서, 보다 안전한 엔터프라이즈 AI 도입을 지원합니다.

AI 제로 트러스트의 필요성

2. AI 제로 트러스트 원칙 제로 트러스트는 오늘날 확립된 아키텍처 원칙으로, 사이버 보안 아키텍처의 초석으로 널리 알려져 있으며 그 가치를 인정받고 있습니다. 따라서 이를 핵심 보안 원칙으로 포기해서는 안 되며, AI 전환으로 인해 발생한 변화를 반영하도록 업데이트해야 합니다. 당사는 새로운 유형의 자산, 새로운 상호작용, 새롭게 나타난 다양한 공격 경로를 반영하는 확장 모델을 제안합니다. 논리는 동일하지만, 관리해야 하는 공격 표면은 다릅니다.

오늘날의 표준 제로 트러스트 모델은 '절대 신뢰하지 말고 항상 검증하라', '최소 권한 액세스', '침해 발생을 가정하라'는 여전히 유효한 세 가지 핵심 원칙을 기반으로 구축되어 있습니다. AI 에코시스템을 위해 개발된 확장된 AI 제로 트러스트 모델에서 달라지는 점은 각 원칙이 차지하는 비중입니다. '침해 발생을 가정하라'는 더욱 중심적인 역할을 하며, 침해가 '가능한 상황'에서 '발생 가능성이 높은 상황'으로 바뀌었기 때문에 아키텍처는 이러한 현실을 바탕으로 구축되어야 합니다.

원칙 AI 시대에 필요한 사항

절대 신뢰하지 말고, 항상 검증하십시오

어떠한 사용자, 프롬프트, 모델 출력 또는 에이전트 작업도 기본적으로 신뢰하지 않습니다. 모든 액세스 요청은 인증되고, 모든 보안 경계 통과는 검사되며, 모든 AI 상호작용은 진행되기 전에 정책에 따라 검증됩니다.

최소 권한 액세스 모든 에이전트, 모델 및 도구는 기능 수행에 필요한 최소 권한 집합으로 작동합니다. 작업 범위는 명시적으로 선언되며 런타임에 적용됩니다. 어떤 AI 구성 요소도 이를 실행하도록 요청한 사용자의 권한을 상속받지 않습니다.

침해 발생을 가정하라 아키텍처는 침해가 발생할 것이라는 전제를 바탕으로 구축됩니다. 모든 경계는 피해 범위를 제한하도록 설계된 정책 적용 지점입니다. 모든 중요 경로는 침해를 몇 달이 아니라 몇 분 만에 탐지할 수 있도록 모니터링됩니다.

기존 제로 트러스트의 확인 항목 AI 제로 트러스트의 추가 확인 항목

이 사용자 또는 시스템은 누구입니까? 이 프롬프트가 실제로 요청하는 것은 무엇인가?

이것이 올바른 포트, 올바른 프로토콜인가? 이 콘텐츠가 모델을 조작하려고 시도하고 있습니까?

시그니처가 알려진 위협과 일치하는가? 의미에 숨겨진 지시가 있는가?

제로 트러스트를 AI로 확장해야 하는 이유

AI 제로 트러스트의 필요성

AI 제로 트러스트 원칙

AI 보안에 적용하면 체크 포인트 제품 & 기능

01 프롬프트, 출력, 신원을 절대 신뢰하지 말 것

모든 프롬프트, 검색된 문서, 모델 응답, 사용자 신원, 에이전트 요청은 AI 신뢰 경계를 통과하기 전에 검사해야 합니다.

• 프롬프트 방어 • AI 네트워크 방화벽 • 보안 LLM 게이트웨이 • WAF/API 보안 • Workforce AI Security

02 에이전트와 도구에 최소 권한 적용

AI 에이전트는 광범위한 사용자 권한을 상속받아서는 안 됩니다. 모든 API 호출, MCP 도구 사용, 쓰기 작업, 데이터 요청은 런타임에서 범위를 제한하고 권한을 확인해야 합니다.

• AI 에이전트 보안 • AI 네트워크 방화벽 • MCP/도구 검사 • ZTNA/SASE • 마이크로 세분화

03 침해 발생을 가정하고 피해 범위를 제한할 것

모든 AI 구성 요소, 프롬프트 경로, 에이전트, 게이트웨이 또는 모델 영역이 침해될 수 있습니다. 아키텍처는 AI 영역을 세분화하고 각 경계에서 방지 조치를 적용해야 합니다.

• 보안 LLM 게이트웨이 • AI 네트워크 방화벽 • AI Factory Firewall • 마에스트로 하이퍼스케일 (Maestro Hyperscale) • 클라우드 보안

04 지속적으로 검증하고 빠르게 복구할 것

AI 시스템은 실제 공격 경로, 프롬프트, 추론 체인, RAG 콘텐츠, 도구 호출, 모델 동작, 비정상적인 활동 등 다양한 영역에 걸쳐 지속적으로 취약성 테스트를 거쳐야 합니다.

• AI 레드티밍 • ThreatCloud AI • Exposure Management • AI 운영 & 텔레메트리

AI 제로 트러스트 원칙별 체크 포인트 솔루션

각 원칙에는 고유한 비즈니스 측면의 의미가 있으며, 차트는 체크 포인트가 이러한 격차를 어떻게 해소하는지 보여줍니다.

주요 메시지: 동일한 제로 트러스트 로직을 AI 제로 트러스트로 확장하여 새로운 자산과 새로운 적용 지점에 적용합니다. 이 모든 것을 하나의 플랫폼에서 제공합니다.

핵심 주장: AI 제로 트러스트는 정책 로직입니다. 세분화는 적용 아키텍처입니다. 두 가지 모두 AI 시대에도 여전히 유효하지만, 기존 네트워크에서 관리하지 않았던 위협 표면을 통제하려면 새로운 세그먼트가 필요합니다. 동일한 원칙, 새로운 자산, 새로운 영역, 새로운 통제입니다.

AI 제로 트러스트의 필요성

3. 세분화 및 소유권 정의 AI 제로 트러스트가 AI 보안을 위한 개념적 모델이라면, 세분화는 이러한 목표를 정책 적용이 가능한 아키텍처로 구현하는 메커니즘입니다. AI ZT 원칙이 아키텍처에 어떻게 적용되는지 살펴보기 전에, 먼저 세분화가 무엇을 의미하는지 정의하는 것이 중요합니다. 세분화는 제로 트러스트 원칙을 정책 적용이 가능한 아키텍처로 구현하는 메커니즘입니다. 세분화는 각각 서로 다른 속성 집합을 가진 세 가지 수준에서 작동합니다. 이들을 하나의 개념으로 혼동하는 것은 세분화 프로젝트가 실제 환경에 적용될 때 혼란을 초래하는 가장 흔한 원인입니다. 따라서 담당 주체와 기능을 기준으로 각 수준을 정의하는 것이 중요한 단계입니다. 각 수준은 서로 다른 질문에 답하고, 담당 주체가 다르며, 서로 다른 구현 일정이 필요합니다. AI를 도입한 엔터프라이즈에는 세 가지 수준이 모두 필요하지만, 네트워크 및 보안 팀의 관점에서는 매크로 세분화가 기술 및 보안 측면에서 가장 큰 가치를 갖는 경우가 많습니다.

매크로 세분화 마이크로 세분화 나노 세분화

소유자 네트워크 및 보안 팀 애플리케이션 & 비즈니스 팀 AI/ML 엔지니어링 및 DevOps 팀

트래픽 방향 North-South, East-West: 영역 및 워크로드 그룹 간

영역, 세그먼트 및 쿠버네티스(Kubernetes) 네임스페이스 내

쿠버네티스(Kubernetes) 내, 파드 및 컨테이너 간

주요 목표 네트워크 계층의 침해 피해 범위 최소화

애플리케이션 구성 요소(Web, App, DB) 간 내부 확산 방지

애플리케이션 서버 그룹 내 멀웨어 확산 방지

구현 방화벽, API/AI 게이트웨이, AI 방화벽

각 서버/VM에 설치된 에이전트 및 애플리케이션 중심 액세스 제어 — SDN/Cisco ACI

컨테이너 네트워크 인터페이스(CNI) 액세스 제어

매크로 세분화는 워크로드 그룹을 서로 격리해 보호합니다. 마이크로 세분화는 워크로드 내 구성 요소를 서로 격리해 보호합니다. 나노 세분화는 개별 AI 프로세스가 명령어 수준에서 수행할 수 있는 작업을 제어합니다. 즉, 호출할 수 있는 API, 읽을 수 있는 데이터, 수행할 수 있는 조치를 관리합니다.

AI 제로 트러스트의 필요성

영역 상호 연결 지점

수신 이그레스

남북

워크로드 워크로드

기존 경계 방화벽

마이크로 세분화

워크로드 워크로드

서브넷 B

서브넷 A

East-West

네트워크/클라우드 패브릭 또는 엔드포인트 에이전트 활용

프론트엔드

백엔드

클라우드 네이티브 네트워킹

Utilities

워크로드

영역 상호 연결 지점 영역 상호 연결 지점

나노 세분화

마이크로 세분화

인그레스 컨트롤러 동부

서부 APIGateway

<API> API

매크로 세분화

AI 제로 트러스트의 필요성

AI에서 나노 세분화가 중요한 이유 프로덕션 환경에서 AI 에이전트를 실행하는 조직의 경우, 나노 세분화가 없으면 침해되거나 조작된 에이전트가 초기 액세스 권한을 부여받은 후 수행할 수 있는 작업에 제한을 강제할 수 없습니다. 매크로 및 마이크로 제어는 각각 영역과 애플리케이션의 범위를 제한합니다. 나노 제어는 에이전트 자체의 활동 범위를 제한합니다.

핵심 원칙 매크로 세분화의 경계는 신뢰 경계입니다. 모든 신뢰 경계는 보안 기능을 통해 강제되어야 합니다. 매크로 세분화는 영역 간 침해를 봉쇄하고, 마이크로 세분화는 단일 애플리케이션 내부의 개별 구성 요소 간 침해를 봉쇄합니다.

4. 세분화 및 AI 신뢰 경계 네트워크 보안 수준에서 제로 트러스트 적용 메커니즘은 매크로 세분화입니다. 실질적으로 이를 통해 엔터프라이즈 네트워크와 AI 에코시스템을 유사한 신뢰 수준의 워크로드가 포함된 영역으로 세분화하고, 영역 간 트래픽을 제어할 수 있습니다. 신뢰 영역 내에서는 마이크로 및 나노 세분화를 사용하여 더 세분화된 액세스 수준을 적용할 수 있습니다. 이 디자인 패턴에서 매크로 경계는 신뢰 영역 간의 병목 지점이므로 위협 차단을 적용하기에 자연스러운 위치입니다. 영역 내에서는 마이크로 및 매크로 보안 기능을 통해 동일한 신뢰 수준의 자산 간 통신 경로를 제한할 수 있습니다.

당사 모델에서는 AI 신뢰 경계를 신뢰 영역 사이에 위치하는 경계로 정의하는데, 이는 위협 차단 기능을 적용하는 지점이기 때문입니다. 그러나 신뢰 영역 내부에서도 세분화를 적용하여 자산 간 트래픽을 가시화하고 정책을 적용할 수 있습니다.

중요한 점은 신뢰 경계와 마이크로 세그먼트에 이를 통과하는 트래픽을 검사하고 허가할 수 있는 보안 기능을 통해 정책을 적용해야 한다는 것입니다. 또한 트래픽 유형이 변화함에 따라 정책 적용 기능도 그에 맞게 변화해야 합니다.

AI 제로 트러스트의 필요성

매크로 및 마이크로 세분화를 적용하는 AI Security 기능 기존 엔터프라이즈 트래픽의 경우 적용 기능은 차세대 방화벽 또는 인증 프록시입니다. 이러한 제어 수단은 패킷 헤더를 검사하고, 애플리케이션을 식별하며, IPS 시그니처를 적용하고, 정책이 허용하는 경우 TLS를 복호화합니다. 이러한 제어 수단은 위협의 성격이 구조적인 트래픽에 적합합니다. 예를 들어 알려진 익스플로잇, 프로토콜 남용, 자격 증명 도용과 같은 위협에 대응할 수 있습니다.

AI 트래픽은 근본적으로 다르며, AI 트래픽을 악의적으로 만들 수 있는 “페이로드” 역시 다릅니다. 예를 들어, 올바른 형식의 HTTPS 요청 내부에서 전송되는 인젝션 페이로드를 포함한 자연어 프롬프트는 기존 방화벽에서 허용됩니다. AI 공격은 구조적이 아니라 시맨틱하며, 형식이 아닌 콘텐츠의 의미에 내재되어 있습니다. AI 워크로드가 신뢰 경계에 위치하는 경우, 적용 기능은 시맨틱 계층에서 작동해야 합니다.

트래픽 유형 적용 기능 보안 역량

일반 네트워크 트래픽 AI 네트워크 방화벽, NGFW, SASE, 클라우드 프록시

3~7계층, 애플리케이션 식별, IPS 시그니처, TLS 검사

웹 & API 트래픽 웹 애플리케이션 방화벽 [WAF]/API 프록시

HTTP/S, 인젝션 공격, 인증, 요청 횟수 제한

영역 내 트래픽 (마이크로 세분화)

컨테이너, 가상 머신 보안 에이전트(예: Illumio)

접근 제어 [측면 이동 방지]

AI 모델 트래픽 AI를 고려한 정책을 갖춘 보안 LLM 게이트웨이, 프롬프트 인젝션 [AI] 방화벽

파운데이션 모델과 주고받으며 의미와 사용자 의도를 담고 있는 프롬프트

MCP 트래픽 보안 LLM 게이트웨이 및/또는 AI 네트워크 방화벽

도구 호출, 리소스 읽기 및 컨텍스트 전달을 수행하는 MCP 호스트와 서버 간 클라이언트-서버 통신

에이전틱 트래픽 AI 방화벽, 엔드포인트 에이전트

사용자를 대신하여 데이터를 읽고, 쓰거나 수정하며 여러 시스템에 걸쳐 도구 호출을 연쇄적으로 수행하는 자율 에이전트 작업

핵심 사항 위의 각 기능은 정책 적용 지점입니다. 처음 두 가지는 잘 정립되어 있습니다. 하단의 세 가지는 AI 네트워크에 고유한 기능이지만, 대부분의 기업은 아직 이를 구축하지 않았습니다. 따라서 이러한 신뢰 경계 역시 존재하지 않습니다.

AI 제로 트러스트의 필요성

5. 실제 구현: 5개 영역 토폴로지 기존의 3개 또는 4개 영역 모델, 즉 경계, DMZ, 내부, 제한 영역은 사람이 사용하는 기존 애플리케이션으로 구성된 네트워크에는 충분했습니다. 그러나 이 모델로는 AI 기반 에이전틱 엔터프라이즈를 설명할 수 없습니다. 기존 영역 분류로는 다루도록 설계되지 않았던 신뢰 특성을 각각 갖는 두 개의 새로운 영역이 필요합니다. 아래 다이어그램은 새로운 AI 구성 요소를 기존 자산과 함께 배치하고, 각 영역 경계에 어떤 보안 제어를 적용해야 하는지 보여줍니다.

*영역 3 및 4는 새로운 영역이며 — 명시적으로 생성해야 합니다 영역 3과 영역 4를 별도의 신뢰 도메인으로 설정하지 않고 AI 워크로드를 배포하는 조직은 사실상 신뢰할 수 없는 외부 입력에서 권한이 부여된 내부 시스템으로 이어지는 직접적인 경로를 생성한 것입니다. 영역 2와 영역 3 사이의 경계는 프롬프트 콘텐츠를 검사할 수 있는 AI 인식 게이트웨이를 통해서만 실질적으로 강제할 수 있습니다. 실제로 더 큰 위험 노출은 간접적인 방식으로 발생합니다. 즉, 검색된 콘텐츠에 적대적 지침이 포함될 수 있습니다. 따라서 이 경계에서의 정책 적용은 최종 사용자 프롬프트뿐만 아니라 검색된 콘텐츠와 도구가 반환한 콘텐츠도 모두 검사해야 합니다.

그림 1 | 5개 영역으로 구성된 AI 제로 트러스트 토폴로지. 각 영역에는 해당 영역이 보호하는 자산과 경계를 강제하는 주요 보안 제어가 포함되어 있습니다.

새 AI 영역

구역 1: 사용자 및 경계

보호된 자산

주요 보안 제어

* 프롬프트 방어

보호된 자산

주요 보안 제어

보호된 자산

주요 보안 제어

보호된 자산

주요 보안 제어

구역 2: 애플리케이션 & 프런 트엔드

구역 3: AI 오케스트레이션 & 모델

구역 5: 도구, 데이터 및 핵심 시스템

직원

외부 사용자

AI 워크스페이스 / 퍼 블릭 AI

웹 앱

챗봇

코파일럿

AI 애플리케이션

프라이빗 LLM

공개 LLM

AI 팩토리/ GPU 인프라

MCP 서버

비즈니스 도구

API

데이터베이스

핵심 앱

AI 네트워크 방화벽

WAF/API 보안

안티봇 & DDoS

섀도우 AI 식별

AI 방화벽

API 보호

애플리케이션 검사

프롬프트 검사

보안 LLM 게이트웨이*

AI 네트워크 방화벽*

모델 라우팅 & 정책

DLP/콘텐츠 제어

보호된 자산

주요 보안 제어

구역 4: AI 에이전트

AI 에이전트

에이전트 워크플로

자율 작업

AI 네트워크 방화벽

에이전트 신원 인식

행위 모니터링

최소 권한 액세스

마이크로 세분화

AI 네트워크 방화벽

MCP/도구 검사

액세스 제어

세분화

DLP

AI 제로 트러스트의 필요성

AI 신뢰 영역 전환 AI 에코시스템은 복잡하며, 각 자산마다 여러 새로운 연결이 발생합니다. 이처럼 복잡한 환경을 보호하려면 아키텍트와 엔지니어는 트래픽이 신뢰 경계를 넘어 신뢰 전환이 발생하는 모든 지점을 식별해야 합니다.

아래 표는 이러한 전환 과정에서 가장 관련성이 높은 OWASP LLM 및 에이전트 위험이 어디에서 발생하는지, 그리고 각 경계에 어떤 제어를 적용해야 하는지 보여줍니다. 이를 통해 AI 위험을 개념적인 논의에서 실제로 적용할 수 있는 아키텍처 관점으로 전환하고, 보안 팀과 엔터프라이즈 팀이 AI 전용 제어[AI 방화벽, AI 보안 게이트웨이, 프롬프트 방어, 에이전트 제어, MCP 검사]를 어떤 지점에 우선 적용해야 하는지 파악할 수 있습니다.

영역/신뢰 전환 OWASP LLM 위험 OWASP 에이전틱 위험

영역 1 → 2 사용자에서 프런트엔드로

LLM01 프롬프트 인젝션, LLM04 모델 서비스 거부, LLM09 과도한 의존

ASI01 에이전트 목표 하이재킹 [간접, 입력 단계에서 주입], ASI09 인간-에이전트 신뢰 악용

영역 2 → 3 애플리케이션에서 오케스트레이션으로

LLM01 프롬프트 인젝션, LLM06 민감한 정보 유출, LLM04 모델 서비스 거부, LLM10 모델 도난

ASI01 에이전트 목표 탈취; ASI03 신원 및 권한 남용

Zone 3 내부 LLM03 학습 데이터 포이즈닝, LLM05 공급망 취약성, LLM10 모델 탈취, LLM06 민감한 정보 유출

ASI04 에이전트 기반 공급망 침해, ASI06 메모리 및 컨텍스트 포이즈닝

영역 3 → 4 모델에서 에이전트로

LLM02 안전하지 않은 출력 처리, LLM08 과도한 에이전시, LLM09 과도한 의존

ASI01 에이전트 목표 하이재킹, ASI05 예기치 않은 코드 실행, ASI09 인간-에이전트 신뢰 악용

구역 4 → 5 에이전트에서 도구, MCP, API, 데이터로

LLM07 안전하지 않은 플러그인 설계, LLM08 과도한 자율성, LLM02 안전하지 않은 출력 처리, LLM06 민감한 정보 공개

ASI02 도구 오용 및 악용, ASI03 신원 및 권한 악용, ASI05 예기치 않은 코드 실행, ASI07 안전하지 않은 에이전트 간 통신, ASI08 연쇄 장애, ASI10 통제를 벗어난 에이전트

영역 5 → 3 / 4 검색 및 엔터프라이즈 데이터 반환

LLM01 프롬프트 인젝션, LLM06 민감한 정보 노출, LLM02 안전하지 않은 출력 처리

ASI06 메모리 및 컨텍스트 포이즈닝, ASI01 에이전트 목표 하이재킹(간접), ASI04 에이전트 기반 공급망 침해

참고: 제품 매핑은 13, 14페이지를 참조하세요

AI 제로 트러스트의 필요성

관리 플레인 신뢰 전환 전환은 두 가지 범주로 나뉩니다. 데이터 플레인 전환은 실행 중인 시스템을 통해 사용자 및 애플리케이션 트래픽을 전달합니다. 관리 플레인 전환은 시스템 자체를 구축, 변경 및 관찰하는 과정이며, 데이터 플레인이 따르는 규칙 자체를 바꿀 수 있기 때문에 침해되면 피해가 더 큰 경우가 많습니다. 두 유형의 전환을 모두 식별하고 정리해야 하지만, 대부분의 조직은 두 유형 중 일부 전환에 대해서만 보안 제어를 적용합니다.

침해된 CI/CD 파이프라인이나 모델 레지스트리 하나만으로도 조직이 배포한 모든 데이터 플레인 제어를 눈치채기 어렵게 약화시킬 수 있습니다. 바로 이것이 정교한 공격자가 이를 먼저 표적으로 삼는 이유입니다. 관리 플레인 트래픽은 AI 시스템을 구축하고 변경하고 관찰하는 데 사용됩니다. 기업 관리자 네트워크, CI/CD 플랫폼, 모델 레지스트리, 옵저버빌리티 서비스 등 영역 토폴로지 외부에서 발생하며, 이러한 트래픽이 침해되면 데이터 플레인 침해보다 더 큰 피해를 초래하는 경우가 많습니다. 규칙을 우회하는 것이 아니라 규칙을 다시 작성하기 때문입니다.

기존 통제는 여전히 필요합니다 AI 전용 제어는 기존 제어를 대체하지 않고 기존 제어와 함께 적용됩니다. NGFW는 비AI 트래픽에 대한 영역 경계를 계속해서 통제합니다. WAF는 웹 및 API 계층을 계속해서 보호합니다. 신원 기반 정책, IPS, TLS 검사, MFA 및 보안 정보 및 이벤트 관리(SIEM)도 모두 기존 역할을 유지합니다. 두 제어 세트는 서로 대체하는 것이 아니라 함께 적용되며, AI 워크로드가 포함된 제로 트러스트 아키텍처에서는 두 가지 모두 필요합니다.

AI 제로 트러스트의 필요성

6. 체크 포인트 AI 제로 트러스트 솔루션 구성 요소 계층에서 체크 포인트는 엔터프라이즈 AI 에코시스템의 모든 영역을 보호하도록 설계된 AI 보안 기술로 구성된 풀스택 포트폴리오를 통해 AI 제로 트러스트를 구현합니다. 생성형 AI 및 AI 애플리케이션의 임직원 사용부터 에이전틱 워크플로, AI 방화벽, GPU 기반 AI 인프라까지 폭넓은 영역을 보호합니다. 체크 포인트 기술을 영역에 매핑함으로써 조직이 AI 에코시스템 전반에서 AI 상호작용을 보호하고, 자율적 동작을 관리하며, 모델 및 데이터 경로를 보호하고, 제로 트러스트 보안 제어를 적용할 수 있도록 지원합니다.

AI 제로 트러스트 원칙/위험

체크 포인트 제품 영역/경계 기여하는 바

AI 상호작용 계층에서 침해 발생을 가정

AI 네트워크 방화벽/웹 애플리케이션 방화벽

영역 1 → 2 및 영역 2 → 3

기존 방화벽/WAF 정책 적용을 AI 상호작용에도 확장하여 생성형 AI 앱 및 API에 대한 AI 인식 보호를 제공합니다.

임직원의 생성형 AI 사용 관리

Workforce AI Security

영역 1 AI 도구, 코파일럿 및 AI 기반 애플리케이션의 임직원 사용에 대한 가시성 및 거버넌스

AI 애플리케이션 및 에이전트 식별 및 관리

AI 에이전트 보안 영역 3 및 4 임직원, 애플리케이션 및 에이전트 전반에서 AI를 식별하고 보호하며 관리하는 통합 아키텍처

마이크로 세분화 체크 포인트 Security Mgmt+ Illumio 마이크로 세분화

영역 3 및 4 마이크로 세그먼트 간 및 내부와 Kubernetes 환경에서 내부 확산 방지

AI 시스템을 지속적으로 검증

AI 레드티밍 영역 3 및 4 [검증]

프롬프트, 추론 경로, 워크플로, 도구 사용, 에이전트 동작을 대상으로 지속적인 공격자 관점의 테스트를 수행합니다.

프라이빗 LLM 및 GPU 환경 세분화 및 보호

AI Factory Firewall(AIFF)

영역 3 내부 [East-West]

NVIDIA BlueField DPU에서 실행되는 AI 워크로드용 체크 포인트 NGFW

네트워크 전반의 피해 범위 감소

AI 네트워크 방화벽 & 마에스트로 하이퍼스케일(Maestro Hyperscale) 방화벽

모든 영역 경계 Hybrid Mesh 및 엔터프라이즈 네트워크 제로 트러스트를 위한 기반 정책 적용 계층

AI 제로 트러스트의 필요성

아키텍처 요약: 각각 전용 체크 포인트 제어가 적용된 5개의 트러스트 영역

AI 제로 트러스트 I 아키텍처 요약 각각 전용 체크 포인트 보안 제어가 적용된 5개의 트러스트 영역

왼쪽에서 오른쪽으로: 사용자와 머신은 ZTNA를 통해 유입되고 AI 네트워크 방화벽을 통과하여 에이전트 보안이 적용되는 에이전트에 도달한 다음, 프롬프트 방어로 보호되는 LLM에 도달합니다. AI 컴퓨팅 워크로드는 “AI 팩토리” 라고도 하는 AI 데이터 센터 내부의 GPU 클러스터에서 실행됩니다. AI 데이터 센터는 AI Factory Firewall과 여러 AI 보안 계층을 중첩하여 적용해 보호하며, 여기에는 처음부터 끝까지 AI 런타임 검사가 포함됩니다. 모든 경계에 정책이 적용되는 단일 플랫폼입니다.

두 개의 제어 지점이 이 부하의 대부분을 담당합니다. AI 네트워크 방화벽: 프롬프트 인젝션 탐지와 사용자, 에이전트, 모델 및 민감한 엔터프라이즈 시스템 간 정책 적용을 포함한 AI 인식 검사 및 세분화 기능을 추가하여 기존 NGFW를 확장합니다. 보안 LLM 게이트웨이: AI 및 모델 상호작용을 위한 전용 제어 지점으로, 안전한 LLM 라우팅, 프롬프트 방어, 콘텐츠 및 정책 검사, AI 애플리케이션과 에이전트의 내부 및 외부 모델 연결에 대한 거버넌스 등을 제공합니다.

구역 1: 사용자 및 경계

구역 2: 애플리케이션 & 프런트엔드

구역 3: AI 오케스트레이션 & 모델

구역 4: AI 에이전트

구역 5: 도구, 데이터 및 핵심 시스템

AI 네트워크 방화벽 AI 네트워크 방화벽 AI 네트워크 방화벽 프롬프트 방어 AI Factory Firewall/BlueField

Workforce AI Security 보안 LLM 게이트웨이 AI 레드티밍 AI 레드티밍 마에스트로 하이퍼스케일 (Maestro Hyperscale)

ZTNA/SASE WAF/API 보안 ThreatCloud AI ThreatCloud AI 체크 포인트+Illumio

ID 액세스 제어

사용자/에이전트를 절대 신뢰하지 말 것

모든 트래픽 검사

최소 권한 프롬프트/출력을 절대 신뢰하지 말 것

침해 가정

AI 제로 트러스트의 필요성

7. 시작하기 – AI 제로 트러스트를 위한 경영진용 5단계 접근법

01 � 위험 기반 AI 보안 평가 실시 먼저 AI가 비즈니스와 사이버 보안 측면에서 중대한 위험을 초래하는 영역을 파악하세요. 경영진은 가장 관련성이 높은 위협, 통제 격차 및 주요 위험 노출을 파악하기 위해 OWASP LLM, OWASP Agentic Risks, MITRE ATLAS와 같이 널리 인정받는 프레임워크를 기준으로 AI 사용 사례, 에이전트, 모델, 애플리케이션 및 지원 인프라에 대한 체계적인 평가를 주도해야 합니다. 체크 포인트는 도움을 드리기 위해 다음과 같은 자료를 게시했습니다:

• 체크 포인트 AI 위험 매트릭스 도구

• 백서 | 에이전틱 AI 보안: 엔터프라이즈 플레이북

• AI 데이터 센터 및 AI 팩토리 보안 청사진

02 � AI 자산 가시화 위험을 파악한 후 다음 단계는 AI가 이미 도입되어 있거나 도입이 계획된 영역에 대한 가시성을 확보하는 것입니다. 이는 현재 거버넌스 범위 밖에 있을 수 있는 비공식 또는 섀도우 배포를 포함하여, 기업 전반의 주요 AI 사용 사례, 모델 연결 관계, 에이전트, AI 기반 애플리케이션, 핵심 도구 또는 데이터에 대한 종속성을 파악하는 것을 의미합니다.

03 � 신뢰 영역 정의 가시성이 확보되면 조직은 AI 구성 요소를 명확한 트러스트 모델에 따라 분류해야 합니다. 아키텍처 및 보안 팀은 5개 영역 접근 방식을 활용하여 AI 오케스트레이션, 모델 환경, 에이전트, MCP 또는 도구 액세스를 기존 DMZ 및 내부 영역과 구분하고, AI 제로 트러스트를 위한 정책 및 세분화의 기반을 마련해야 합니다.

04 � 위험도가 가장 높은 경계의 우선순위 지정 및 보호 모든 경계가 비즈니스에 미치는 영향이 동일한 것은 아니므로 경영진은 가장 중요한 신뢰 전환 지점에 먼저 집중해야 합니다. 침해 시 민감한 데이터가 노출되거나, 자율적 동작이 실행되거나, 시스템적 운영 위험이 발생할 수 있는 경계에 우선순위를 두어야 합니다. 예를 들어 애플리케이션-모델, 모델- 에이전트, 에이전트-핵심 시스템 간 상호작용과 같이 AI 방화벽, AI 보안 게이트웨이, 프롬프트 방어, 도구 검사 등의 AI 전용 제어가 필요한 경계가 이에 해당합니다.

05 � 소유권 및 운영 책임 할당 마지막으로, AI 제로 트러스트는 아키텍처 개념으로 남겨두지 않고 운영 모델로 전환되어야 합니다. 보안 및 엔터프라이즈 아키텍처 팀은 프레임워크를 정의해야 합니다. AI 및 애플리케이션 팀은 의도한 동작과 허용되는 작업 범위를 정의해야 합니다. 인프라 및 네트워크 팀은 세분화를 적용하고 복원력을 확보해야 합니다. AI 워크로드가 프로덕션 환경으로 확장되기 전에 이러한 책임을 명확하게 할당해야 합니다.

https://airiskmatrix.org/ https://www.checkpoint.com/resources/all-assets-460c/white-paper-agentic-ai-security-the-enterprise-playbook https://engage.checkpoint.com/ai-data-center-ai-factory-security-blueprint

AI 제로 트러스트의 필요성 16

8. 결론 Anthropic Mythos 및 기타 고급 최첨단 AI 모델로 인해 모든 기업의 위험 수준이 높아졌습니다. AI 기반 공격은 더 빠르고 비용은 낮아지며, 억제하기는 더 어려워지고 있는 반면, 많은 엔터프라이즈 AI 시스템은 여전히 매우 취약합니다. AI 사이버 보안의 과제에 대응하려면 변화가 필요합니다. AI 제로 트러스트는 AI 시스템에 맞게 제로 트러스트 원칙을 발전시킨 형태입니다. 이는 현재 가장 중요하게 고려해야 할 사항을 전제로 하기 때문에 실무자에게 효과적인 모델입니다. 즉, 침해 발생을 가정하고, 최소 권한을 적용하며, 모든 경계에서 침해를 봉쇄합니다.

리더십의 우선 과제는 보호 공백으로 인해 막대한 비용을 수반하는 비즈니스 중단과 신뢰 상실이 발생하기 전에, 신속하게 추진하고 AI 보안을 비즈니스 복원력의 문제로 다루며 AI 환경 전반에 AI 제로 트러스트를 확장하는 것입니다.

체크 포인트 정보 Check Point Software Technologies Ltd.는 전 세계 100,000개 이상의 조직을 보호하는 글로벌 사이버 보안 선도 기업입니다. 체크 포인트의 사명은 기업의 AI 전환을 보호하는 것입니다. 예방을 우선하는 접근 방식과 개방형 에코시스템 아키텍처를 기반으로 구축된 체크 포인트는 조직이 위험을 줄이고 운영을 간소화하며 안심하고 혁신할 수 있도록 지원합니다. 이 통합 보안 아키텍처는 진화하는 위협과 확대되는 AI 공격 표면에 지속적으로 적응하여 하이브리드 네트워크, 클라우드 환경, 디지털 워크스페이스, AI 시스템을 보호합니다. Hybrid Mesh Network Security, Workspace Security, Exposure Management, AI Security의 4대 전략적 축을 중심으로 체크 포인트는 복잡한 멀티벤더 환경 전반에서 일관된 보호와 가시성을 제공합니다.

자세히 알아보기

AI 데이터 센터 및 AI 팩토리 보안 연락처

전 세계 본사 5 Shlomo Kaplan Street, Tel Aviv 6789159, Israel | 전화: +972-3-753-4599

미국 본사 100 Oracle Parkway, Suite 800, Redwood City, CA 94065 | 전화: 1-800-429-4391

www.checkpoint.com/kr/

https://engage.checkpoint.com/executive-guide-securing-the-ai-data-center-ai-factory https://pages.checkpoint.com/2026-mar-ww-ai-factory-and-data-center-security.html https://www.checkpoint.com/kr/

Guide | The Case for AI Zero Trust (Korean)

Item Type: pdf