전통적인 EDR, SIEM, 네트워크 IPS와 같은 보안 솔루션은 CPU 중심의 운영체제(OS) 로그와 트레이드에만 의존합니다. 그래서 AI 가속기 내부에서 실행되는 커널, 워크로드, 메모리 접근 패턴을 감시하지 못합니다. 특히 가속기의 고속 비디오 메모리(VRAM)나 전용 칩 내부 동작은 기존 보안 도구의 시야에서 완전히 벗어나 있습니다.
네오클라우드 환경과 새로운 보안 위협의 정의
네오클라우드는 AWS, Azure, Google Cloud와 같은 전통적인 하이퍼스케일 클라우드와 구별되는 AI 우선 전용 클라우드 환경을 뜻합니다. 이 환경은 AI 학습과 추론 워크로드를 최적화하려 AI 가속기를 핵심 인프라로 활용합니다.
하지만 네오클라우드의 구조적 특성은 새로운 보안 취약점을 낳습니다. 단일 물리 노드에서 다수 고객의 AI 워크로드가 공유 실행되는 멀티테넌트 환경이라서, 가속기 레벨의 격리 메커니즘이 미비하면 한 고객의 침해가 인접한 다른 워크로드로 번질 위험이 있습니다. 만약 네오클라우드 노드가 은밀하게 뚫리면 해당 노드를 사용하는 모든 고객에게 보이지 않는 공급망 위험이 퍼지며, 특히 학습 데이터, 모델 가중치, 지식재산권(IP)이 노출될 우려가 큽니다.
전통적 보안 솔루션의 감시 사각지대
기존 사이버 보안 도구는 수십 년간 CPU 중심의 운영체제 위에서 발전해 왔습니다. 그래서 AI 가속기 기반 환경에서는 다음 세 가지 핵심적인 기술적 사각지대가 생겨납니다.
1. VRAM 및 전용 칩 내부 접근 제한
가속기의 고속 비디오 메모리(VRAM)는 호스트 OS와 별도의 메모리 공간으로 관리됩니다. 전통적인 메모리 포렌식 도구로는 VRAM 내부에서 일어나는 데이터 이동, 코드 실행, 모델 가중치 접근을 직접 지켜보는 게 불가능합니다.
2. 고속 전용 인터커넥트의 분석 불가
네오클라우드 환경에서 가속기 간 통신은 NVLink나 InfiniBand 같은 고속 전용 인터커넥트로 이루어집니다. 이 통신 경로를 잡거나 분석할 표준 보안 도구가 없어서 네트워크 레벨 감지가 어렵습니다.
3. 가속기 아키텍처의 극심한 이질성
AI 가속기는 제조사와 플랫폼마다 서로 다른 아키텍처를 씁니다. 각 플랫폼의 특성은 다음과 같습니다.
| 가속기 유형 | 주요 플랫폼/제조사 | 보안 모니터링의 한계점 |
|---|---|---|
| GPU | NVIDIA (CUDA) | 전용 명령어 세트 및 드라이버 스택의 폐쇄성 |
| TPU | 독자적인 메모리 아키텍처 및 런타임 행위 | |
| LPU / WSE / IPU / TT | Groq, Cerebras, Graphcore, Tenstorrent | 플랫폼별 상이한 명령어 세트로 인한 통합 모니터링 불가능 |
이처럼 가속기마다 전용 명령어 세트, 메모리 아키텍처, 드라이버 스택이 모두 다르다 보니 기존 보안 도구가 모든 플랫폼의 런타임 행위를 모니터링하는 건 현실적으로 어렵습니다.
사례 연구: Januscape 취약점 (CVE-2026-53359)
네오클라우드와 가상화 환경의 취약성을 보여주는 대표적인 사례가 Januscape(CVE-2026-53359)입니다.
취약점 분석 및 위험도
Januscape는 Linux KVM 하이퍼바이저의 shadow MMU 에뮬레이션 코드에서 발생하는 use-after-free 취약점입니다. NVD는 이 취약점에 CVSS 3.1 Score 8.8(High)이라는 높은 위험도를 부여했습니다. 구체적인 CVSS 벡터는 AV:L/AC:L/PR:L/UI:N/S:C/C:H/I:H/A:H로 평가됐습니다.
공격 메커니즘 및 결과
이 취약점을 악용하려면 다음 두 가지 전제 조건이 충족되어야 합니다.
- 중첩 가상화(Nested Virtualization)가 노출되어 있을 것
- 게스트 OS 내에 PoC(Proof of Concept) 모듈이 적재될 것
공개된 PoC 결과를 보면, x86 KVM 환경에서 게스트 측 동작만으로 호스트 커널 패닉을 일으켜 서비스 거부(DoS) 상태를 만들 수 있습니다.
대응 조치
해당 취약점은 2026년 6월 16일 메인라인에 병합된 커밋 81ccda30b4e8으로 패치됐습니다.
해결 방향: 가속기 중심의 새로운 분석 접근법
전통적인 보안 솔루션의 한계를 극복하려면 GPU 메트릭과 커널 추적을 추상화해 분석하는 방식이 필요합니다. Stealthium 같은 경우 원시 GPU 메트릭과 커널 추적(Kernel Traces)을 높은 수준의 실행 가능한 추상화 단위인 ‘하이프린트(Hyperprints)’로 바꿔 분석하는 기술을 활용합니다.
네오클라우드 운영자와 AI 모델 개발자는 CPU 중심의 보안 관점에서 벗어나야 합니다. 대신 가속기 내부의 메모리 접근 패턴과 전용 인터커넥트의 흐름을 감시할 수 있는 특화된 보안 전략을 세워야 합니다.