프롬프트 인젝션부터 RAG까지, LLM 데이터 유출 공격 방어 원리 가이드
로컬 환경에서 구동하는 LLM을 사용할 때 민감 데이터가 유출되는 가장 흔한 경로는 모델 자체의 결함보다는, 모델과 외부 시스템(API, 벡터 DB, 프롬프트 입력)을 연결하는 ‘연동 계층(Integration Layer)’의 취약점에서 발생합니다. 즉, Ollama와 같은 로컬 구동 환경이라 할지라도, 사용자가 의도치 않게 민감한 정보를 입력하거나, 시스템이 외부 데이터와 부적절하게 연동될 때 보안 취약점이 발생할 수 있습니다. 이 가이드는 LLM … 더 읽기