개요
OWASP(Open Worldwide Application Security Project)가 2023년부터 발표하기 시작한, LLM 기반 시스템에서 가장 흔하게 발생하는 대표 취약점 목록이다. 기존 OWASP 모바일 Top 10·웹 Top 10과 같은 형식의 업계 참조 표준 역할을 한다.
핵심 정보
- 발행 주체: OWASP — 화이트 해커들이 모인 비영리 오픈소스 보안 커뮤니티
- 신설 시점: 2023년 (LLM 전용 목록)
- 형식: 한 분야에서 가장 흔한 취약점 몇 가지를 추려 제시하는 체크리스트형 표준
- 주요 항목(본문 언급): 프롬프트 인젝션, 시스템 프롬프트 유출
- 분류 특징: jailbreak를 독립 항목으로 두지 않고 프롬프트 인젝션의 한 종류로 편입
- 실무 용도: 기존 모바일·웹 보안 경험자가 익숙한 보안 논리로 AI 시스템을 그대로 읽어낼 수 있게 하는 번역 장치
- 관련 자동화 도구: garak(NVIDIA), PyRIT(Microsoft) — 목록상 취약점을 실제로 재현·검증
주요 발언 / 기여
그런데 2023년부터 OWASP LLM 탑 10이라는 게 생겼어요. 말 그대로 LLM에서 발생할 수 있는 대표적인 취약점들을 정리해서 정해 놓은 겁니다. 이 목록을 보면 제가 익숙하게 해 오던 보안 논리로 AI를 그대로 읽을 수 있어요.
관계
- 20260814-agent-security-as-renamed-legacy-security — 이 표준이 뒷받침하는 개념
- 20260814-sim-jaebin — 이 목록을 실무 판단 기준으로 활용하는 보안 실무자