AI Security

I research and practice AI Security with a focus on LLM Security, AI Red Teaming, and AI Application Security.

AI 보안 연구와 LLM 보안 진단을 통해 애플리케이션의 취약점을 분석하고, 공격 시나리오의 재현성·악용 가능성·비즈니스 영향을 검증합니다. 공개 진단 회고와 학습 기록을 주제별로 연결합니다.

Areas / 살펴보는 보안 경계

• LLM Security — Prompt Injection, System Prompt Leakage, Hallucination을 실제 서비스 동작과 구분하여 살펴봅니다.
• AI Red Teaming — 공격자 관점에서 정책 우회와 데이터 노출 가설을 세우고 증적으로 검증합니다.
• AI Application Security — 프롬프트 UI, API, 오류 처리와 출력 검증을 서비스의 보안 경계 안에서 다룹니다.
• RAG Security — 검색 문서의 신뢰성과 조회 권한은 진단 전 확인할 항목입니다. 공개 회고에서는 RAG 적용 여부 확인의 필요성을 다룹니다.
• AI Agent Security — 모델이 생성한 텍스트와 실제 Tool 실행을 구분하고 도구 권한을 확인합니다.
• Prompt Injection · Excessive Agency — 입력 지침의 우회와 과도한 자율성이 업무 흐름에 미치는 영향을 검토합니다.

Evidence → Methodology → Research

AI Security Assessment Methodology에서 관찰한 현상을 검증 가능한 공격 시나리오로 발전시키는 과정을 설명합니다. Case Studies는 실제 공개한 진단 회고를 모읍니다.

관련 학습 기록은 AI 보안 커리큘럼과 AI Security 태그에서 이어집니다. 다른 기술 기록은 Blog에 그대로 남아 있습니다.