> For the complete documentation index, see [llms.txt](https://docs.datumo.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.datumo.com/documentation/redteaming/undefined.md). # 핵심 개념과 구조 Datumo Redteaming은 LLM의 안전성 리스크를 자동으로 평가합니다. 벤치마크 데이터셋의 시드(Seed)에 여러 레드티밍 전략을 적용해 공격 프롬프트를 생성하고, 이를 Target Model에 실행합니다. 결과는 Risk Taxonomy와 전략군별로 집계되므로, 모델이 어떤 위험 유형과 어떤 공격 방식에 취약한지를 일관된 기준으로 확인할 수 있습니다. ### 1. 주요 용어

용어	설명
Benchmark Dataset	Risk Taxonomy 기준으로 구성된 공격 시뮬레이션용 Seed 라이브러리입니다.
Risk Taxonomy	AI 모델의 안전성을 다각도로 검증하기 위해 정의된 유해성 평가 분류 체계입니다.
Auto Red Teaming	선택한 Benchmark Dataset의 Seed를 기반으로 다양한 공격 전략을 자동 적용하고 반복 실행하여 모델의 방어 한계와 취약 지점을 탐색하는 과정입니다.
Attack Strategy	공격 프롬프트를 생성하기 위해 적용되는 Red-Teaming 전략입니다. 셀렉트스타의 연구를 통해 도출된 16종의 특화 전략이 포함됩니다.
Attack Set	이번 평가에 실제로 사용할 공격 항목입니다. 전체 데이터를 선택하거나 필요한 개수만큼 Random Sampling하여 구성할 수 있습니다.
Target Model	취약점을 파악하고자 하는 공격 대상 LLM 모델입니다.
Jailbreak	Target Model이 공격에 의해 유해하거나 부적절한 답변을 생성하는 경우를 의미합니다.

### 2. 활용 사례 * **배포 전 안전성 검증** — 모델을 배포하기 전에 어떤 공격에 취약한지 사전에 파악합니다. * **운영 중인 시스템 점검** — 이미 서비스 중인 AI 시스템을 주기적으로 점검해 리스크를 추적하고 예방합니다. ### 3. 동작 방식 Datumo Red Teaming은 준비 → 실행 → 분석 세 단계로 진행되며, 아래 순서로 사용하는 것을 권장합니다. **1.** [**Benchmark Dataset 선택**](https://docs.eval.datumo.com/ko/tutorials/safety/benchmark/) 공격 시뮬레이션에 사용할 Seed와 Risk Taxonomy 구성을 확인합니다. **2.** [**Evaluation Task 생성 및 실행**](https://docs.eval.datumo.com/ko/tutorials/safety/star-teaming/run-attack-set) 취약점을 분석할 Target Model을 선택하고 Attack Set을 구성한 뒤, 자동 레드티밍을 실행합니다. **3.** [**결과 분석**](https://docs.eval.datumo.com/ko/tutorials/safety/star-teaming/redteaming-results) Dashboard에서 ASR, Score 등의 지표로 취약 지점을 분석합니다.