결과 확인 및 태스크 관리
관리자가 태스크 상세(Task Detail)의 대시보드에서 결과를 확인하고, 제출물(Submission)의 판정(Verdict)을 검토하고, 태스크 구성(Task Config)에서 태스크를 관리합니다.
1. 대시보드 결과 확인
①지표 카드
태스크 목록에서 태스크를 열면 대시보드 탭이 먼저 보입니다. 이 페이지의 작업은 관리자가 합니다.
| 지표 | 뜻 |
|---|---|
총 제출 수 | 전체 제출 수 |
공격 성공 수 | 1회 이상 공격에 성공한 목표 수 / 전체 목표 수 |
탈옥률 (ASR) | 전체 시도 중 공격이 성공한 비율 |
②보기 방식
지표 카드 아래에서 결과를 두 가지로 봅니다.
| 보기 | 열 | 쓰임 |
|---|---|---|
개인별 | #, 테스터, 해결한 목표, 시도, 성공, ASR | 테스터별 성과 순위 |
목표별 | #, 목표, 시도, 성공, 탈옥률 | 목표별로 얼마나 뚫렸는지 |
해결한 목표의 점은 목표마다 성공(초록)·실패(빨강)를 나타냅니다.개인별에서는시도,성공,ASR로 정렬할 수 있습니다.- 행을 클릭하면 그 테스터나 목표의 제출물 상세가 열립니다.
1-1지표 확인
Total Submissions로 전체 제출 수를 확인합니다.Attacks Succeeded로 뚫린 Objective 수를 확인합니다.Jailbreak rate (ASR)를 확인합니다.
지표 뜻은 지표 카드에 있습니다.
1-2테스터별·Objective별 보기
Individual에서 테스터별 순위를 봅니다.By Objective로 바꿔 Objective별 공격 현황을 봅니다.- 자세히 볼 행을 클릭합니다.
2. 제출물과 판정 검토
①제출물 상세
제출물 상세 왼쪽에는 테스터와 모델의 대화 전체가, 오른쪽에는 판정이 보입니다.
| 항목 | 뜻 |
|---|---|
평가 유형 · 평가 모델 | 채점 방식과 모델 |
공격 성공 임계값 | 성공으로 보는 루브릭 충족 개수 |
| 최종 판정 | 공격 성공 / 공격 차단 |
Attack Rubric | 기준마다 Criteria Met / Criteria Not Met |
평가 사유 | 판정 근거 |
②판정 오버라이드
자동 판정이 틀렸다고 보면 관리자가 판정 오버라이드에서 성공 또는 실패로 판정을 바꿉니다.
2-1대화와 판정 확인
- Dashboard에서 테스터 행을 클릭합니다.
- 왼쪽에서 Objective와 대화 전체를 읽습니다.
- 오른쪽에서 최종 판정을 확인합니다.
Attack Rubric과Judge Reason으로 근거를 확인합니다.
2-2판정 바꾸기
- 판정이 틀렸으면
Override Verdict에서 맞는 쪽을 클릭합니다. - 바뀐 판정을 확인합니다.
Override Verdict를 참고하세요.
- 판정이 틀렸으면
3. 태스크 구성에서 관리
①수정할 수 있는 것
태스크 구성 탭에서 태스크 운영을 관리합니다.
| 항목 | 할 수 있는 일 |
|---|---|
| 태스크 이름·설명 | 언제든 수정 |
| 상태 | 활성 ↔ 닫힘 전환. 위쪽 스위치나 ⋯ 메뉴의 태스크 종료로 바꿉니다. |
| 목표 추가 | New Objective로 언제든 추가 |
| 목표·평가 모델 수정 | 제출이 없을 때만. 제출이 생기면 Cannot edit judge after submission.이 보입니다. |
| 타겟 모델 | 만든 뒤에는 변경 불가 |
| 태스크 삭제 | 삭제를 누르고 확인란에 삭제를 그대로 입력 |
태스크를 닫으면 테스터의 어노테이션 대기열에서 사라지고 새 제출을 받지 않습니다. 삭제한 태스크와 제출 결과는 되돌릴 수 없습니다.
3-1상태 바꾸기
Task Config탭을 클릭합니다.- 위쪽 스위치로
Active와Closed를 바꿉니다. ⋯메뉴의Close Task로도 닫을 수 있습니다.- 확인 창에서
Close Task를 클릭합니다.
닫힌 Task는 테스터에게 보이지 않습니다.
3-2Objective 관리
- Objective 카드에서 설명과 Judge를 확인합니다.
- 제출이 없는 Objective는 연필 아이콘으로 고칩니다.
- 제출이 있으면 Judge를 고칠 수 없다는 안내가 보입니다.
- 새 목표는
New Objective로 더합니다.
수정 가능 범위는 수정할 수 있는 것에 있습니다.
3-3Task 삭제
- 맨 아래
Delete Task를 클릭합니다. - 확인란에
Delete Task를 입력합니다. Delete를 클릭합니다.
삭제는 되돌릴 수 없습니다.
- 맨 아래
자주 묻는 질문
목표나 평가 모델을 왜 고칠 수 없나요?이미 제출이 있는 목표이기 때문이에요.
- 원인
- 채점 기준이 중간에 바뀌면 결과를 비교할 수 없어서, 제출이 하나라도 생기면 잠겨요.
- 해결 방법
- 새 목표를 추가해 주세요.
타겟 모델을 바꿀 수 있나요?아니요, 태스크를 만든 뒤에는 바꿀 수 없어요.
- 원인
- 제출 결과가 모두 같은 모델 기준이어야 하기 때문이에요.
- 해결 방법
- 다른 모델은 새 태스크를 만들어 평가해 주세요.
자동 판정이 틀린 것 같으면 어떻게 하나요?관리자라면 제출물 상세의 판정 오버라이드로 맞는 판정을 골라 보세요. 관리자가 아니라면 관리자에게 요청하면 돼요.
- 원인
- LLM Judge도 실수할 수 있어서
판정 오버라이드를 제공해요. - 해결 방법
- 제출물 상세에서
판정 오버라이드로 맞는 판정을 골라 주세요.
태스크를 닫았는데 결과는 남아 있나요?네, 결과는 그대로 남아요.
- 원인
- Close는 새 제출만 막고 테스터 목록에서 숨겨요. 대시보드와 제출물은 계속 볼 수 있어요.
- 해결 방법
- 다시 받으려면 스위치로
활성으로 바꿔 주세요.