Platform Docs
Try DatumoEval

결과 확인 및 태스크 관리

관리자가 태스크 상세(Task Detail)의 대시보드에서 결과를 확인하고, 제출물(Submission)의 판정(Verdict)을 검토하고, 태스크 구성(Task Config)에서 태스크를 관리합니다.

1. 대시보드 결과 확인

①지표 카드

태스크 목록에서 태스크를 열면 대시보드 탭이 먼저 보입니다. 이 페이지의 작업은 관리자가 합니다.

지표뜻
총 제출 수전체 제출 수
공격 성공 수1회 이상 공격에 성공한 목표 수 / 전체 목표 수
탈옥률 (ASR)전체 시도 중 공격이 성공한 비율

②보기 방식

지표 카드 아래에서 결과를 두 가지로 봅니다.

보기열쓰임
개인별#, 테스터, 해결한 목표, 시도, 성공, ASR테스터별 성과 순위
목표별#, 목표, 시도, 성공, 탈옥률목표별로 얼마나 뚫렸는지
  • 해결한 목표의 점은 목표마다 성공(초록)·실패(빨강)를 나타냅니다.
  • 개인별에서는 시도, 성공, ASR로 정렬할 수 있습니다.
  • 행을 클릭하면 그 테스터나 목표의 제출물 상세가 열립니다.
  1. 1-1지표 확인

    1. Total Submissions로 전체 제출 수를 확인합니다.
    2. Attacks Succeeded로 뚫린 Objective 수를 확인합니다.
    3. Jailbreak rate (ASR)를 확인합니다.

    지표 뜻은 지표 카드에 있습니다.

  2. 1-2테스터별·Objective별 보기

    1. Individual에서 테스터별 순위를 봅니다.
    2. By Objective로 바꿔 Objective별 공격 현황을 봅니다.
    3. 자세히 볼 행을 클릭합니다.

2. 제출물과 판정 검토

①제출물 상세

제출물 상세 왼쪽에는 테스터와 모델의 대화 전체가, 오른쪽에는 판정이 보입니다.

항목뜻
평가 유형 · 평가 모델채점 방식과 모델
공격 성공 임계값성공으로 보는 루브릭 충족 개수
최종 판정공격 성공 / 공격 차단
Attack Rubric기준마다 Criteria Met / Criteria Not Met
평가 사유판정 근거

②판정 오버라이드

자동 판정이 틀렸다고 보면 관리자가 판정 오버라이드에서 성공 또는 실패로 판정을 바꿉니다.

  1. 2-1대화와 판정 확인

    1. Dashboard에서 테스터 행을 클릭합니다.
    2. 왼쪽에서 Objective와 대화 전체를 읽습니다.
    3. 오른쪽에서 최종 판정을 확인합니다.
    4. Attack Rubric과 Judge Reason으로 근거를 확인합니다.
  2. 2-2판정 바꾸기

    1. 판정이 틀렸으면 Override Verdict에서 맞는 쪽을 클릭합니다.
    2. 바뀐 판정을 확인합니다.

    Override Verdict를 참고하세요.


3. 태스크 구성에서 관리

①수정할 수 있는 것

태스크 구성 탭에서 태스크 운영을 관리합니다.

항목할 수 있는 일
태스크 이름·설명언제든 수정
상태활성 ↔ 닫힘 전환. 위쪽 스위치나 ⋯ 메뉴의 태스크 종료로 바꿉니다.
목표 추가New Objective로 언제든 추가
목표·평가 모델 수정제출이 없을 때만. 제출이 생기면 Cannot edit judge after submission.이 보입니다.
타겟 모델만든 뒤에는 변경 불가
태스크 삭제삭제를 누르고 확인란에 삭제를 그대로 입력

태스크를 닫으면 테스터의 어노테이션 대기열에서 사라지고 새 제출을 받지 않습니다. 삭제한 태스크와 제출 결과는 되돌릴 수 없습니다.

  1. 3-1상태 바꾸기

    1. Task Config 탭을 클릭합니다.
    2. 위쪽 스위치로 Active와 Closed를 바꿉니다.
    3. ⋯ 메뉴의 Close Task로도 닫을 수 있습니다.
    4. 확인 창에서 Close Task를 클릭합니다.

    닫힌 Task는 테스터에게 보이지 않습니다.

  2. 3-2Objective 관리

    1. Objective 카드에서 설명과 Judge를 확인합니다.
    2. 제출이 없는 Objective는 연필 아이콘으로 고칩니다.
    3. 제출이 있으면 Judge를 고칠 수 없다는 안내가 보입니다.
    4. 새 목표는 New Objective로 더합니다.

    수정 가능 범위는 수정할 수 있는 것에 있습니다.

  3. 3-3Task 삭제

    1. 맨 아래 Delete Task를 클릭합니다.
    2. 확인란에 Delete Task를 입력합니다.
    3. Delete를 클릭합니다.

    삭제는 되돌릴 수 없습니다.


자주 묻는 질문

목표나 평가 모델을 왜 고칠 수 없나요?이미 제출이 있는 목표이기 때문이에요.
원인
채점 기준이 중간에 바뀌면 결과를 비교할 수 없어서, 제출이 하나라도 생기면 잠겨요.
해결 방법
새 목표를 추가해 주세요.
타겟 모델을 바꿀 수 있나요?아니요, 태스크를 만든 뒤에는 바꿀 수 없어요.
원인
제출 결과가 모두 같은 모델 기준이어야 하기 때문이에요.
해결 방법
다른 모델은 새 태스크를 만들어 평가해 주세요.
자동 판정이 틀린 것 같으면 어떻게 하나요?관리자라면 제출물 상세의 판정 오버라이드로 맞는 판정을 골라 보세요. 관리자가 아니라면 관리자에게 요청하면 돼요.
원인
LLM Judge도 실수할 수 있어서 판정 오버라이드를 제공해요.
해결 방법
제출물 상세에서 판정 오버라이드로 맞는 판정을 골라 주세요.
태스크를 닫았는데 결과는 남아 있나요?네, 결과는 그대로 남아요.
원인
Close는 새 제출만 막고 테스터 목록에서 숨겨요. 대시보드와 제출물은 계속 볼 수 있어요.
해결 방법
다시 받으려면 스위치로 활성으로 바꿔 주세요.

최종 수정일