Platform Docs
Try DatumoEval

평가 이력

평가(Run Eval)로 생성된 평가 결과를 확인하고, 에러가 난 항목을 다시 실행합니다.

1. 결과 목록 확인

①결과 화면 구성

결과 화면은 평가 하나에서 태스크 하나의 결과를 표로 보여 줍니다. 평가 이력 화면에서 태스크 이름을 누르면 열립니다.

  • 화면 위쪽에 Runs > Run 이름과 태스크 이름이 표시됩니다.
  • 표의 행 하나는 벤치마크셋 데이터 한 건입니다. 맨 앞 ID 열로 구분합니다.
  • 표의 열은 데이터 값, 출력, 점수 순서로 놓입니다.
열 묶음열 이름 예내용
입력query애플리케이션에 넣은 값
참조expected_response평가지표가 채점할 때 참고하는 정답
메타데이터쿼리작성자평가에 쓰지 않는 부가 정보
출력response_Gemini-Pro버전이 만든 응답
점수Average score_Gemini-Pro
Context Recall_score_Gemini-Pro
평균 점수와 평가지표별 점수
판정 근거Context Recall_reason_Gemini-Pro평가지표가 점수를 준 이유
  • 정렬과 필터로 원하는 행만 모아 봅니다. Column Visibility로 열을 숨깁니다.
  • 결과는 평가 당시의 값으로 저장됩니다. 단, 메타데이터는 최신 값으로 표시됩니다.

입력, 참조, 메타데이터의 뜻은 평가 핵심 개념에서 설명합니다.

②평균 점수

평균 점수는 한 행에서 같은 버전의 평가지표 점수를 평균한 값입니다. 열 이름은 Average score_<Version>입니다.

  • 에러가 난 평가지표는 빼고 평균을 냅니다.
  • 출력을 받지 못한 행은 -로 표시됩니다.
  • 필터에서 평균 점수 범위를 정해 점수가 낮은 행만 골라 볼 수 있습니다.

③버전별 결과

평가에서 버전을 2개 이상 켜면 결과가 버전별로 나뉩니다.

  • 표: 출력과 점수 열이 버전마다 따로 생깁니다. 열 이름 끝에 버전 이름이 붙습니다(예: response_Gemini-Pro, response_RAG-v1.2).
  • 행 상세: 오른쪽 위에 버전 탭이 생깁니다. 탭을 눌러 버전마다 결과를 따로 봅니다.

같은 데이터의 버전별 점수를 나란히 놓고 비교할 수 있습니다. 버전 선택은 평가 실행에서 설명합니다.

  1. 1-1결과 화면 열기

    1. Runs 화면에서 Task 이름을 클릭해 결과 화면을 엽니다. 처음이라면 결과 화면 구성을 먼저 읽어 보세요.
    2. 화면 위쪽에서 Run과 Task 이름을 확인합니다.
  2. 1-2점수 확인

    1. 데이터 행마다 Version별 Output을 확인합니다.
    2. Metric 점수 칸과 Average score를 확인합니다.
    3. Sort, Filter로 원하는 행만 모아 봅니다.
    4. Export를 클릭해 결과를 내보냅니다.

2. 행 상세 확인

①행 상세

행 상세는 데이터 한 건의 내용과 결과를 한 화면에 모아 보는 창입니다. 표에서 행을 클릭하면 열립니다.

위치보이는 내용
왼쪽평가 이름, 중분류, 태스크
입력, 참조, 메타데이터
오른쪽버전 탭, 지연 시간, 토큰 사용량
출력, 평가지표별 결과
  • 평가지표별 결과에서 평가지표를 누르면 그 평가지표의 점수와 사유가 보입니다.
  • 창 위쪽 목록이나 화살표로 이전 행과 다음 행으로 이동합니다.
  1. 2-1행 상세 보기

    1. 목록에서 데이터 행을 클릭해 Row Detail을 엽니다.
    2. Input, Reference, Metadata를 확인합니다.
    3. Output과 Results by Metric을 확인합니다.
    4. Version 탭을 눌러 다른 Version 결과를 봅니다.

    Version 탭은 2개 이상의 API Version을 평가했을 때 나타납니다. Version별 결과를 참고하세요.


3. 에러 확인

①Fetch와 평가

평가는 두 단계로 진행됩니다. Fetch가 끝나야 평가가 시작됩니다.

단계하는 일진행 중 표시
Fetch버전의 API를 불러 출력을 받아 옵니다.Fetching is in progress (n%)
평가평가지표가 받아 온 출력을 채점합니다.Evaluation is in progress (n%)

진행 중 표시는 결과 화면 위쪽 진행 바에 나옵니다. 진행 바가 사라지면 두 단계가 모두 끝난 것입니다.

②에러 종류

에러는 어느 단계에서 났는지에 따라 두 가지로 나뉩니다.

에러뜻표에 보이는 모습
Fetch error출력을 받아 오지 못했습니다.출력 칸이 빨갛게 표시됩니다(예: [E-504] API 응답 시간 초과).
그 행의 점수 칸은 -입니다.
평가 error출력은 있지만 채점에 실패했습니다.점수 칸에 오류가 빨갛게 표시됩니다.

에러가 있으면 화면 위쪽에 Error Status Bar가 나타납니다. 바에는 두 에러의 건수가 함께 표시됩니다(예: Fetch errors: 2 · Evaluation errors: 2).

  1. 3-1Error Status Bar 확인

    1. 화면 위쪽 Error Status Bar에서 에러 건수를 확인합니다. 에러는 에러 종류처럼 두 가지입니다.
    2. 빨간 칸에서 에러가 난 항목을 확인합니다.
    3. 바를 닫으려면 오른쪽 X를 클릭합니다.

    X로 닫아도 이 화면에 다시 들어오면 바가 다시 나타납니다.


4. 실패 항목 재실행

①재시도와 전체 재시도

에러가 난 항목은 다시 실행할 수 있습니다.

방법다시 실행하는 범위
빨간 칸의 다시 시도 아이콘그 항목 하나
Error Status Bar의 전체 재시도에러가 난 모든 항목
  • 전체 재시도를 누르면 확인 창에 다시 실행할 건수가 나옵니다(수집 항목, Evaluation 항목).
  • Fetch error 항목을 먼저 다시 받아 옵니다. 그다음 평가를 실행합니다.
  • 출력을 다시 받아 온 항목은 평가지표 채점도 다시 합니다.
  1. 4-1Retry All 실행

    1. Error Status Bar의 Retry All을 클릭합니다.
    2. 확인 창에서 Retry를 클릭합니다.
    3. 위쪽 진행 바에서 재실행 상태를 확인합니다.
    4. 재실행이 끝나면 결과를 다시 확인합니다.
    • Fetch가 필요한 항목을 먼저 처리합니다.
    • 그다음 Evaluation을 실행합니다.
    • 자세한 순서는 Retry와 Retry All에 있습니다.

자주 묻는 질문

화면 위쪽에 왜 Error Status Bar가 나타나나요?평가 중 에러가 난 항목이 있기 때문이에요.
원인
응답을 받아 오지 못했거나 평가에 실패한 항목이 있으면 바가 나타나요. 자세한 내용은 에러 종류를 읽어 보세요.
해결 방법
전체 재시도를 눌러 실패한 항목을 다시 실행해 주세요.
X로 닫은 Error Status Bar가 왜 다시 나타나나요?X는 바를 잠시 숨길 뿐이기 때문이에요.
원인
에러가 남아 있으면 결과 화면에 다시 들어올 때 바가 다시 나타나요.
해결 방법
바를 없애려면 전체 재시도로 실패한 항목을 다시 실행해 주세요.
전체 재시도를 눌렀는데 왜 점수가 바로 나오지 않나요?Fetch를 먼저 마친 뒤 평가를 실행하기 때문이에요.
원인
응답을 다시 받아 와야 하는 항목이 있으면 그 작업이 먼저 끝나야 평가가 시작돼요.
해결 방법
위쪽 진행 바가 사라질 때까지 기다린 뒤 결과를 다시 확인해 주세요. 두 단계는 Fetch와 평가에서 설명해요.
행 상세에서 왜 다른 버전 결과가 보이지 않나요?버전 탭을 바꿔서 확인해 보세요. 버전 탭은 그 버전의 결과만 보여 주기 때문이에요.
원인
API 버전을 2개 이상 평가하면 행 상세가 버전별 탭으로 나뉘어요.
해결 방법
오른쪽 위 버전 탭을 눌러 결과를 따로 확인해 주세요.

최종 수정일