평가 이력
평가(Run Eval)로 생성된 평가 결과를 확인하고, 에러가 난 항목을 다시 실행합니다.
1. 결과 목록 확인
①결과 화면 구성
결과 화면은 평가 하나에서 태스크 하나의 결과를 표로 보여 줍니다. 평가 이력 화면에서 태스크 이름을 누르면 열립니다.
- 화면 위쪽에
Runs > Run 이름과 태스크 이름이 표시됩니다. - 표의 행 하나는 벤치마크셋 데이터 한 건입니다. 맨 앞
ID열로 구분합니다. - 표의 열은 데이터 값, 출력, 점수 순서로 놓입니다.
| 열 묶음 | 열 이름 예 | 내용 |
|---|---|---|
| 입력 | query | 애플리케이션에 넣은 값 |
| 참조 | expected_response | 평가지표가 채점할 때 참고하는 정답 |
| 메타데이터 | 쿼리작성자 | 평가에 쓰지 않는 부가 정보 |
| 출력 | response_Gemini-Pro | 버전이 만든 응답 |
| 점수 | Average score_Gemini-ProContext Recall_score_Gemini-Pro | 평균 점수와 평가지표별 점수 |
| 판정 근거 | Context Recall_reason_Gemini-Pro | 평가지표가 점수를 준 이유 |
정렬과필터로 원하는 행만 모아 봅니다.Column Visibility로 열을 숨깁니다.- 결과는 평가 당시의 값으로 저장됩니다. 단, 메타데이터는 최신 값으로 표시됩니다.
입력, 참조, 메타데이터의 뜻은 평가 핵심 개념에서 설명합니다.
②평균 점수
평균 점수는 한 행에서 같은 버전의 평가지표 점수를 평균한 값입니다. 열 이름은 Average score_<Version>입니다.
- 에러가 난 평가지표는 빼고 평균을 냅니다.
- 출력을 받지 못한 행은
-로 표시됩니다. 필터에서평균 점수범위를 정해 점수가 낮은 행만 골라 볼 수 있습니다.
③버전별 결과
평가에서 버전을 2개 이상 켜면 결과가 버전별로 나뉩니다.
- 표: 출력과 점수 열이 버전마다 따로 생깁니다. 열 이름 끝에 버전 이름이 붙습니다(예:
response_Gemini-Pro,response_RAG-v1.2). - 행 상세: 오른쪽 위에 버전 탭이 생깁니다. 탭을 눌러 버전마다 결과를 따로 봅니다.
같은 데이터의 버전별 점수를 나란히 놓고 비교할 수 있습니다. 버전 선택은 평가 실행에서 설명합니다.
1-1결과 화면 열기
- Runs 화면에서 Task 이름을 클릭해 결과 화면을 엽니다. 처음이라면 결과 화면 구성을 먼저 읽어 보세요.
- 화면 위쪽에서 Run과 Task 이름을 확인합니다.
1-2점수 확인
- 데이터 행마다 Version별 Output을 확인합니다.
- Metric 점수 칸과 Average score를 확인합니다.
Sort,Filter로 원하는 행만 모아 봅니다.Export를 클릭해 결과를 내보냅니다.
2. 행 상세 확인
①행 상세
행 상세는 데이터 한 건의 내용과 결과를 한 화면에 모아 보는 창입니다. 표에서 행을 클릭하면 열립니다.
| 위치 | 보이는 내용 |
|---|---|
| 왼쪽 | 평가 이름, 중분류, 태스크입력, 참조, 메타데이터 |
| 오른쪽 | 버전 탭, 지연 시간, 토큰 사용량출력, 평가지표별 결과 |
평가지표별 결과에서 평가지표를 누르면 그 평가지표의점수와사유가 보입니다.- 창 위쪽 목록이나 화살표로 이전 행과 다음 행으로 이동합니다.
2-1행 상세 보기
- 목록에서 데이터 행을 클릭해 Row Detail을 엽니다.
Input,Reference,Metadata를 확인합니다.Output과Results by Metric을 확인합니다.- Version 탭을 눌러 다른 Version 결과를 봅니다.
Version 탭은 2개 이상의 API Version을 평가했을 때 나타납니다. Version별 결과를 참고하세요.
3. 에러 확인
①Fetch와 평가
평가는 두 단계로 진행됩니다. Fetch가 끝나야 평가가 시작됩니다.
| 단계 | 하는 일 | 진행 중 표시 |
|---|---|---|
| Fetch | 버전의 API를 불러 출력을 받아 옵니다. | Fetching is in progress (n%) |
| 평가 | 평가지표가 받아 온 출력을 채점합니다. | Evaluation is in progress (n%) |
진행 중 표시는 결과 화면 위쪽 진행 바에 나옵니다. 진행 바가 사라지면 두 단계가 모두 끝난 것입니다.
②에러 종류
에러는 어느 단계에서 났는지에 따라 두 가지로 나뉩니다.
| 에러 | 뜻 | 표에 보이는 모습 |
|---|---|---|
| Fetch error | 출력을 받아 오지 못했습니다. | 출력 칸이 빨갛게 표시됩니다(예: [E-504] API 응답 시간 초과).그 행의 점수 칸은 -입니다. |
| 평가 error | 출력은 있지만 채점에 실패했습니다. | 점수 칸에 오류가 빨갛게 표시됩니다. |
에러가 있으면 화면 위쪽에 Error Status Bar가 나타납니다. 바에는 두 에러의 건수가 함께 표시됩니다(예: Fetch errors: 2 · Evaluation errors: 2).
3-1Error Status Bar 확인
- 화면 위쪽
Error Status Bar에서 에러 건수를 확인합니다. 에러는 에러 종류처럼 두 가지입니다. - 빨간 칸에서 에러가 난 항목을 확인합니다.
- 바를 닫으려면 오른쪽
X를 클릭합니다.
X로 닫아도 이 화면에 다시 들어오면 바가 다시 나타납니다.- 화면 위쪽
4. 실패 항목 재실행
①재시도와 전체 재시도
에러가 난 항목은 다시 실행할 수 있습니다.
| 방법 | 다시 실행하는 범위 |
|---|---|
| 빨간 칸의 다시 시도 아이콘 | 그 항목 하나 |
Error Status Bar의 전체 재시도 | 에러가 난 모든 항목 |
전체 재시도를 누르면 확인 창에 다시 실행할 건수가 나옵니다(수집 항목,Evaluation 항목).- Fetch error 항목을 먼저 다시 받아 옵니다. 그다음 평가를 실행합니다.
- 출력을 다시 받아 온 항목은 평가지표 채점도 다시 합니다.
4-1Retry All 실행
Error Status Bar의Retry All을 클릭합니다.- 확인 창에서
Retry를 클릭합니다. - 위쪽 진행 바에서 재실행 상태를 확인합니다.
- 재실행이 끝나면 결과를 다시 확인합니다.
- Fetch가 필요한 항목을 먼저 처리합니다.
- 그다음 Evaluation을 실행합니다.
- 자세한 순서는 Retry와 Retry All에 있습니다.
자주 묻는 질문
화면 위쪽에 왜 Error Status Bar가 나타나나요?평가 중 에러가 난 항목이 있기 때문이에요.
- 원인
- 응답을 받아 오지 못했거나 평가에 실패한 항목이 있으면 바가 나타나요. 자세한 내용은 에러 종류를 읽어 보세요.
- 해결 방법
전체 재시도를 눌러 실패한 항목을 다시 실행해 주세요.
X로 닫은 Error Status Bar가 왜 다시 나타나나요?X는 바를 잠시 숨길 뿐이기 때문이에요.
- 원인
- 에러가 남아 있으면 결과 화면에 다시 들어올 때 바가 다시 나타나요.
- 해결 방법
- 바를 없애려면
전체 재시도로 실패한 항목을 다시 실행해 주세요.
전체 재시도를 눌렀는데 왜 점수가 바로 나오지 않나요?Fetch를 먼저 마친 뒤 평가를 실행하기 때문이에요.
- 원인
- 응답을 다시 받아 와야 하는 항목이 있으면 그 작업이 먼저 끝나야 평가가 시작돼요.
- 해결 방법
- 위쪽 진행 바가 사라질 때까지 기다린 뒤 결과를 다시 확인해 주세요. 두 단계는 Fetch와 평가에서 설명해요.
행 상세에서 왜 다른 버전 결과가 보이지 않나요?버전 탭을 바꿔서 확인해 보세요. 버전 탭은 그 버전의 결과만 보여 주기 때문이에요.
- 원인
- API 버전을 2개 이상 평가하면 행 상세가 버전별 탭으로 나뉘어요.
- 해결 방법
- 오른쪽 위 버전 탭을 눌러 결과를 따로 확인해 주세요.