모니터링

출시 후 실제 사용자 로그를 연동해 AI 에이전트가 안전하고 정책에 맞게 답하는지 계속 확인하는 모니터링 모듈입니다.

DATUMO 모니터링은 운영 중인 AI 서비스의 실제 사용자 로그를 연동해, 서비스가 안전하고 정책에 맞게 답하는지 계속 확인하는 기능입니다. 평가가 출시 전에 준비한 데이터로 보는 시험이라면, 모니터링은 출시 후 실제 응대 내역을 검토하는 일에 가깝습니다.

한 줄 요약

연동으로 로그를 연동하면 로그가 세션과 턴으로 정리됩니다. 샘플링 확률 비율만큼 고른 턴을 평가지표로 평가하고, 평가지표 안의 루브릭이 위반으로 판정되면 실패 케이스가 되어 목록과 알림 메일로 확인합니다.

모니터링 구조

도식

평가과의 차이

예시로 보기

금융 상담 챗봇을 운영하면서 투자 권유 규정 위반을 지켜보는 상황을 예로 들어 보겠습니다.

세션 하나가 평가되는 예시

턴	유저 입력	앱 출력	결과
1	적금 금리 알려 주세요.	현재 12개월 적금 금리는 연 3.5%입니다.	통과
2	그럼 주식이 더 낫지 않아요?	지금 사면 무조건 수익이 납니다. 바로 매수하세요.	실패 케이스: `상담 정책: 투자 권유`
3	감사합니다.	도움이 되셨길 바랍니다.	통과

턴 2에서 실패 케이스가 나와 알림 수신자에게 [DATUMO Fail Alert - 턴 ID] - 상담 정책 메일이 갑니다. 실패 케이스 목록에서는 이 세션 전체 대화를 함께 볼 수 있습니다.

예시의 평가지표 이름과 대화는 설명을 위해 정한 값입니다.

연동은 AI 서비스의 로그를 DATUMO로 가져오는 설정입니다. 지금은 AWS CloudWatch 로그를 연동합니다.

접속 정보(Region, 로그 경로 등)를 넣고 연결을 확인합니다.
파서 코드로 원본 로그에서 사용자 질문과 AI 답변을 찾아 턴으로 묶습니다. 로그 형식은 서비스마다 달라서 파서 코드는 직접 작성합니다.

연동된 로그는 아래 계층으로 정리됩니다. 화면과 평가는 이 단위를 기준으로 동작합니다.

도식

용어	한글	정의	쓰이는 곳
Session	세션	대화 시작부터 끝까지의 한 묶음	실패 케이스 목록의 카드 단위
Segment	세그먼트	한 세션을 토픽 기준으로 나눈 단위	-
Turn	턴	유저 입력부터 앱 출력까지의 한 쌍	평가의 기본 단위, 실패 케이스 목록의 행
Span	스팬	한 턴이 만들어지기까지의 에이전트 중간 결과 (Retriever, Router 결과 등)	-
User Input	사용자 입력	한 턴에서 사용자가 입력한 질문	평가 프롬프트 변수 `user_input`
App Output	앱 출력	한 턴에서 AI 서비스가 낸 최종 답변	평가 프롬프트 변수 `app_output`

샘플링 확률은 연동된 턴 가운데 평가할 비율(0~100)입니다. 모든 턴을 평가하면 비용과 시간이 크게 늘어서 비율을 정합니다. 바꾼 값은 앞으로 수집하는 턴에만 적용됩니다.

평가지표는 턴을 평가하는 단위이고, 하나의 평가지표는 여러 루브릭으로 구성됩니다.

항목	설명
`평가 모델`	평가지표를 판정하는 모델. G-4. 생성·평가 모델 등록에서 등록한 모델 중에서 고릅니다.
루브릭	점검 항목. 평가지표마다 1~10개. 평가 모델이 루브릭마다 위반인지 판정합니다.
`프롬프트 지시문`	루브릭의 판정 기준

평가지표 > 루브릭 > 실패 케이스 관계

위반으로 판정된 루브릭 하나가 실패 케이스 하나입니다. 한 턴에서 여러 평가지표가 기준 미달일 수 있고, 한 평가지표 안에서도 실패 케이스가 여러 개 나올 수 있습니다.

실패 케이스 목록에는 실패 케이스가 1개 이상 나온 턴만 나옵니다. 같은 세션의 턴은 카드 하나로 묶이고, Metric 이름: Rubric 이름 형식으로 무엇을 위반했는지 보여 줍니다.

운영 로그는 수집 → 변환 → 샘플링 → 평가 → 실패 케이스 순서로 처리됩니다.

도식

생성·평가 모델이 없으면 평가지표가 Evaluating Paused 상태가 되어 평가가 멈춥니다. 평가를 이어 가려면 모델을 등록하고 평가지표의 평가 모델을 다시 고릅니다.

다음 단계