본문으로 건너뛰기

모델 설명(XAI)

개요​

이 화면은 무엇인가요?

이 화면에서는 모델 설명(XAI) 데이터를 등록하고 관리합니다. 시각화유형(WATERFALL, FORCE_PLOT, BEESWARM, DEPENDENCE 등)별로 분류할 수 있습니다.

누가 사용하나요?​

  • 데이터사이언티스트: 모델 설명(XAI) ML 모델 개발, 학습 관리
  • MLOps엔지니어: 모델 설명(XAI) 모델 배포, 운영 관리
  • AI엔지니어: 모델 설명(XAI) 모델 학습, 성능 최적화

언제 사용하나요?​

  • 신규 모델 설명(XAI) 데이터를 등록할 때
  • 기존 모델 설명(XAI) 정보를 수정하거나 이력을 확인할 때

주요 기능​

  • 등록·조회: 모델 설명(XAI) 데이터의 신규 등록 및 목록 조회
  • 유형별 분류: 설명기법(SHAP , LIME , ANCHORS 등)별 분류 및 필터
  • 파일 첨부: 관련 문서·이미지 업로드 및 관리
  • 감사 추적: 데이터 변경 이력 자동 기록

업무 흐름에서의 위치​

입력 항목 가이드​

항목설명필수입력 예시
설명코드고유 식별 코드✅EXPLANATION--001
예측결과ID관련 데이터 선택목록에서 선택
모델ID관련 데이터 선택목록에서 선택
설명기법식별하기 쉬운 이름✅SHAP / LIME / ANCHORS
피처중요도피처중요도JSON 형식 입력
SHAP값URLSHAP값URL텍스트 입력
LIME세그먼트LIME세그먼트JSON 형식 입력
반사실데이터반사실데이터JSON 형식 입력
전역설명여부식별하기 쉬운 이름예 / 아니오
신뢰도점수신뢰도점수숫자 입력 (소수점 가능)
계산시간(ms)계산시간(ms)숫자 입력
시각화유형분류 구분WATERFALL / FORCE_PLOT / BEESWARM
시각화URL시각화URL텍스트 입력
생성일시해당 날짜/시각✅2026-03-17 09:00
생성자ID담당자 선택목록에서 선택
설명식별하기 쉬운 이름자유 텍스트 입력

자주 묻는 질문 (FAQ)​

모델 설명(XAI) 데이터를 대량으로 등록하려면 어떻게 하나요?

CSV 가져오기 기능을 사용합니다. 먼저 CSV 내보내기로 템플릿을 다운로드한 후, 템플릿에 맞춰 데이터를 입력하고 CSV 가져오기로 일괄 등록합니다.

실무 시나리오​

신규 모델 설명(XAI) 등록​

상황: 새로운 모델 설명(XAI) 데이터를 등록해야 합니다.

처리 순서:

  1. 설명코드를 입력하여 신규 데이터를 생성합니다
  2. 시각화유형을 WATERFALL으로 선택합니다
  3. 설명기법을(를) 입력합니다
  4. 생성일시을(를) 입력합니다
  5. 저장하여 등록을 완료합니다
참고: 데이터 구조

테이블: dt_model_explanations

컬럼명한글명타입설명
explanation_code설명코드VARCHAR*필수
prediction_id예측결과IDUUID
model_id모델IDUUID
explanation_method설명기법SHAP / LIME / ANCHORS / COUNTERFACTUAL / INTEGRATED_GRADIENTS / ATTENTION_MAP*필수
feature_importances피처중요도JSONB
shap_values_urlSHAP값URLVARCHAR
lime_segmentsLIME세그먼트JSONB
counterfactual_data반사실데이터JSONB
global_explanation전역설명여부BOOLEAN
confidence_score신뢰도점수DECIMAL
computation_time_ms계산시간(ms)INT
visualization_type시각화유형WATERFALL / FORCE_PLOT / BEESWARM / DEPENDENCE / HEATMAP
visualization_url시각화URLVARCHAR
created_at생성일시TIMESTAMP*필수
created_by생성자IDUUID
description설명TEXT

데이터 관계​