방법
- Tabs: 1 Feature Importance · 2 Partial Dependence · 3 Shapley Values · 4 Counterfactual Explanations
- MLP: 8→16 tanh→1, Adam, 220 epochs, L2=0.001. Tree: depth 6, minimum leaf 12.
- 순열: 평가 MSE 차이, 2–20회. PDP: 25개 좌표, 평가 표본 전체 평균, ICE 50개.
- Shapley: 기준 20행 × 256조합, 정확한 가중합. 근사: 조합 예산 16–256, 무작위 순서 경로 평균.
- 반사실: 고정 입력 보존, 관측 범위 안 후보 3,000개와 학습 배합, 정규화 L1 최소 후보와 좌표 개선.
- 학습 여부: 브라우저에서 직접 학습. 사전 학습 가중치 없음.
- 소프트웨어: 자체 JavaScript v1.0, KaTeX 0.16.11(MIT, 수식 표시만).
- 본문 작성 보조: OpenAI Codex. 본문은 고정 텍스트이며 실행 중 LLM 호출은 없다.
- 수식 표시 파일·woff2 글꼴은 폴더에 포함한다. 실행 중 외부 리소스를 요청하지 않는다.
데이터
- 원본 데이터의 출력값은 실제 관측값이며 모델 예측은 브라우저에서 새로 계산한다.
- 분할: 시드 고정 60% 학습·20% 보정·20% 평가. 표준화는 학습 데이터에만 맞춘다.
- 사용자 입력 저장: 없음. 표시 설정만 기기에 저장한다.
- Concrete Compressive Strength: 1,030행 전체, Yeh (1998), UCI, CC BY 4.0. XLS를 수치 JSON으로 변환했다.
- 원본의 완전 중복 25행을 유지했다. 성능 수치는 무작위 행 분할 기준이며 새 배합군에 대한 검증이 아니다.
검증
- 기본 MLP: 평가 206행 RMSE 5.6454 MPa, R² 0.8929. 학습 평균 기준선 RMSE 17.2625 MPa.
- 선형 모델의 정확한 Shapley 이론값·기여 합 검사 통과. 같은 트리의 scikit-learn 1.8.0 PDP·ICE·MSE 대조: 최대 차이 2.0×10⁻¹³ 이하.
범위
- 매개변수 범위는 각 체험 입력에 표시하며 교육용으로 정한 값이다.
출처
- Breiman (2001). Random Forests. Machine Learning 45, 5–32.
- Yeh (1998). Concrete Compressive Strength. UCI Machine Learning Repository. CC BY 4.0.
- Friedman (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics 29.
- Goldstein et al. (2015). Peeking Inside the Black Box. JCGS 24, 44–65.
- Lundberg & Lee (2017). A Unified Approach to Interpreting Model Predictions. NeurIPS.
- Wachter, Mittelstadt & Russell (2018). Counterfactual Explanations without Opening the Black Box.
이력
- 2026-10-27 · v1.0 · 공개