Overview
Feature Importance(변수 중요도)는 학습된 모델이 어떤 입력 정보에 의존하는지 묻는다. 여기서는 압축강도를 예측하는 MLP(Multilayer Perceptron)와 결정 트리를 같은 평가 데이터에서 비교한다.
기호: x는 배합의 8개 입력, y는 관측 강도, f(x)는 예측 강도다. 모델은 페이지를 열 때 브라우저에서 학습한다.
Concept
순열 중요도는 입력 j의 값만 행 사이에서 섞은 뒤 손실 증가량을 잰다. 다른 열과 정답은 그대로 둔다. 학습 데이터를 다시 맞추는 것이 아니라 이미 학습한 모델을 검사한다.
이 체험의 손실은 MSE(Mean Squared Error)다. 양수는 섞었을 때 오차가 커졌다는 뜻이다. 음수나 0 근처 값은 그 모델·평가 표본에서 뚜렷한 의존을 확인하기 어렵다는 뜻이며, 변수가 현실에서 쓸모없다는 결론은 아니다.
반복 순열은 섞는 순서에 따른 변동을 보여 준다. 상관된 변수는 서로 정보를 대신하므로 개별 중요도가 작아질 수 있다. 학습 평균만 내는 기준선보다 모델이 나은지도 먼저 확인해야 한다.
Hands-on
모델과 반복 횟수를 바꾸면 실제 평가 손실을 다시 계산한다. 막대의 길이는 ΔMSE, 가는 선은 반복의 표준편차다.
재령과 물의 순위가 모델에 따라 달라지는지 살핀다. 낮은 RMSE와 설명의 안정성은 서로 다른 성질이다.
데이터를 불러오는 중
Summary
- 중요도는 데이터·모델·손실 함수에 의존한다.
- 표준편차를 신뢰구간으로 읽지 않는다.
- 순열은 상관 구조를 깨뜨릴 수 있다.
- 중요도는 인과효과가 아니다.
Notation
| Symbol | Meaning | Unit |
|---|---|---|
| I_j | 순열 중요도 | MPa² |
| R | 순열 반복 수 | count |
| y | 관측 압축강도 | MPa |
| f(x) | 예측 압축강도 | MPa |
References
Overview
PDP(Partial Dependence Plot)는 입력 하나를 고정했을 때 평균 예측이 어떻게 달라지는지 보여 준다. ICE(Individual Conditional Expectation)는 그 평균 아래 숨은 개별 배합의 반응을 드러낸다.
기호: f는 학습된 예측 함수, z는 살펴볼 입력값, x₋ⱼ는 나머지 입력이다.
Concept
모든 평가 배합의 입력 j를 같은 z로 바꾸고 예측한 뒤 평균한다. z를 관측 범위에서 움직여 선을 잇는다. ICE는 평균하기 전의 각 배합 곡선이다.
곡선이 평평하면 해당 범위에서 모델 반응이 작다. 기울기가 달라지면 비선형 반응을 뜻한다. ICE가 서로 평행하지 않으면 다른 입력과의 상호작용 가능성을 살펴볼 수 있다.
실제 배합은 물·시멘트·골재량이 함께 제한된다. 한 열만 독립적으로 움직이면 관측되지 않은 조합을 만들 수 있다. 그래프는 모델의 반응을 설명하며 물성을 검증하지 않는다.
Hands-on
변수를 고르면 평가 집합 전체의 PDP와 고정된 50개 배합의 ICE를 계산한다. 굵은 선과 가는 선을 함께 비교한다.
트리의 계단 모양과 MLP의 부드러운 반응을 비교한다. 선의 부드러움은 정확도를 보장하지 않는다.
데이터를 불러오는 중
Summary
- PDP는 평균이고 ICE는 개별 반응이다.
- 평균은 서로 다른 반응을 숨길 수 있다.
- 입력의 상관과 적용 범위를 함께 확인한다.
- 곡선은 인과적 개입의 결과가 아니다.
Notation
| Symbol | Meaning | Unit |
|---|---|---|
| z | 변경하는 입력값 | kg/m³ or day |
| n | 평균에 쓰는 배합 수 | count |
| j | 입력 번호 | index |
| f | 고정된 모델 | MPa |
References
Overview
Shapley Values(샤플리 값)는 하나의 예측과 기준 예측의 차이를 입력별로 나눈다. 8개 입력이면 가능한 부분집합이 256개라 전부 평가할 수 있다.
기호: S는 포함한 입력 집합, v(S)는 포함하지 않은 입력을 기준 배합으로 채운 평균 예측이다.
Concept
이 체험은 학습 집합에서 고정한 20개 기준 배합을 사용한다. 각 조합에서 남겨 둔 입력은 설명할 배합의 값, 나머지는 기준 배합의 값이다. 256개 조합과 20개 기준을 모두 계산하므로 5,120회 예측한다.
입력 j가 조합 S에 추가될 때의 차이를 조합 크기에 맞는 가중치로 평균한다. 기준값과 여덟 기여를 더하면 원래 예측이 된다. 여기서 정확하다는 말은 이 유한 기준 집합으로 정의한 게임에 대한 뜻이다.
근사는 무작위 입력 순서를 따라 누적 조합을 방문하고 그 기여를 평균한다. 조합 예산을 키워 정확한 값과의 차이를 본다. 기준 집합이나 상관 처리 방식을 바꾸면 기여도 바뀌며, 이 값은 인과적 책임을 정하지 않는다.
Hands-on
배합 번호와 근사 조합 예산을 바꾼다. 폭포 그림은 기준값에서 시작해 각 기여를 누적하고 예측값에서 끝난다.
기여 합 잔차와 근사 MAE를 구분한다. 전자는 수치적 합 일치, 후자는 변수별 근사 차이다.
데이터를 불러오는 중
Summary
- 8개 입력의 전체 조합 수는 256개다.
- 정확한 값도 기준 집합 선택에 의존한다.
- 기여의 단위는 예측과 같은 MPa다.
- 근사 오차와 모델 예측 오차는 다르다.
Notation
| Symbol | Meaning | Unit |
|---|---|---|
| d | 입력 수 | 8 |
| v(S) | 조합의 평균 예측 | MPa |
| φⱼ | 입력 j의 기여 | MPa |
| S | 포함한 입력 집합 | set |
References
Overview
Counterfactual Explanation(반사실 설명)은 입력을 어떻게 바꾸면 모델의 목표 예측에 도달하는지 찾는다. 설명 대상은 실제 콘크리트의 성능이 아니라 학습된 예측 함수다.
기호: x는 원래 배합, x′는 변경 후보, τ는 목표 강도다.
Concept
변경 비용은 변수별 관측 범위로 나눈 L1 거리다. kg/m³와 day가 섞여 있어도 큰 단위의 입력이 비용을 독점하지 않게 한다. 허용하지 않은 입력은 원래 값으로 고정한다.
학습 배합과 원래 배합 사이의 후보 3,000개를 시드 난수로 만든다. 목표를 만족하는 후보 중 거리가 작은 것을 고르고 좌표별로 되돌리며 개선한다. 전역 최적해를 증명하는 알고리즘은 아니다.
목표를 못 찾으면 실패를 그대로 표시한다. 재료 수지, 시공성, 규격 적합성, 비용, 장기 내구성은 모델에 없으므로 제안된 숫자를 현장 배합으로 사용하면 안 된다.
Hands-on
목표 강도를 올리고 변경 가능한 입력을 선택한다. 재령을 고정했을 때 탐색 성공 여부와 거리 변화를 비교한다.
모든 입력을 고정하면 후보는 원래 배합과 같다. 목표를 이미 만족하면 변경량 0이 올바른 결과다.
데이터를 불러오는 중
Summary
- 변경 가능성과 비용은 명시적 가정이다.
- 탐색 실패와 목표 불가능은 다르다.
- 범위 안의 후보도 실제로 가능하지 않을 수 있다.
- 결과는 배합 권고가 아니다.
Notation
| Symbol | Meaning | Unit |
|---|---|---|
| τ | 목표 압축강도 | MPa |
| M | 변경 가능한 입력 집합 | set |
| x′ | 변경 후보 | mixed |
| d(x,x′) | 정규화 변경 비용 | 1 |