 |
4. 의사결정나무의 종류 및 분리과정의사결정나무는 명목형 목표변수를 기준으로 마디가 분화되는 분류나무(Classification Tree)와 연속형 목표변수를 기준으로 마디가 분화되는 회귀나무(Regression Tree)로 나눌 수 있다. 먼저 분류나무(Classification)의 경우에는 목표 변수의 각 범주에 속하는 빈도(frequency)에 기초하여 분리가 일어난다. 예를 들어, 신용상태가 ‘Good’ 과 ‘Bad’ 의 값을 갖는 명목형 목표변수를 기준으로 나이 (20대, 30대, 40대), 직업 (A, B, C)을 고려하여 전체고객 300명을 세분화하는 과정을 설명하면, 첫 번째 단계에서 목표변수와 나이, 직업 등의 각각의 변수간의 상관도가 가장 밀접한 변수를 선택하고, 선택된 변수의 범주를 다양하게 조합하여 가장 상관도가 높은 범주 조합을 선택하여 첫 번째 분리를 한다. 직업보다 나이가 신용상태 (목표 변수)와 상관도가 높다면 나이를 우선 선택하고 나이의 모든 범주조합 (20, 30 40), (20 30,40), (30, 20 40) 중에 가장 상관도가 높은 조합을 선택한다. 이때 선택하는 기준은 의사결정나무 알고리즘에 따라 카이제곱 통계량(Chi-Square Statistics), 지니 지수(Gini Index), 엔트로피 지수(Entropy Index) 등을 사용한다. 일단 첫 번째 분리에서 나이를 기준으로 (20, 30 40)로 분리하는 것이 가장 신용상태와 상관도가 높게 되는 범주조합이라고 판단되면, 이러한 기준에 의해 분리를 시키고 각각의 분리가지에 대해 다음 분리를 위해 변수를 선택하고 같은 요령으로 범주조합을 선택한다.
CHAID(Chi-squared Automatic Interaction Detection)알고리즘의 경우 카이제곱 통계량에 의해 목표변수를 분리하는 정도를 결정하는데 세부적인 카이제곱 통계량의 계산과정은 <그림-4>에서 보는 바와 같다. CART (Classification & Regression Tree) 알고리즘의 경우 지니지수에 의해 목표변수를 분리하는데 세부적인 지니지수 계산과정은 <그림-5>와 같다. 회귀나무 (Regression Tree)의 경우에는 각 분리마디별 목표변수의 F-통계량 또는 분산의 감소량에 의해 마디를 분리한다. 목표변수의 F-통계량에 의해 분리마디를 결정하는 경우에는 목표 변수와 설명변수들 간에 가장 설명력이 큰 변수를 먼저 선택하여 분리를 한다. F-통계량을 계산하는 절차는 일반적으로 많이 알려진 통계분석법인 분산분석(ANOVA)과 동일한 방법이다. 특정한 마디를 분리함으로써 분산이 줄어든다는 것은 동질적 성격을 가지고 있는 개체들은 같은 집단으로 이질적 성격을 가지고 있는 개체들은 다른 집단으로 나뉘었다는 것을 의미하므로, 가장 분산을 크게 감소시키는 분리조합이 최선의 분리를 이끌어 내는 것이다. |
||
 |
 |
 |
 |