연속형 변수를 사용한 decision tree

보통 범주형 변수만 사용가능한 것처럼 decision tree를 설명하지만

 

decision tree의 구분 feature로 연속형 변수도 사용가능합니다.

 

방법은 여러 가지가 있는데 하나를 예로 들어 설명하자면

 

그림1. 예시 데이터

 

예시 데이터가 위와 같다고 합시다.

 

그림2. income을 크기 순으로 정렬

 

구분하고자하는 feature 여기서는 예를 들어 income을 정렬합니다.

 

그러면 label이 바뀌는 지점이 생기는데

 

그림3. label이 바뀌는 지점

 

label이 바뀌는 지점의 평균점을 기준값으로 잡습니다.

 

각각 59.7, 64.9, 84.9 세 지점이 생기는데 각 지점에서 information gain이 최대가 되는 기준지점을 찾습니다.

 

gini 계수를 이용해 계산하면 income이 59.7보다 클때와 작을때로 구분하는 것이 최대라고 합니다.

 

lotsize도 똑같은 방식으로 기준값을 잡고 각 기준값에 대해 information gain이 최대가 되는 기준지점을 잡습니다.

 

그림4. income에 의한 분할

 

 

참고

 

 

의사결정나무(Decision Tree) :: 독립변수가 연속형 일 때 (tistory.com)

의사결정나무(Decision Tree) :: 독립변수가 연속형 일 때