본문 바로가기
yeardreamschool4/Machine Learing

#Decision Tree

by kevinchoi! 2024. 5. 27.

# decision tree

- 지도학습 알고리즘 중 하나이며, 학습데이터를 이용하여 데이터를 트리형태로 분류.

- 종단 노드를 leaf node로도 불리기도 함.

- 처음부터 노드분할시 하나의 노드에  하나의 클래스에 해당하는 학습 데이터를 분류할 수 없다.

# 노드분할

- 절댓값은 데이터의 개수

- information Gain은 음수가 될 수 없다.

 - 가지를 얼마나 쳤는지가 깊이에 해당. 실제로 노드 분할 방벙에서는 최대 깊이 도달이 많이 쓰임

-

# 회귀를 위한 Decision Tree

- MSE도 information gain과 유사한 컨셉

- label이 데이터가 실수로 바뀜

- 실제로 Decision Tree는 회귀모델에서는 잘 안쓰이는 이유는 데이터의 추론결과의 가짓수가 종단노드의 갯수와 같기 때문이다. 기존의 regression 모델이 output의 더 많은 표현을 할 수 있다. 

 

'yeardreamschool4 > Machine Learing' 카테고리의 다른 글

#Boosting  (0) 2024.05.27
#Bagging과 Random Forest  (0) 2024.05.27
#Regularization(정규화)  (0) 2024.05.24
Multi-Class Classification Model  (0) 2024.05.24
Binary Classification Model(이진 분류 모델)  (0) 2024.05.23