코딩하는 오리

01. 결정 트리와 앙상블결정 트리의 큰 단점 The Elements of Statistical Learning 책에서'결정 트리는 이상적인 머신 러닝 모델이 되기 힘든 한 가지 특징을 갖는다. 바로 부정확성이다.'성능이 안좋다.. 하지만 결정 트리를 응용하면 성능이 좋은 다른 모델을 만들어낼 수 있다 ! 앙상블(ensemble) : 여러 독립적인 객체들이 만들어내는 조화로운 단체 하나의 모델을 쓰는 대신, 수많은 모델들을 사용해 종합적인 판단을 하는 것수많은 모델들을 만들고, 이 모델들의 예측을 합쳐서 종합적인 예측을 하는 기법 모델을 100개... 만든다 -> 각 모델의 결과를 종합해 최종 결과를 예측한다.  02. 랜덤 포레스트 1: Bagging랜덤 포레스트 : 트리 모델들을 임의로(random)..

01. 결정 트리란?정의 : 질문들이 있고, 질문을 답해가면서 분류하는 알고리즘 !예/아니오 질문들 + 이 질문들을 답해나가면서 분류하여 예측 ex) 교통 사고 생존 여부 분류안전벨트를 했나요 ? => YES or NO주행 속도가 시속 100km가 넘었나요 ? => ...여러 질문들에 대해 순차적으로 답을 한다.- 똑같은 속성에 하위 트리에서 다시 질문할 수 있다.- 하나의 시작 질문에서 뻗어나간다.- 질문 박스 하나하나를 노드- 시작 질문은 루트 노드- 마지막 예측값을 담은 것은 리프 노드  05. 지니 불순도 (Gini Impurity) 머신러닝에서 결정트리를 만들 때는 내용이 정해져있는게 아니라, 경험을 통해 직접 과정을 정해나가야한다.데이터를 분류해보면서, 각 위치에서 어떤 노드가 제일 좋을지 골..