[ML] Feature Importances for Decision Tree
·
Programming/ML
이 문서는 Feature Importance를 Decision Tree에서 Gini Impurity Measure를 이용하여 계산하는 예제를 보여줌.Tree 예시 (depth = 3) [Root] (X1) [5:5] / \ Node1 Node2 (X2) (X3) [4:1] [1:4] / \ / \Leaf1 Leaf2 Leaf3 Leaf4[3:0] [1:1] [0:2] [1:2]Root 노드는 X1을 사용해 데이터를 분할.Node1은 X2를 사용해 데이터를 다시 분할.Node2는 X3을 사용해 데이터를 다시 분할.단계 1: Gini impurity measure ..
[CE] Tree vs. Graph
·
Computer/CE
Graph vs. Tree Graph node와 node를 연결하는 edge로 구성된 data structure(자료구조). object들의 network를 모델링하는데 주로 사용됨. Deep Learning을 가능하게 한 Back-propagation은 Reverse-mode Auto Differentiation에 기반하는데, 이는 Computation Graph을 통해 수행됨. Tree Directed Acyclic Graph 에서, graph 내의 모든 node와 path가 존재하는 root node라는 것이 1개 있는 자료구조. object들의 hierarchy를 모델링하는데 주로 사용됨. Data Structure Data를 표현하고 관리하고 처리하기 위한 구조. stack, queue, gra..