决策树是对数据进行分类，以此达到预測的目的。该决策树方法先依据训练集数据形成决策树，假设该树不能对全部对象给出正确的分类，那么选择一些例外添?到训练集数据中，反复该过程一直到形成正确的决策集。决策树代表着决策集的树形结构。

决策树由决策结点、分支和叶子组成。决策树中最上面的结点为根结点，每一个分支是一个新的决策结点，或者是树的叶子。每一个决策结点代表一个问题或决策，通常相应于待分类对象的属性。每一个叶子结点代表一种可能的分类结果。沿决策树从上到下遍历的过程中，在每一个结点都会遇到一个測试，对每一个结点上问题的不同的測试输出导致不同的分支，最后会到达一个叶子结点，这个过程就是利用决策树进行分类的过程，利用若干个变量来推断所属的类别。