[人工智能]集成学习-bagging

1、什么是bootstrap？
在统计学中，Bootstrap从原始数据中抽取子集，然后分别求取各个子集的统计特征，最终将统计特征合并。每个子集的构成都是通过重采样（即又放回的）抽取生成的。
2、bagging与bootstrap的区别？
bootstrap是统计学上估计总体的统计特征的方法。而bagging的核心思路就是bootstrap。bagging对训练集有放回的取k个样本，组成一个子样本集合，重复这样的过程T次，得到T个大小为K的子样本集合。然后针对T个样本集合训练T个学习器，将最后得到的T个结果通过一定的规则合并。
3、随机森林和bagging的联系？
随机森林就是Bagging思想的一种优化的实现。随机森林的每个决策树基于由bootstrap方法生成的数据集，但是随机森林在构建多个数据集的同时也会bagging抽取样本的特征。这种随机选取特征的方式可以保证决策树之间不会同质化。