stackIng是一种分层模型集成框架
学习器分为两层，每一层使用不同的学习器，第二层依赖第一层数据，第一层的输出是第二层的输入。
第一层 由多个基学习器组成，输入数据集是原始数据集，输出数据集是n*m (n是训练集样本个数，m是（基学习器个数+1))，测过集经过第一层基分类器的转换（p*m p是测试样本个数，m是（基学习器个数+1))）
第二层 以第一层基学习器的输出作为训练集进行训练，
举个例子
1.数据集介绍
训练集 1000*10 9个特征 1个label
测试集 300*10
2.每一层怎么处理？
第一层 三个基分类器 比如xgboost ,lightgbm,randomforest
以xgboost为例
把训练集分成5份，每一份200个，每一份都做一次验证集 ，训练5次模型，每次在验证集上的结果是200*1, 在测试集上的结果是300*1
5次验证集上的结果纵向合并就是1000*1，对测试集上的结果取平均就是300*1
3个模型结束后，训练集1000*4 3 特征值是3列 测试集是300*4
第二层 LR分类器 训练集是1000*4 测试集是300*4 使用LR分类器在测试集上预测
blending与stacking的区别是什么？
开通VIP 解锁文章