[人工智能]机器学习一些基本概念

训练集：使用训练集的数据来训练模型

验证集:用验证集验证模型的效果

测试集:用测试集测验模型的最终效果，并将测试集上的误差作为泛化误差的近似

经验误差:学习器在训练集上的误差成为“训练误差”或“经验误差”

泛化误差:在新样本上的误差成为“泛化误差”

过拟合:学习能力过于强大，学习器把训练样板学的过好，可能将训练样板自身的一些特点当做了所有潜在样本都会具有的一般性质，从而导致泛化性能下降，这种现象成为“过拟合”

欠拟合:学习能力不够强大，指对训练样本的一般性质尚未学好

学习率:学习率(Learning rate)为监督学习以及深度学习中重要的超参，其决定着目标函数能否收敛到局部最小值以及何时收敛到最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。