[数据结构与算法]打卡2 -回归和分类

作业

（1）min(Xbeta - Y).T(Xbeta-Y)

拆开表达式，对beta求导 得到（X.TX )-1*(X.TY)

(2)线性里，当最大似然估计的噪声N(0, sigma^2)分布时，结果和最小二乘法一样

区别也在于最大似然有这个假设，最小二乘没有

（3）模型过于复杂，容易过拟合，在X的边界处有异常的波动,预测效果的稳定性下降

（4）都可以又回归又分类。但是假设不同，线性回归是线性的，决策树不是线性的。，线性回归对模型形式做了如下假定：𝑓(𝑥)=𝑤0+∑𝑗=1𝑝𝑤𝑗𝑥(𝑗)f(x)=w0+∑j=1pwjx(j)，而回归树则是𝑓(𝑥)=∑𝑚=1𝐽𝑐?𝑚𝐼(𝑥∈𝑅𝑚)f(x)=∑m=1Jc^mI(x∈Rm)。

（7）

?