| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> spark中api和sklearn中的api对比 -> 正文阅读 |
|
[大数据]spark中api和sklearn中的api对比 |
1.逻辑回归对比 spark.ml.LogisticRegression setMaxIter 设置最大迭代次数(默认100),具体迭代次数可能在不足最大迭代次数停止 setTol设置容错(默认1e-6),每次迭代会计算一个误差,误差值随着迭代次数增加而减小,当误差小于设置容错,则停止迭代 setRegParam设置正则化项系数(默认0),正则化组要用于防止过拟合现象,如果数据较小,特征维数又多,容易 出现过拟合,考虑增大正则化系数 setElasticNetParam正则化范式比(默认0),正则化有2种方式:L1(lasso)和L2(Ridge),L1用于特征的稀疏化,L2用于防止过拟合.0表示用L2正则化,1表示用L1正则化 setLabelCol设置标签列 setFeaturesCol设置特征列 setPredictionCol设置预测列 setThreshold设置二分类阈值 fitIntercept:是否设置截距项 sklearn.linear_model.LogisticRegression penalty-默认l2正则化 tol-默认为1e-4 C-Inverse of regularization strength,正则化强度的倒数,可以理解为正则化系数的倒数,如下式所示 fit_intercept:是否要截距项,默认True intercept_scaling-默认是1,当solver为'liblinear'并self.fit_intercept为True是有用,此时输入的x会变成[x,self.intercept_scaling],总之会对原始的截距项做些转换 spark.ml.classification.LogisiticRegression().setMaxIter(100).setRegParam(0.0) 上面sklearn的lr和spark的lr,跑出的结果spark的auc更高,当把2个的截距项都设为False时,2个逻辑回归计算的系数一样,auc也一样。 ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/25 4:22:07- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |