IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> spark中api和sklearn中的api对比 -> 正文阅读

[大数据]spark中api和sklearn中的api对比

1.逻辑回归对比

spark.ml.LogisticRegression

setMaxIter 设置最大迭代次数(默认100),具体迭代次数可能在不足最大迭代次数停止

setTol设置容错(默认1e-6),每次迭代会计算一个误差,误差值随着迭代次数增加而减小,当误差小于设置容错,则停止迭代

setRegParam设置正则化项系数(默认0),正则化组要用于防止过拟合现象,如果数据较小,特征维数又多,容易 出现过拟合,考虑增大正则化系数

setElasticNetParam正则化范式比(默认0),正则化有2种方式:L1(lasso)和L2(Ridge),L1用于特征的稀疏化,L2用于防止过拟合.0表示用L2正则化,1表示用L1正则化

setLabelCol设置标签列

setFeaturesCol设置特征列

setPredictionCol设置预测列

setThreshold设置二分类阈值

fitIntercept:是否设置截距项

sklearn.linear_model.LogisticRegression

penalty-默认l2正则化

tol-默认为1e-4

C-Inverse of regularization strength,正则化强度的倒数,可以理解为正则化系数的倒数,如下式所示

fit_intercept:是否要截距项,默认True

intercept_scaling-默认是1,当solver为'liblinear'并self.fit_intercept为True是有用,此时输入的x会变成[x,self.intercept_scaling],总之会对原始的截距项做些转换

spark.ml.classification.LogisiticRegression().setMaxIter(100).setRegParam(0.0)

上面sklearn的lr和spark的lr,跑出的结果spark的auc更高,当把2个的截距项都设为False时,2个逻辑回归计算的系数一样,auc也一样。

?

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-08-11 12:28:56  更:2021-08-11 12:30:55 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/17 15:30:42-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码