IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> 实现快速调参和参数可视化,喝杯茶 -> 正文阅读

[人工智能]实现快速调参和参数可视化,喝杯茶

大家好,我是Toby,今天上午完成快速调参和参数可视化。在机器学习建模中,特别是模型竞赛,调参是个脏活。

调参也叫超参,英文术语为hpyterparameter。举个简单例子方便大家理解什么是调参。我们把车辆看成一个模型,我们在驾驶车辆时会面临几个重要参数:

驾驶速度

温度

音乐

其它参数

驾驶速度是最重要参数。高速路,乡村路,城市路的限速是不一样的,你在高速路上可以把驾驶速度调高一些,例如90km/h,但在城市路上不允许开这么快,需要调低点,例如60km/h。

温度也是重要参数,夏天车内太热,需要开空调降低车内温度。冬天太冷,需要调高车内温度。

音乐是不痛不痒参数,有的车主喜欢边开车边听音乐,有的车主不喜欢边开车边听音乐。喜欢开车听音乐的有的喜欢爵士音乐,有的喜欢重金属音乐,有的喜欢轻音乐。不同车主爱好也让音乐参数范围较广。

如何让车辆(理解为模型)达到一个最佳行驶状态?车主需要让驾驶速度,温度,音乐达到一个最佳组合,例如安全驾驶速度,合适温度,愉悦音乐。

作者不想高谈大论数学公式,面对大众读者,只想把复杂问题简单化,方便大家理解。机器学习模型只是把现实中模型抽象化,模型来源于生活,抽象于生活。机器学习模型可应用于各行各业,并非计算机专业的专利,文科生,理科生,工科生,小学生,中学生,大学生都可以学习,不分高低贵贱。越早接触机器学习,大脑思维能力和智力水平提高越大。

之前模型竞赛中,作者对调参充满痛苦回忆。电脑硬盘不停旋转,时间一天一天耗去。今天终于搞定快速调参,测试数据用的风控模型German credit德国信用数据集。下图有关于German credit案例的python代码复现,有兴趣同学可以去了解《python信用评分卡建模(附代码)》

通过多次调参实验,给大家的通用经验是贝叶斯+GPU+lightgbm+并行,调参速度可以快速缩短。下图是今早调参的记录,一共有50次实验,第33次实验为最佳,AUC值为0.8122。

用了贝叶斯,每次运行脚本会有不同结果,这是随机带来结果,很好理解。

如果数据量大,参数多,建议大家不要用gridsearch网格调参,这会非常耗时。

调参记录,显示从0-50次实验的最佳AUC值

参数重要性hpyterparameter importance,显示参数重要性排序。下图显示min_child_samples是最重要参数,min_child_samples表示叶节点样本的最少数量,默认值20,用于防止过拟合。

浏览器可以展示超参详细可视化数据

parellel coordinate

最终结果来看German credit德国信用数据集的catboost超参后,AUC最高,但训练模型非常耗时。lightgbm性价比很高,训练大规模数据的速度非常快,调参也快。lightgbm可用于快速测试算法。

快速调参和参数可视化就为大家介绍到这里,如果大家对消费金融的风控模型技术感兴趣,欢迎了解系列课《python金融风控评分卡模型和数据分析微专业课(加强版)》

论文复现机器学习模型案例大本营(收藏)

版权声明:文章来自公众号(python风控模型),未经许可,不得抄袭。遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2022-06-18 23:24:40  更:2022-06-18 23:25:41 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/26 2:23:06-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码