| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 人工智能 -> GTG-Shapley: Efficient and Accurate Participant Contribution Evaluation in Federated Learning 读后总结 -> 正文阅读 |
|
[人工智能]GTG-Shapley: Efficient and Accurate Participant Contribution Evaluation in Federated Learning 读后总结 |
主要内容: Introduction 部分主要介绍了一下背景和SV(Shapley Value) 具体方法:1、注意抽样时,抽样排列组合中节点的位置,如果抽到的组合中节点的位置总是考后的,这样计算出来的贡献会较少。(实验证明后加入的节点往往贡献较低) Related Work 因为本文的方法就是基于shapley值方法,所以到这 MC方法指的是一个概念,即利用随机采样去逼近真实解,我们利用模拟中子运动来全面了解蒙特卡洛方法如何在实际中应用。 Monte Carlo 方法 通过这篇博客我了解到MC就是用来随机采样的,也和该paper之前提到的选择部分排列组合进行训练对应上了。那我们现在就该去了解,这篇paper怎么在原有抽样采用的基础上进行改进了。 3 PRELIMINARIES FedAvg更新FL模型: Shapley Value 采用蒙特卡罗估计方法,近似的Shapley值 再次澄清,我比较愚 这个图挺清晰的,但是具体的内容还是给看一下。 首先通过梯度,来计算value,这里我很好奇使用梯度的什么值来作为value,是准确率还是召回率还是其他的这类的。 4.3 The GTG-ShapleyAlgorithm .第1-2行显示了两个输入模型的参数初始化和性能评估。 好啦,基本上就完成啦,然后就可以得到每个节点的SV了 下面一部分就是复杂度分析和实验了了,复杂度这个地方对于我来说一直是个痛点,我就先不看了,看了的话,我在进行补充啦! 实验小伙伴们页自己去体会一下吧~ 通过算法这部分其实我体会到的就是,该paper主要新增的一个特性就是, guided sampling 了,再有就是结合权重计算和抽取样本的思想,不知道我的理解有误没,如果存在问题欢迎小伙伴们进行留言~ 本文全篇基于个人理解,由于想的不够深入,以及英语水平有限,可能有理解错误的地方,尽情谅解。 |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/26 17:45:14- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |