7.24
SVM:support vector machine
https://www.bilibili.com/video/BV1Ys411N7jh?p=1
目的:我们是想得到一个超平面最好地分割两类点(e.g.猫或者狗)。问题转换为…………
?SVM可以通过引入松弛变量给予分错的一些点惩罚函数,(C. Cortes and V. Vapnik. Support Vector Networks. Machine Learning, 1995. 54),使得优化后为:
?也可以推广为非平面的分割(B.E. Boser, I.M. Guyon, and V. Vapnik. A training algorithm for optimal margin classifiers. Fifth Annual Workshop on Computational Learning Theory, 1992.)
7.26
后门学习(backdoor learning):
通过在设定的模型里面增加一个后门,使得当攻击者使用某个trigger之后激发。激发之前该模型表现与其他模型相同,激发后被变为攻击者给定的、带有恶意的设定。例如,通过改变神经网路训练中的一些目标值,使得训练结果变化。
网络不安全性可能来源于使用别人的数据集、云端计算或者干脆利用别人的网络。
https://zhuanlan.zhihu.com/p/160964591
↑这篇讲的很明白,抠细节的时候再看吧。
对抗神经网络(GANs):
对抗特征学习一般指的是一种双向生成对抗网络(Generative Adversarial Networks,GANs)。GAN由两个网络组成:用来拟合数据分布的生成网络G,和用来判断输入是否“真实”的判别网络D。 生成器的目标是通过生成尽可能接近实际数据的样本来“欺骗”鉴别器。在对抗特征学习中我们使用一种新颖的无监督特征学习框架,即双向生成对抗网络(Bidirectional Generative Adversarial Networks,BiGAN)。其结构如下图所示:
简而言之,除了来自标准GAN框架的生成器G之外,BiGAN还包括编码器E,其将数据x映射到潜在表示z。 BiGAN鉴别器D不仅在数据空间(x与G(z))中进行区分,而且在数据和潜在空间(元组(x,E(x))与(G(z),z))进行区分。即对于生成器生成的数据而言,其包含生成的数据和用以生成数据的噪声数据;而对于真实数据而言,其包含数据本身和经过生成器逆映射得到的值。
https://www.jiqizhixin.com/graph/technologies/fbc5c5cf-dc05-455d-82e0-f344da7b35dd#:~:text=%E5%AF%B9%E6%8A%97%E7%89%B9%E5%BE%81%E5%AD%A6%E4%B9%A0%E4%B8%80%E8%88%AC%E6%8C%87%E7%9A%84%E6%98%AF%E4%B8%80%E7%A7%8D%E5%8F%8C%E5%90%91%E7%94%9F%E6%88%90%E5%AF%B9%E6%8A%97%E7%BD%91%E7%BB%9C%EF%BC%88Generative%20Adversarial%20Networks%EF%BC%8CGANs%EF%BC%89%E3%80%82.%20GAN%E7%94%B1%E4%B8%A4%E4%B8%AA%E7%BD%91%E7%BB%9C%E7%BB%84%E6%88%90%EF%BC%9A%E7%94%A8%E6%9D%A5%E6%8B%9F%E5%90%88%E6%95%B0%E6%8D%AE%E5%88%86%E5%B8%83%E7%9A%84%E7%94%9F%E6%88%90%E7%BD%91%E7%BB%9CG%EF%BC%8C%E5%92%8C%E7%94%A8%E6%9D%A5%E5%88%A4%E6%96%AD%E8%BE%93%E5%85%A5%E6%98%AF%E5%90%A6%22%E7%9C%9F%E5%AE%9E%22%E7%9A%84%E5%88%A4%E5%88%AB%E7%BD%91%E7%BB%9CD%E3%80%82.%20%E7%94%9F%E6%88%90%E5%99%A8%E7%9A%84%E7%9B%AE%E6%A0%87%E6%98%AF%E9%80%9A%E8%BF%87%E7%94%9F%E6%88%90%E5%B0%BD%E5%8F%AF%E8%83%BD%E6%8E%A5%E8%BF%91%E5%AE%9E%E9%99%85%E6%95%B0%E6%8D%AE%E7%9A%84%E6%A0%B7%E6%9C%AC%E6%9D%A5%22%E6%AC%BA%E9%AA%97%22%E9%89%B4%E5%88%AB%E5%99%A8%E3%80%82.%20%E5%9C%A8%E5%AF%B9%E6%8A%97%E7%89%B9%E5%BE%81%E5%AD%A6%E4%B9%A0%E4%B8%AD%E6%88%91%E4%BB%AC%E4%BD%BF%E7%94%A8%E4%B8%80%E7%A7%8D%E6%96%B0%E9%A2%96%E7%9A%84%E6%97%A0%E7%9B%91%E7%9D%A3%E7%89%B9%E5%BE%81%E5%AD%A6%E4%B9%A0%E6%A1%86%E6%9E%B6%EF%BC%8C%E5%8D%B3%E5%8F%8C%E5%90%91%E7%94%9F%E6%88%90%E5%AF%B9%E6%8A%97%E7%BD%91%E7%BB%9C%EF%BC%88Bidirectional,Generative%20Adversarial%20Networks%EF%BC%8CBiGAN%EF%BC%89%E3%80%82.%20%E5%85%B6%E7%BB%93%E6%9E%84%E5%A6%82%E4%B8%8B%E5%9B%BE%E6%89%80%E7%A4%BA%EF%BC%9A.%20%E7%AE%80%E8%80%8C%E8%A8%80%E4%B9%8B%EF%BC%8C%E9%99%A4%E4%BA%86%E6%9D%A5%E8%87%AA%E6%A0%87%E5%87%86GAN%E6%A1%86%E6%9E%B6%E7%9A%84%E7%94%9F%E6%88%90%E5%99%A8G%E4%B9%8B%E5%A4%96%EF%BC%8CBiGAN%E8%BF%98%E5%8C%85%E6%8B%AC%E7%BC%96%E7%A0%81%E5%99%A8E%EF%BC%8C%E5%85%B6%E5%B0%86%E6%95%B0%E6%8D%AEx%E6%98%A0%E5%B0%84%E5%88%B0%E6%BD%9C%E5%9C%A8%E8%A1%A8%E7%A4%BAz%E3%80%82.%20
|