[人工智能]怎么看待对抗攻击深度学习模型

怎么看待对抗攻击深度学习模型

对抗攻击与对抗防御，就像网络攻防一样永远不会休止，互相促进发展。
深度学习模型的复杂性和黑盒性决定了永远无法覆盖100%的场景，换句话说，泛化能力是有限的，而如果有一个方式找到了泛化能力之外的内容，那么当前的模型便不再安全，在普通应用场景中还好，但是如果涉及到安防等领域，就是大问题了，本质上对抗攻击深度学习模型的发展也会促进对抗防御深度学习模型的发展，以及促进这个领域不断提升泛化能力。