????????本来想在上一篇博客Blow后面写的，因为他属于是flow-based model，但是我不知道在哪里修改上一篇博客·····
? ? ? ? 目前主流的生成模型有三大类（我只用过后两类方法···）
?????????首先是component by component 生成是序列的，不确定生成的顺序以及比较好使，VAE的训练目标只是优化lower bound，我们并不清楚lower bound与我们优化目标之间的差距到底有多少（下一节会介绍VAE），GAN的训练又很不稳定。所以李宏毅老师介绍了Flow-based model，其是一次生成整个图片，不慢，并且优化目标就是极大似然估计而不是下界，并且训练比较容易。
????????对于生成任务，如下图所示，z是输入，假设是从一个标准分布中采样的到的，其经过G生成x，我们希望x是服从真实样本的分布（可能很不规则，很复杂），那么生成任务的优化目标是：
? ? ? ??真实样本实际上空间很大，所以我们就是从其中进行采样得到多个xi作为训练数据来模拟真实样本的分布，其中PG(xi)其实可以理解为当前G表示x的好坏（我们当然希望当前的generator能够很好的表示x）。上述公式就是极大对数似然估计。
? ? ? ? 那么flow-based model是怎么做的呢？我这里就放几个重要的截图，详细推理就不讲啦~
一维的情况：
? ? ? ? 其中上面的就是输入的分布，下面的是输出的分布，那么分布之间是存在这样的关系的。（因为x很小的时候，分布几乎可以不变，看成直线，存在面积（概率）的关系）
? ? ? ? 同理，二维也是存在这样的对应关系：
? ? ? ? 对公式推导，可得到如下的结果
? ? ? ? ? ? ? ? ? ? ? ?
?
????????其中Jf是f的jacobian公式，f实际就是前面说的generator模型。
? ? ? ? 得到这个公式后，对之前的优化目标进行替换得到：
? ? ? ? ?根据最后一个公式，发现其实flow-based model是对G的选择有很大的限制（不像之前的模型，可以任意选择RNN、CNN、Transformer等），1）G是可逆的，也就是你需要知道的计算方法。2）要能够计算
。因为对G有限制，所以G的能力可能有限，所以需要多个G串联，这就是为什么叫做flow-based model。
? ? ? ? 接下来介绍两个flow-based model，其实就是介绍两个不同的G：coupling layer以及1*1 convd。
? ? ? ? ?以上是G的过程（维度分成两部分，第一部分直接复制，第二部分需要如上图的计算过程），接下来我们需要看如何计算呢？即已知x（输出）怎么得到z（输入）？
?
? ? ? ? ?然后如何计算？
?
? ? ? ? 所以coupling layer可以作为G进行flow-based model。
? ? ? ? 以下是1*1 convd的模型图，也可以计算那两个值，就不说啦~
总结：flow-based model 难点就是怎么找到这样的一个G，满足以上两个条件。