[数据结构与算法] poisson分布的推导与理解

?泊松分布源于泊松过程，与指数分布，伽马分布有着紧密的联系，本文在参考相关资料的基础上，进行详细推导以加深理解。

? 泊松分布可以由二项分布推导得到！二项分布与泊松分布的pdf分别如下：

? ? ? ?????????????????? $Bin(k,n|p)=Pr(X=k))\triangleq \binom{n}{k}p^k (1-p)^{n-k}$ ? ? ? ? ? ? ? ? ? (1)

? ? ? ?????????????????????????? $Poi (x|\lambda) =\Pr(X = k) = e^{-\lambda}\frac{\lambda^k}{k!}$ ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?(2)

直观的来看二项分布和泊松分布似乎无关。但仔细观察会发现一种非常有趣的关系。泊松分布只是二项分布的一个特例——即试验的数量足够大，从而给定的成功概率 $p$ ?就很小。当 $n$ 趋于无穷大且 $p$ 接近零时，二项分布就接近泊松分布。

2.2 详细推导

当我们有固定数量的事件 $n$ 时，每个事件的成功概率 $p$ ?都是恒定的，此时上述二项分布有效。

想象一下，假定我们不知道会进行多少次试验。相反，我们只知道每个时间段的平均成功次数。也就是说比如我们知道每天事件的成功率，但不知道导出该比率的试验次数 $n$ 或成功概率 $p$ 。

定义一个数字

???????????????????????????????????????????????????????????????????????? $\lambda=np$

让它表示每天的成功率（特定时间的成功次数）。用试验次数 $n$ （无论有多少次）乘以每次试验的成功概率 $p$ ?。

可以这样想：如果成功的机会是 $p$ ? 并且我们每天运行 $n$ ? 次试验，我们将观察到平均每天 $np$ 次成功。这是我们观察到的成功率 $\lambda$ ?(平均成功次数）。

再看一次二项分布如下所示：

????????????????????????????????? ?? $Bin(p,n)=P(X=k)= \binom{n}{k}p^k (1-p)^{n-k}$

如上所述，当我们定义 $\lambda$ 如下时：

???????????????????????????????????????????????????????????????????????? $\lambda=np$

求解 $p$ ，我们得到：

???????????????????????????????????????????????????????????????????????? $\Rightarrow p=\frac{\lambda}{n}$

我们用这个表达式代替 $p$ ? 到上面的二项分布中，并在 $n$ 趋于无穷时取其极限，即

???????????????? $\lim_{n \rightarrow +\infty }P(X=k) = \lim_{n \rightarrow +\infty}\frac{n!}{(n-k)!k!}\left ( \frac{\lambda}{n} \right )^k\left ( 1-\frac{\lambda}{n} \right )^{n-k}$

取出常数

??????????????????????????????????????????????????????????????????????????????????????????????????????????? $\lambda^k$

和

???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????? $\frac{1}{k!}$

并将右边 n-k??次方的项分解为 n 次方的项和 -k 次方的项，我们得到

???????????????????????????????? $\left (\frac{\lambda^k}{k!} \right )\lim_{n \rightarrow +\infty}\frac{n!}{(n-k)!}\left ( \frac{1}{n^k} \right )\left ( 1-\frac{\lambda}{n} \right )^{n}\left ( 1-\frac{\lambda}{n} \right )^{-k}$

现在让我们取右边第一项的极限。我们可以分为三步进行。第一步是找到极限

???????????????????????????????????????????????? ? ?? $\lim_{n \rightarrow +\infty}\frac{n!}{(n-k)!}\left ( \frac{1}{n^k} \right )$

在上式中，我们可以将分子与分母中的阶乘分别展开得到

??????????????????????????????? $\lim_{n \rightarrow +\infty}\frac{n(n-1)(n-2)...(n-k)(n-k-1)...(1)}{(n-k)(n-k-1)...(1)}\left ( \frac{1}{n^k} \right )$

这样写，很明显，分子和分母的许多项抵消了，最终得到以下结果：

??????????????????????????????? ? $\lim_{n \rightarrow +\infty}\frac{n(n-1)(n-2)...(n-k+1)}{n^k}$ ???????

由于我们抵消了 $n-k$ 项，这里的分子剩下 k 项，从 n 到 n-k+1。而在分母中也有 $k$ 项，因为有 $n$ 的? $k$ 次幂。

然后展开分子与分母，我们可以将其重写为：

???????????????????????????????????????? $\lim_{n \rightarrow +\infty}\left (\frac{n}{n} \right )\left (\frac{n-1}{n} \right )\left (\frac{n-2}{n} \right )...\left (\frac{n-k+1}{n} \right )$

这有 k 项。显然，当 $n$ 接近无穷大时，这些 $k$ 项中的每一项都接近 1。所以我们知道这一步的求解最终简化为一个1。这样我们就完成了第一步。

第二步是找到极限表达式中间项的极限，即

???????????????????????????????????????????????????????? $\lim_{n \rightarrow +\infty}\left (1-\frac{\lambda}{n} \right )^n$

再联想到

???????????????????????????????????????????????????????? $e=\lim_{x \rightarrow +\infty}\left (1+\frac{1}{x} \right )^x$ ???????

我们的目标是找到一种方法来操纵我们的表达式，使其看起来更像 e? 的定义，因为我们知道它的极限。首先可以定义一个变量?x 为

???????????????????????????????????????????????????????????????? $x = -\frac{n}{\lambda}$

现在让我们将其代入上述表达式，并采用如下变换：

???????????????????????????????????????? $\lim_{n \rightarrow +\infty}\left (1-\frac{\lambda}{n} \right )^n=\lim_{x \rightarrow +\infty}\left (1+\frac{1}{x} \right )^{x(-\lambda)}=e^{-\lambda}$

这个第二项最终简化得到? $e^{-\lambda}$ 。这样我们就完成了第二步。只剩下最后第三步。我们的第三步也就是最后一步是找到右边最后一项的极限，即

???????????????????????????????????????????????????????? $\lim_{n \rightarrow +\infty}\left (1-\frac{\lambda}{n} \right )^{-k}$

这很简单。当? $n$ ?接近无穷大时，此项变为 $1^{-k}$ ，等于 1。这样将这三个结果放在一起，我们可以将原来的极限改写为

??????????????????????? $\left (\frac{\lambda^k}{k!} \right )\lim_{n \rightarrow +\infty}\frac{n!}{(n-k)!}\left ( \frac{1}{n^k} \right )\left ( 1-\frac{\lambda}{n} \right )^{n}\left ( 1-\frac{\lambda}{n} \right )^{-k}=\left (\frac{\lambda^k}{k!} \right )1\cdot (e^{-\lambda})\cdot 1$

也就是：

??????????????????????????????????? ?? $Pr(\lambda,k)=\lim_{n \rightarrow +\infty}\binom{n}{k}p^k (1-p)^{n-k}=\frac{\lambda^ke^{-\lambda}}{k!}$

这就是广泛熟悉的泊松分布概率质量函数pmf，给出了给定参数? $\lambda$ ?的每个周期成功 $k$ 次的概率。

所以我们就证明了泊松分布只是二项分布的一个特例，其中 n 次试验的数量增长到无穷大，并且任何一次试验的成功概率都接近于零。泊松分布与二项分布的pdf曲线对比如下。

[数据结构与算法]poisson分布的推导与理解

1.概述

2.推导与理解

2.1直观对比

2.2 详细推导