随机级数

Aster 理宅异闻录 Leave a Comment

考虑 $\mathbb{R}$ 上的随机游走,每一步有$\frac{1}{2}$的概率选择往左走,有$\frac{1}{2}$的概率往右走.但是第$n$步走的距离为$\frac{1}{n}$.

请问终点的概率分布是否存在?如果存在那是什么样子的?

这个问题等价于求随机调和级数的收敛分布.

如果$\sum a_n x^n$ 中的$ a_n $是个随机变量,那么就把他称为随机级数,随机级数有个很最简单的审敛方法.

无偏随机游走嘛,也就是 $ \mathbb{E}( \xi_n ) = 0 $ 的意思, 另一方面$ \mathbb{E}( {\xi_n}^2 ) =\mathbb{E}( {|\xi_n|}^2 ) =\sum_{n=1}^\infty {\frac{1}{n^2}}=\frac{\pi^2}{6}  $.

所以这个随机级数以概率$1$收敛,接下来我们来求最终收敛到的概率密度函数.

$a_n$是个数列,$ \sum a_n$自然收敛到一个数.

$a_n$服从一个概率分布,那$ \sum a_n$自然也就收敛到一个概率分布咯.

因为问题的复杂性,一般来讲是没法求出解析式的,只有各种近似计算.

考虑这个过程的生成函数$\prod\limits_{n > 0} {\left( {\frac{1}{2}{z^{\frac{1}{n}}} + \frac{1}{2}{z^{ - \frac{1}{n}}}} \right)}$,这根本就无从下口.

所以我们转而考虑其特征函数 $\cos(t/n) $,也就是求 $\prod_{n=1}^\infty \cos(t/n)$ 的逆傅里叶变换.

我们希望找个能进行傅里叶变换的函数来近似计算.

首先这是个偶函数,其次无穷个余弦函数相乘在远离原点的地方会衰减,$\text{Sinc}$函数是个不错的示范

但是衰减的速度不是很契合,所以还要加个指数函数来调整,当然得是偶函数,加个平方.

也就是用$e^{-\frac{t^2}{a}} \text{sinc}(b t)$来近似.

我们可以用级数展开来确定系数.

什么,你说为什么不用最小二乘...大哥我们能不能考虑下颜值...


两个方程解两个未知数,所以我们至少要展开到四次项:

$$e^{-\frac{t^2}{a}} \text{sinc}(b t)=1- \left(\frac{1}{a}+\frac{b^2}{6}\right)t^2+\frac{a^2 b^4+20 a b^2+60}{120 a^2}t^4 +O\left(t^6\right)$$

然后另一个问题就是怎么把那个累积展开到四次项了.

根据泰勒公式:$\displaystyle \cos \left(\frac{t}{n}\right)=1-\frac{t^2}{2 n^2}+\frac{t^4}{24 n^4}+O(t^6)$

另外绝对收敛的级数累乘和累加算子可以直接交换.

因此:

$$\begin{aligned}
&\quad\prod _{n=1}^{\infty } \cos \left(\frac{t}{n}\right)
=\prod _{n=1}^{\infty } \left(1-\frac{t^2}{6 n^2}+\frac{t^4}{120 n^4}+O(t^6)\right)\\
&=\left(1-\frac{t^2}{2}+\frac{t^4}{24}+O(t^6)\right)
\left(1-\frac{t^2}{8}+\frac{t^4}{384}+O(t^6)\right)
\left(1-\frac{t^2}{18}+\frac{t^4}{1944}+O(t^6)\right)\cdots\\
\end{aligned}$$

我们来整理一下:

0次项恒为1,奇次项恒为0.

2次项就是原来的2次项之和:$\displaystyle -\left(\frac{t^2}{2}+\frac{t^2}{8}+\frac{t^2}{18}+\cdots \right)$

4次项有两个来源,一个是原来的4次项之和$\displaystyle \frac{t^4}{24}+\frac{t^4}{384}+\frac{t^4}{1944}+\cdots$,另一个来源是两个2次项之积.

这个比较复杂了,大概是这些:$\displaystyle \frac{t^2}{2} \left(\frac{t^2}{8}+\frac{t^2}{18}+\cdots\right)+\frac{t^2}{8} \left(\frac{t^2}{18}+\cdots\right)$

总的来说就是:

$$\begin{aligned}
&\sum _{n=1}^{\infty } \frac{t^4}{24 n^4}+\sum _{p=1}^{\infty } \frac{t^2 }{2 p^2}\left(\sum _{n=p+1}^{\infty +1} \frac{t^2}{2 n^2}\right)\\
=&\frac{\pi ^4 t^4}{2160}+\sum _{p=1}^{\infty } \frac{t^2 }{2 p^2}\left(\frac{t^2}{2} \psi ^{(1)}(p+1)\right)\\
=&t^4\left(\frac{\pi^4}{2160}+\frac{\pi^4}{480}\right)\\
=&\frac{11 \pi ^4 }{4320}t^4
\end{aligned}$$

因此:

$\displaystyle\prod _{n=1}^{\infty } \cos \left(\frac{t}{n}\right)=1-\frac{\pi ^2}{12} t^2+\frac{11 \pi^4 }{4320}t^4+O(t^6)$

然后对应项数相等:

$\displaystyle\left\{\begin{aligned}
&\frac{\pi^2}{12}=\frac{1}{a}+\frac{b^2}{6}\\
&\frac{11 \pi ^4}{4320}=\frac{a^2 b^4+20 a b^2+60}{120 a^2}
\end{aligned}\right.$

解得:

$\displaystyle\left\{\begin{aligned}
a&= \frac{12 \left(\sqrt{6}+3\right)}{\pi ^2}\\
b&= \frac{\pi }{\sqrt[4]{6}}\\
\end{aligned}\right.$

所以我们现在可以说:

$\displaystyle \prod _{n=1}^{\infty} \cos \left(\frac{t}{n}\right)\sim \exp\left(-\frac{\pi ^2 }{12 \left(\sqrt{6}+3\right)}t^2\right) \text{sinc}\left(\frac{\pi  t}{\sqrt[4]{6}}\right)$ 是四阶最优近似,我们来画个图:

嗯,这个拟合程度说得过去...

不过反正是近似了,我们可以把参数再改的好看一点:$\frac{\pi }{\sqrt[4]{6}}= 2.0073 \sim 2; \quad 12 \left(\sqrt{6}+3\right) = 65.394 \sim 64$

为什么要这么凑呢,我们来看这个函数的逆傅里叶变换,注意傅里叶参数的选取为$(-1,1)$:

$$\mathscr{F}_{-1}\left(e^{-\frac{t^2}{a}} \text{sinc}(b t)\right)=\frac{1}{4b} \left[\text{erf}\left(\frac{\sqrt{a}}{2} (b-x)\right)+ \text{erf}\left(\frac{\sqrt{a}}{2}(b+x)\right)\right]$$

所以把$a$凑成平方比较好看.

综上所述:该分布的概率密度函数为:$\displaystyle f(x)=\frac{1 }{8}\left[\text{erf}\left(\frac{8+4x}{\pi }\right)+\text{erf}\left(\frac{8-4 x}{\pi }\right)\right]$

当然我们可以做个实验看看拟合程度到底如何:

data=Inner[Times,RandomChoice[{-1,1},{100000,100}],1./Range[100]]

Perfect!虽然长得有点像正态分布但我真的没见过平头的正态分布...


然后再来看连续分布的情况

$\displaystyle x_i \sim U\left[ { - \frac{1}{n},\frac{1}{n}} \right]$

特征函数:$\displaystyle f_n = \frac{n}{t}\sin \frac{t}{n}$

类似的计算过程:

$$\begin{aligned}
\prod_{n = 0}^\infty {\frac{n}{t}\sin \frac{t}{n}}
=&\prod_{n = 0}^\infty \left({1-\frac{t^2}{6 n^2}+\frac{t^4}{120 n^4}+O\left(t^6\right)}\right)\\
a_2 =& \sum _{n=1}^{\infty } -\frac{t^2}{6 n^2}=-\frac{\pi ^2}{36} t^2\\
a_4=&\sum _{i=1}^{\infty } \frac{t^2 }{6 i^2}\sum _{n=i+1}^{\infty +1} \frac{t^2}{6 n^2}+\sum _{n=1}^{\infty } \frac{t^4}{120 n^4}=\frac{7 \pi ^4}{21600} t^4\\
\therefore \text{原式}=&1-\frac{\pi ^2 }{36}t^2 +\frac{7 \pi ^4 }{21600}t^4 +O(t^6)
\end{aligned}$$

然后解方程估近似值:

$$\begin{aligned}
a =& \frac{12 \left(\sqrt{10}+5\right)}{\pi ^2} \sim \frac{100}{\pi ^2}\\
b =& \frac{\pi }{\sqrt{3} \sqrt[4]{10}} \sim 1
\end{aligned}$$

综上所述: $\displaystyle f(x)=\frac{1}{2} \left[\text{erf}\left(\frac{5 (1-x)}{\pi }\right)+\text{erf}\left(\frac{5 (1+x)}{\pi }\right)\right]$

data=Inner[Times,RandomReal[{-1,1},{100000,100}],1./Range[100]]

这个看起来更像正态分布了,不过真的不是正态分布,虽然...数据确实能通过能某些正态检测...

发表评论