Markov链

t下面我们进行一个独立重复掷色子实验,假设掷得1点的概率为p1(0< p1 <1) ,设Xn表示投掷n次后掷得1点的累计数目。显然,Xn之间并不相互独立,但是,若给定Xn的值,如Xn =i,则Xn+1的值只能取i或i +1 ,对应的概率分别是1- p1和p1。

tMarkov性:若已知现在的状态,将来与过去无关。

t具有Markov性的离散时间随机过程称为Markov链。