大多数信源是有记忆信源，即其输出的符号之间有明显的相关性（依赖关系）。 m阶Markov信源是指：其输出的符号之间记忆长度为m，即当前输出的符号与前m个符号有关，而与更早时刻的输出无关（或相关性可忽略）。