本章内容:
1 基本概念
2 马尔科夫链的状态分类
3 的极限与平稳分布
4 连续时间Markov链
本章重点和难点:
掌握离散时间Markov链概念,会计算转移概率及其矩阵,掌握转移概率所遵守的卡普曼-柯尔莫哥洛夫方程(C-K方程),理解初始分布与绝对分布,掌握转移概率的极限与平稳分布、遍历态与平稳分布间的关系;了解连续时间Markov链