1.5.3 Chaàýnes de Markov absorbantes
Une chaàýne de Markov est absorbante si tous ses
états persistants sont absorbants, c'est a` dire si chacune de ses
classes persistantes ne comporte qu'un seul état.
- Une chaàýne possédant des états
absorbants n'est pas irréductible (sauf si l'espace d'états est
réduit a` un point).
- Une chaàýne irréductible qui est
transiente ou récurrente nulle, ne possède pas de
probabilitéinvariante.
1.6 Distribution initiale et comportement
transitoire
1.6.1 Distribution initiale
La distribution des états d'une chaàýne de
Markov après n transitions est notée ð(n). Cette
distribution est un vecteur de probabilités contenant la loi de la
variable aléatoire Xn
ði = P [Xn = i],
(n) Vi E S.
En l'occurrence, ð(0) est la distribution
initiale.
Remarque 1.6.1 : Si l'état initial est connu avec
certitude et égal a` i, on a simplement ði = 1 et
ð(0)
(0) j = 0 pour tout j =6 i.
Comportement transitoire
Théorème 1.3 [13] : Soit P la matrice de
probabilités de transition d'une chaàýne de Markov et
ð(0) la distribution de son état initial. Pour tout n =
1, on a :
ð(n) = ð(n--1)P, et ð(n) =
ð(0)Pn.
1.7 Comportement asymptotique des
chaàýnes irréductibles
1.7.1 Comportement asymptotique
L'étude du comportement a` long terme d'une
chaàýne de Markov cherche a` répondre a` des questions
aussi diverses que :
. La distribution ð(n) converge-t-elle, lorsque n
? 8?
. Si la distribution ð(n) converge lorsque n ? 8,
quelle est la limite ð et cette limite est-elle indépendante de la
distribution initiale ð(0) ?
. Si l'état i est persistant, quelle est la proportion du
temps passédans cet état et quel est le nombre moyen de
transitions entre deux visites successives de cet état?
. Si l'état i est transitoire, quel est le nombre moyen de
visites de cet état?
1.7.2 Distribution limite
On dit qu'une chaàýne de Markov converge vers ð
ou possede une distribution limite ð
indépendamment de la distribution initiale
ð(0) et si ð est une distribution de probabilité. La
convergence d'une chaàýne de Markov est donc une
propriétéqui ne dépend que de la matrice de transition
P.
Théorème 1.4 (Théorème d'existence
des distributions limites [37]) :
Si la matrice de transition P est telle qu'une au moins de ses
puissances n'a que des termes
strictement positifs, alors
ð(n) = ð.
quelle que soit la distribution initiale
ð(0),et
Pn = P*,
lorsque n --* 00. ð est un vecteur de
probabilitéstrictement positif, et p* une matrice dont toute
les lignes sont identiques au vecteur limite ð. En plus
ðP* = ð.
|