En la teoría de la probabilidad

En la teoría de la probabilidad, se conoce como cadena de Márkov a un tipo especial de proceso estocástico discreto en el que la probabilidad de que ocurra un evento depende del evento inmediatamente anterior. En efecto, las cadenas de este tipo tienen memoria. "Recuerdan" el último evento y esto condiciona las posibilidades de los eventos futuros. Esta dependencia del evento anterior distingue a las cadenas de Márkov de las series de eventos independientes, como tirar una moneda al aire o un dado.

Reciben su nombre del matemático ruso Andrei Andreevitch Markov (1856-

n la teoría de la probabilidad, se conoce como cadena de Márkov a un tipo especial de proceso estocástico discreto en el que la probabilidad de que ocurra un evento depende del evento inmediatamente anterior. En efecto, las cadenas de este tipo tienen memoria. "Recuerdan" el último evento y esto condiciona las posibilidades de los eventos futuros. Esta dependencia del evento anterior distingue a las cadenas de Márkov de las series de eventos independientes, como tirar una moneda al aire o un dado.

Reciben su nombre del matemático ruso Andrei Andreevitch Markov (1856-1922), que las introdujo en 1907.1

Estos modelos muestran una estructura de dependencia simple, pero muy útil en muchas aplicaciones.

Contenido [ocultar]

1 Definición formal

2 Notación útil

2.1 Cadenas homogéneas y no homogéneas

2.2 Probabilidades de transición y matriz de transición

2.3 Vector de probabilidad invariante

2.4 Clases de comunicación

2.5 Tiempos de entrada

2.6 Recurrencia

2.7 Periodicidad

3 Tipos de cadenas de Markov

3.1 Cadenas irreducibles

3.2 Cadenas positivo-recurrentes

3.3 Cadenas regulares

3.4 Cadenas absorbentes

3.5 Cadenas de Markov en tiempo continuo

4 Aplicaciones

4.1 Física

4.2 Meteorología

4.3 Modelos epidemiológicos

4.4 Internet

4.5 Simulación

4.6 Juegos de azar

4.7 Economía y Finanzas

4.8 Música

5 Referencias

6 Bibliografía

7 Enlaces externos

[editar]Definición formal

En matemáticas, se define como un proceso estocástico discreto que cumple con la propiedad de Márkov, es decir, si se conoce la historia del sistema hasta su instante actual, su estado presente resume toda la información relevante para describir en probabilidad su estado futuro.

Una cadena de Márkov es una secuencia X1, X2, X3,... de variables aleatorias. El rango de estas variables, es llamado espacio estado, el valor de Xn es el estado del proceso en el tiempo n. Si la distribución de probabilidad condicional de Xn+1 en estados pasados es una función de Xn por sí sola, entonces:

Donde xi es el estado del proceso en el instante i. La identidad mostrada es la propiedad de Márkov.

[editar]Notación útil

[editar]Cadenas homogéneas y no homogéneas

Una cadena de Markov se dice homogénea si la probabilidad de ir del estado i al estado j en un paso no depende del tiempo en el que se encuentra la cadena, esto es:

para todo n y para cualquier i, j.

Si para alguna pareja de estados y para algún tiempo n la propiedad antes mencionada no se cumple diremos que la cadena de Markov es no homogénea.

[editar]Probabilidades de transición y matriz de transición

La probabilidad de ir del estado i al estado j en n unidades de tiempo es

,

en la probabilidad de transición en un paso se omite el superíndice de modo que queda

Un hecho importante es que las probabilidades de transición en n pasos satisfacen la ecuación de Chapman-Kolmogorov, esto es, para cualquier k tal que 0 < k < n se cumple que

donde

...