Ensayo de regresion lineal.

ENSAYO DE REGRESION LINEAL SIMPLE

A menudo resulta fantástico conocer el efecto que una o varias variables pueden causar sobre otra, e incluso predecir en mayor o menor grado valores en una variable a partir de otra. En una función podríamos estar interesados en estimar la altura media de los hijos cuyos padres representan una determinada  altura. De esta manera los métodos de regresión estudian la construcción de modelos para explicar o representar la dependencia de una variable respuesta o dependiente (Y) y la variable(s) explicativa(s) o dependiente(s), X.  Quisiera brevemente exponer algunas ideas centrales sobre la regresión lineal, que tiene lugar cuando la dependencia es de tipo lineal .

El análisis de regresión es una técnica estadística para investigar y modelar la relación entre variables. Son numerosas las aplicaciones de la regresión, y las hay en casi cualquier campo, incluyendo en ingeniería, ciencias físicas y químicas, economía, administración, ciencias biológicas y de la vida en las ciencias sociales. De hecho, puede ser que el análisis de regresión sea la técnica estadística más usada.

La ecuación Y =  se llama modelo de regresión lineal simple. Por costumbre se dice que “X” es la variable independiente y “Y” la variable dependiente. Sin embargo, eso causa confusión con el concepto de la independencia estadística, así que llamaremos a “X” la variable predictora o regresora y “Y” la variable de respuesta. Como la ecuación Y = solo tiene una variable regresora, se llama modelo de regresión lineal simple.        [pic 1][pic 2]

Este ensayo explica el modelo de regresión lineal simple, un modelo con un solo regresor “X” que tiene una relación con una respuesta “Y”, donde la relación es una línea recta. Este modelo de regresión lineal simple es.

Y =                [pic 3]

Donde la ordenada al origen β0 y la pendiente β1 son constantes desconocidas, y es un componente aleatorio de error. Se supone que los errores tienen promedio cero y varianza 2 desconocida. Además, se suele suponer que los errores no están correlacionados. Esto quiere decir que el valor de un error no depende del valor de cualquier otro error.[pic 4][pic 5]

Conviene considerar que el regresor “X” está controlado por el analista de datos, y se puede medir con error despreciable, mientras que la respuesta “Y” es una variable aleatoria. Con lo que hay una distribución de probabilidades de “Y” para cada valor posible de “X”. La media de esta distribución es:

E (y/x) =  [pic 6]

Y la varianza es.

Var (y/x) = 2[pic 7]

Así, la media de “Y” es una función lineal de “X”, aunque la varianza de “Y” no depende del valor de “X”. Además ya que los errores no están correlacionados, las respuestas tampoco lo están.

A los parámetros  se les suele llamar coeficiente de regresión. Estos tienen una interpretación simple y, frecuentemente, útil. La pendiente  es el cambio de la media de la distribución de “Y” producido por un cambio unitario en “X”. Si el intervalo de los datos incluyen a X= 0, entonces la ordenada al origen, 0, es la media de la distribución de la respuesta “Y” cuando X= 0. Si no incluye al cero, 0 no tiene interpretación práctica.[pic 8][pic 9][pic 10][pic 11]

 (Montgomery, Peck, Vining, 2002, Pág. 1 y 13).

El modelo de regresión clásico establece que el valor medio de Y correspondiente a unos ciertos valores de X depende linealmente de estos valores de X:

E (Y/X1 = X1, X2 = X2,..., X1 = Xr) = b0 + b1x1 + b2x2 +... + brxr

Los valores de X (x1, x2,..., xr) son considerados como fijos. Para cada elemento de la muestra el valor de la variable Y (indicamos los valores de esta variable por y), puede expresarse en la forma

y = b0 + b1x1 + b2X2 +... + brxr + ε

Donde ε representa una cantidad aleatoria que va recoger la influencia de los factores no incluidos en “X”. El modelo de regresión lineal que consideramos es el siguiente:

y = b0 + b1x1 + b2x2 +... + brxr + ε

Donde se supone que ε, llamado residuo o error es una variable normal de valor medio 0, y varianza σ2, que es constante independientemente del valor de X considerado. La covarianza de los valores de ε para cada par de puntos es nula.

Si tenemos n valores muéstrales para (X, Y) se tiene:

y1 = b0 + b1x11 + b2x12 +. . . . + brx1r + ε1

y2 = b0 + b1x21 + b2x22 +. . . . + brx2r + ε2

. . .

y = b0 + b1xn1 + b2xn2 +. . . . + brxnr + εn                                                                                                                            

Con las condiciones

E (εi) = 0, E (εi, εi) = σ2, E (εi, εj) = 0

 (Huertas, Gámez, Trechera,  Fandiño, 2005,)

El análisis de regresión se usa con el propósito de predicción. La meta del  análisis de regresión  es  desarrollar  un  modelo  estadístico  que  se  pueda  usar  para  predecir  los valores de una variable dependiente o de respuesta basados en los valores de al menos una  variable  independiente  o explicativa.  Este  capítulo  se  centra  en  un  modelo  de regresión  lineal  simple, que usa una variable numérica  independiente “X”  para predecir la variable numérica dependiente “Y”.

Para establecer una relación cuantitativa entre “X” y “Y”  es necesario disponer de cierta  información  muestral.  Esta  información  consiste  de  un  conjunto de  pares  de observaciones  de “X”   y “Y”,  donde  cada  uno de  estos  pares  pertenece  a  una  unidad elemental  particular  de  la  muestra.  Por  ejemplo,  suponga  que  el  rendimiento  de  un proceso  químico  está  relacionado  con  la  temperatura  de  operación,  o la  experiencia profesional  de  los  trabajadores  y  sus  respectivos  sueldos,  las  estaturas  y  pesos  de personas, la producción agraria y la cantidad de fertilizantes utilizados, etc. Si mediante un modelo matemático es posible describir tal relación, entonces este modelo puede ser usado para propósitos de predicción, optimización o control. (Jiménez, 2007, Pág. 342).

...