Regresión

Hace mucho planteé un juego de identificación de modelos con R y ya se me había olvidado daros la solución. Pensando en el Grupo de Usuarios de R y en hacer algo parecido en una presentación, recordé que había que solucionar el ejercicio. Lo primero es la creación de los datos; se me ocurrió una función sencilla y una nube de puntos alrededor de ella: # Variable independiente indep = runif(500, 100, 500) # Función para crear la variable dependiente foo = function(x) { mean(x) * (1 - sin(-0.006042 * x)) } dep = sapply(indep, foo) dep = dep + (runif(length(dep), -100, 100)) datos = data.frame(cbind(indep, dep)) plot(datos) ...

¿Cómo influye un solo punto en una recta de regresión? Evidentemente, cuantas menos observaciones tengo, más puede “descolocar” la recta de regresión. Sin embargo, cuantos más puntos tengo, más complicado es encontrar ese punto con una recta de regresión; sin analizar los residuos podríamos hasta pasarlo por alto, aunque puede ser que nos interese ese punto. El código de R que genera la animación es: library(animation) saveGIF({ for (i in c(100, 50, 25, 10, 5, 1)) { x <- seq(-500, 500, by = i) y <- sin(x) + x / 100 y[10] <- y[10] + 10 plot(y, x, main = paste("Regresión lineal con ", round(1000 / i), " observaciones")) reg <- lm(y ~ x) points(fitted.values(reg), x, type = "l", col = "red", lwd = 2) } }, interval = 0.85, movie.name = "/Users/raulvaquerizo/Desktop/R/animaciones/outlier.gif") El paquete animation nos permite generar archivos .gif de una forma muy sencilla. Saludos.

En esta nueva entrega del manual de R vamos a trabajar con más ejemplos de regresión lineal haciendo especial mención a las posibilidades gráficas de R. El ejemplo de partida será el mismo empleado en el capítulo 9. Ejemplo 10.1: Si recordamos en el capítulo 9 en el ejemplo 9.2 hicimos un modelo para predecir las notas finales a partir de las notas de los exámenes previos, el test y la puntuación del laboratorio. Teníamos una variable dependiente que era la nota final y cuatro variables regresoras. Vimos que el modelo presentaba múltiples lagunas (multicolinealidad, un modelo con un r cuadrado bajo,…). Pues ahora hemos de mejorar el modelo. Es difícil mejorarlo en precisión porque no tenemos más variables regresoras en el conjunto de datos por eso podemos mejorarlo haciéndolo más sencillo y recogiendo una cantidad de información lo más grande posible con un modelo lo más reducido posible, es decir, vamos a seleccionar un modelo de regresión. Para hacer esto contamos con la función step que selecciona el modelo a partir del criterio de información de Akaike (AIC, siglas en inglés). Creamos un estadístico que permite decidir el orden de un modelo. AIC toma en consideración tanto la medida en que el modelo se ajusta a las series observadas como el número de parámetros utilizados en el ajuste. Buscamos el modelo que describa adecuadamente las series y tenga el mínimo AIC. Comencemos a trabajar con R, el primer paso será obtener y preparar el conjunto de datos: ...

En este capítulo del curso de R vamos a comenzar a estudiar el análisis de regresión lineal. Los modelos de regresión lineal son modelos probabilísticos basados en una función lineal, nuestro objetivo es expresar una variable dependiente en función de otro conjunto de variables. Los pasos básicos a seguir en el estudio de un modelo lineal son: Escribir el modelo matemático con todas sus hipótesis. Estimación de los parámetros del modelo. ...