Ejercicios resueltos de Machine learning

Question 1

Una academia de preicfes en Cali registró horas de estudio semanal y puntaje global de cuatro estudiantes: (2 h, 220), (4 h, 260), (6 h, 290), (8 h, 330). Ajusta la recta de mínimos cuadrados y predice el puntaje de alguien que estudia 5 horas.

Accepted Answer

El modelo es ŷ = a + b·x. Mínimos cuadrados elige a y b de modo que la suma de los errores al cuadrado sea la menor posible; la fórmula que sale de ahí es b = Σ(x − x̄)(y − ȳ) / Σ(x − x̄)², y luego a = ȳ − b·x̄. Promedios: x̄ = (2 + 4 + 6 + 8) / 4 = 20 / 4 = 5. ȳ = (220 + 260 + 290 + 330) / 4 = 1.100 / 4 = 275. Desviaciones respecto al promedio: en x son −3, −1, 1, 3; en y son −55, −15, 15, 55. Numerador: (−3)(−55) + (−1)(−15) + (1)(15) + (3)(55) = 165 + 15 + 15 + 165 = 360. Denominador: (−3)² + (−1)² + 1² + 3² = 9 + 1 + 1 + 9 = 20. Pendiente: b = 360 / 20 = 18. Intercepto: a = 275 − 18 × 5 = 275 − 90 = 185. La recta es ŷ = 185 + 18x. Para 5 horas: ŷ = 185 + 18 × 5 = 185 + 90 = 275 puntos. Lectura de la pendiente: cada hora semanal adicional se asocia con 18 puntos más, dentro del rango observado (2 a 8 horas). Respuesta: ŷ = 185 + 18x. Con 5 horas de estudio semanal, el modelo predice 275 puntos.

Question 2

Dos modelos para predecir mora en un crédito de bajo monto. Modelo A (árbol de decisión sin podar): 99,4 % de acierto en entrenamiento y 71 % en prueba. Modelo B (árbol de profundidad 4): 84 % en entrenamiento y 82 % en prueba. ¿Cuál se despliega?

Accepted Answer

Lo único que importa es cómo le va al modelo con datos que nunca vio, porque en producción todos los clientes son nuevos. El acierto en entrenamiento no es una medida de calidad: es una medida de memoria. Miramos la brecha entre entrenamiento y prueba. Modelo A: 99,4 − 71 = 28,4 puntos. Modelo B: 84 − 82 = 2 puntos. Una brecha grande es la firma del sobreajuste: el árbol sin podar creció hasta aislar casi cada cliente del histórico en su propia hoja, así que aprendió los clientes, no el patrón. Comparamos en la única columna que cuenta, la de prueba: 82 % contra 71 %. Gana B, y por 11 puntos. El modelo B además es más barato de sostener: un árbol de profundidad 4 se puede imprimir, explicarle a un analista de riesgo y defender ante quien pregunte por qué se negó un crédito. Advertencia sobre el procedimiento: si el conjunto de prueba se usó muchas veces para ir escogiendo la profundidad, ese 82 % ya está optimista, porque la prueba terminó participando en la decisión. Lo correcto es tres partes (entrenamiento, validación y prueba) o validación cruzada sobre el entrenamiento, dejando la prueba para una sola medición al final. Respuesta: El modelo B. Con 82 % contra 71 % en datos no vistos, es el que de verdad generaliza; el 99,4 % del modelo A es memoria del histórico, no capacidad de predecir.

Machine learning