Métodos y evaluación del aprendizaje automático

Aunque la regresión logística (ロジスティック回帰) lleva «regresión» en su nombre, es un método de clasificación que convierte el resultado de un cálculo lineal en forma de probabilidad para determinar la clase. Predecir directamente un valor continuo es tarea de los métodos para problemas de regresión, como la regresión lineal (線形回帰), y dejarse llevar por el nombre hacia esa respuesta es un error clásico. Encontrar agrupaciones sin datos de entrenamiento es el agrupamiento (クラスタリング), un tema del aprendizaje no supervisado, y mejorar la elección de acciones guiándose por la recompensa es el aprendizaje por refuerzo (強化学習): ambos se sitúan en subapartados distintos.

Un problema de regresión (回帰問題) predice un valor continuo, como las ventas o la temperatura, y un problema de clasificación (分類問題) predice una clase discreta, como si un correo es spam o no. Intercambiar ambos es el error más común. El aprendizaje supervisado requiere un par de características (特徴量) y etiqueta de entrenamiento (教師データ) para cualquiera de los dos tipos de problema, por lo que no es cierto que uno de ellos necesite solo características. Aprender guiándose únicamente por la recompensa es el aprendizaje por refuerzo, y no describe el aprendizaje supervisado.

El análisis de regresión simple (単回帰分析) tiene una variable explicativa (説明変数), y el análisis de regresión múltiple (重回帰分析) tiene dos o más. Como los caracteres de «simple» (単) y «múltiple» (重) indican directamente el número de variables explicativas, una explicación que los intercambia es claramente errónea. Ambos son métodos de regresión que predicen un valor continuo, por lo que también es incorrecto decir que uno de ellos sirve para la clasificación. Además, el análisis de regresión es aprendizaje supervisado y requiere etiquetas de entrenamiento independientemente del número de variables.

La SVM realiza la maximización del margen (マージン最大化): traza la frontera en la posición que maximiza el margen entre ella y el punto de datos más cercano. Estos puntos más cercanos se llaman vectores de soporte (サポートベクター). Añadir repetidamente aprendices aumentando el peso de los datos mal clasificados es la idea del boosting (ブースティング), y buscar la dirección de máxima varianza es la idea del análisis de componentes principales (PCA): ninguna de las dos describe la SVM. Trazar la frontera por el punto medio entre los centroides no tiene en cuenta el margen en absoluto.

El truco del kernel (カーネルトリック) hace posible la separación no lineal sin calcular realmente las coordenadas tras la proyección a un espacio de dimensión superior, al calcular directamente el producto interno tras esa proyección mediante una función kernel (カーネル関数). La razón por la que se llama «truco» es precisamente que no es necesario calcular las coordenadas una por una, así que una explicación que dice que primero las calcula y luego separa invierte la dirección. Dividir los datos sin etiquetas de entrenamiento es un tema de agrupamiento, y tampoco es un mecanismo para reducir el número de registros de entrenamiento.

El bagging (バギング) construye aprendices en paralelo e independientes entre sí a partir de datos de entrenamiento creados mediante muestreo bootstrap (ブートストラップサンプリング), y luego toma una votación por mayoría o un promedio. El boosting (ブースティング) añade aprendices de forma secuencial, y cada nuevo aprendiz da más peso a los ejemplos en los que se equivocó el anterior, por lo que depende del orden y no puede construirse en paralelo. Intercambiar en paralelo y secuencial es el error más frecuente aquí. Ambos utilizan etiquetas de entrenamiento como aprendizaje supervisado, y los tipos de aprendiz débil (弱学習器) que pueden usarse no se limitan a árboles de decisión o regresión lineal.

Un bosque aleatorio (ランダムフォレスト) es un ejemplo representativo de bagging: crea datos de entrenamiento ligeramente distintos mediante muestreo bootstrap (ブートストラップサンプリング), que es un muestreo con reemplazo, hace crecer a partir de ellos muchos árboles de decisión en paralelo e independientes, y luego toma una votación por mayoría o un promedio. Añadir árboles uno por uno dando más peso a los errores del árbol anterior es la descripción del lado del boosting, como el gradient boosting (勾配ブースティング), e intercambiar esto es un error clásico. No utiliza un solo árbol sino un gran número de ellos, y lo que se combina son árboles de decisión, no regresiones lineales.

Un árbol de decisión (決定木) es un método que organiza en forma de árbol condiciones de ramificación sobre las características, y su punto fuerte es que una persona puede leer qué condición llevó a qué rama. Por otro lado, cuanto más profundo se hace crecer el árbol, más memoriza las pequeñas peculiaridades de los datos de entrenamiento, lo que hace que un único árbol sea propenso al sobreajuste (過学習). Hacerlo más profundo en realidad mejora el ajuste a los datos de entrenamiento, y el problema es que el rendimiento cae de todos modos con datos nuevos, por lo que decir que el ajuste empeora necesariamente es incorrecto. Un árbol de decisión es aprendizaje supervisado y puede usarse tanto para clasificación como para regresión.

Un modelo AR (ARモデル) explica el valor actual de una sola serie temporal (時系列) usando los propios valores pasados de esa serie. Un modelo VAR (VARモデル) lo extiende a varias series temporales, haciendo que se expliquen entre sí mediante los valores pasados de unas y otras. La diferencia es una serie temporal frente a varias, por lo que una explicación que lo intercambia es errónea. Ambos son modelos para tratar series temporales, no herramientas para extraer características locales de imágenes o componentes de frecuencia del audio, ni la distinción consiste en necesitar o no etiquetas de entrenamiento.

La clasificación multiclase (多クラス分類) es un problema de clasificación que determina a cuál de tres o más clases pertenece algo, y asignar un dígito escrito a mano a uno de los números del 0 al 9 es un ejemplo típico. Predecir un valor continuo, como el valor de una temperatura máxima, es un problema de regresión, no de clasificación. Encontrar agrupaciones de clientes similares es agrupamiento (クラスタリング), una forma de aprendizaje no supervisado, y elegir una jugada en función de la recompensa es aprendizaje por refuerzo: ninguno de los dos es, para empezar, un problema de clasificación del aprendizaje supervisado.

El temario incluye como objetivo comprender que el aprendizaje no supervisado (教師なし学習) solo requiere características (特徴量). Sin etiquetas de respuesta correcta, el aprendizaje no supervisado encuentra la estructura inherente a los propios datos mediante agrupamiento o reducción de dimensionalidad (次元削減). Presuponer pares de características y etiquetas de entrenamiento es el aprendizaje supervisado, y guiarse por la recompensa es el aprendizaje por refuerzo: cada uno se sitúa en un subapartado distinto. Descartar los datos restantes tampoco es una descripción del aprendizaje no supervisado.

El algoritmo k-means (k-means法) es un método de agrupamiento no jerárquico (非階層クラスタリング) que fija de antemano el número de agrupaciones k y repite las operaciones de asignar cada punto al centroide más cercano y recalcular los centroides. Fusionar repetidamente los elementos más cercanos sin decidir el número de agrupaciones es el agrupamiento jerárquico (階層的クラスタリング), como el método de Ward, que puede producir un dendrograma (diagrama de árbol). Maximizar el margen es la SVM, una forma de aprendizaje supervisado, y estimar temas a partir de cómo aparecen las palabras es un modelo de temas (トピックモデル) como la asignación latente de Dirichlet (LDA).

El método de Ward (ウォード法) es un agrupamiento jerárquico (階層的クラスタリング) que fusiona repetidamente en orden los elementos más cercanos, y el proceso de fusión puede dibujarse como un dendrograma (デンドログラム), es decir, un diagrama de árbol (樹形図). Su ventaja es que el número de agrupaciones puede decidirse después, observando dónde cortar. Es k-means el que es no jerárquico y fija de antemano el número de agrupaciones, y no produce un dendrograma. El método de Ward no es un método de reducción de dimensionalidad ni de aprendizaje supervisado, y no utiliza etiquetas de respuesta correcta.

El PCA (主成分分析) es una reducción de dimensionalidad (次元削減) lineal que reorienta los ejes hacia la dirección de máxima varianza, mientras que t-SNE es un método no lineal que proyecta a una dimensión inferior conservando la cercanía entre los puntos próximos, y se usa a menudo para la visualización en dos o tres dimensiones. Intercambiar lineal y no lineal aquí es un error clásico. Estimar los temas de un documento es un modelo de temas como la asignación latente de Dirichlet (LDA), y descomponer una matriz es la descomposición en valores singulares (SVD) (特異値分解). Tanto PCA como t-SNE son aprendizaje no supervisado, por lo que ninguno requiere etiquetas de entrenamiento.

Como el filtrado colaborativo (協調フィルタリング) recomienda basándose en la similitud de las valoraciones entre usuarios o entre productos, un usuario nuevo o un producto nuevo que aún no tiene historial de valoraciones no ofrece ninguna pista en la que apoyarse, lo que dificulta generar recomendaciones. Este es el problema del arranque en frío (コールドスタート問題). El filtrado basado en contenido (コンテンツベースフィルタリング), que se basa en el propio texto descriptivo o en los atributos de un producto, se trata junto a él como un enfoque que compensa esta debilidad. No tiene que ver con el tiempo de cálculo ni con el inventario.

El aprendizaje por refuerzo (強化学習) interactúa con un entorno mediante prueba y error, aprendiendo una política (方策) que maximiza la recompensa (報酬) acumulada recibida. La guía es la recompensa, no una etiqueta de respuesta correcta para cada jugada, por lo que no es una forma de aprendizaje supervisado. Usar solo la cercanía de la distancia como guía es la idea del agrupamiento y de otros tipos de aprendizaje no supervisado, y el recuento de apariciones de palabras es un tema de representación de características en el procesamiento del lenguaje natural: ninguno de los dos es la señal de aprendizaje del aprendizaje por refuerzo. Evaluar el futuro con una tasa de descuento (割引率), por si la recompensa no se devuelve de inmediato, también es una característica de este marco.

El temario incluye como objetivo comprender los dos enfoques representativos de aprender una función de valor (価値関数) y aprender una política (方策). El primero estima una función de valor de estado (状態価値関数) o una función de valor de acción (行動価値関数) y luego elige una acción basándose en ella; Q-learning y SARSA son ejemplos representativos. El segundo representa la propia política con parámetros y la actualiza directamente; los métodos de gradiente de política (方策勾配法) y REINFORCE son ejemplos representativos. Actor-Critic combina un Actor encargado de la política y un Critic encargado del valor, y tiene ambos a la vez. Una explicación que diga que solo existe uno de los dos, o que ninguno puede ser objeto de aprendizaje, es incorrecta.

Ambos son métodos de aprendizaje por refuerzo que actualizan una función de valor de acción (行動価値関数), y se diferencian en lo que usan para la actualización. Q-learning (Q学習) utiliza, entre las acciones disponibles en el siguiente estado, la que tiene el valor máximo, mientras que SARSA actualiza usando el valor de la siguiente acción realmente elegida. Intercambiar ambos es un error clásico. Q-learning también actualiza una función de valor de acción, por lo que decir que solo uno de ellos la usa no es válido. Ambos son marcos que aprenden a partir de la recompensa, por lo que también es erróneo decir que se requieren etiquetas de entrenamiento.

El brazo con el mayor valor estimado se elige de dos maneras: mediante la elección codiciosa (貪欲), o por azar cuando la elección aleatoria cae precisamente en ese mismo brazo. La primera es 1 menos 0.1, que da 0.900, y la segunda es 0.1 dividido entre 4, que da 0.025, para un total de 0.925. 0.900 es el valor que se obtiene al pasar por alto la posibilidad de caer en él mediante la elección aleatoria; 0.250 es la probabilidad de elegir uniformemente entre los 4 brazos; y 0.100 es simplemente ε. Cuanto mayor es ε, más exploración (探索) se produce, y esta probabilidad disminuye.

Multiplicar 4 por 0.5 da 2, multiplicar 12 por 0.5 al cuadrado, es decir, 0.25, da 3, y multiplicar 8 por 0.5 al cubo, es decir, 0.125, da 1, para un total de 6.0. 24.0 es el valor que se obtiene al sumar 4, 12 y 8 sin aplicar ningún descuento; 12.0 es ese 24 multiplicado por 0.5 una sola vez; y 7.5 se obtiene invirtiendo el orden de la multiplicación, aplicando 0.125 a 4, 0.25 a 12 y 0.5 a 8: todas son confusiones habituales. Como la función de la tasa de descuento (割引率) es valorar menos las recompensas del futuro más lejano, las más cercanas tienen el mayor peso.

La precisión (適合率) toma como denominador los elementos predichos como positivos, así que al dividir los 40 verdaderos positivos entre 50, la suma de 40 verdaderos positivos y 10 falsos positivos, se obtiene 0.80. 0.67 es la exhaustividad (再現率), que toma como denominador los elementos que son realmente positivos, dividiendo 40 entre 60, la suma de 40 verdaderos positivos y 20 falsos negativos. 0.85 es la exactitud (正解率), la proporción de los 170 predichos correctamente sobre el total de 200 casos, y 0.73 es el valor F (F値), la media armónica de la precisión 0.80 y la exhaustividad 0.67: todos son valores obtenidos al calcular una métrica distinta.

La precisión (適合率) es «de los predichos como positivos, la proporción que eran realmente positivos», por lo que su denominador está del lado de la predicción. La exhaustividad (再現率) es «de los realmente positivos, la proporción que se detectaron», por lo que su denominador está del lado real. Intercambiar ambas es el error más común, así que conviene recordar la diferencia como predicción frente a realidad. Tomar el total de datos como denominador es la exactitud (正解率), y una métrica que toma como denominador solo los verdaderos negativos o solo los falsos negativos no es ninguna de estas dos. Cuando se quieran reducir las detecciones falsas, dé más peso a la precisión; cuando se quieran reducir las omisiones, dé más peso a la exhaustividad.

El valor F (F値) es la media armónica (調和平均) de la precisión y la exhaustividad, así que al multiplicar 2 por 0.54, el producto de 0.6 y 0.9, se obtiene 1.08, y al dividirlo entre 1.5, la suma de 0.6 y 0.9, se obtiene 0.72. 0.75 es el valor que se obtiene al calcular una media aritmética (算術平均) en lugar de una media armónica; 0.54 es simplemente el producto de ambos; y 1.50 es simplemente su suma. También conviene confirmar que la media armónica se ve atraída hacia el valor más pequeño, por lo que resulta menor que la media aritmética de 0.75.

Como solo el 1% es positivo, con responder simplemente negativo para todo se acierta igualmente el 99%, por lo que la exactitud (正解率) es del 99%. Sin embargo, como no se detecta ni un solo positivo real, la exhaustividad (再現率) es del 0%, lo que hace que este modelo sea inútil. Fijarse solo en la exactitud cuando el número de casos por clase está desbalanceado lleva a un juicio erróneo, por lo que también hay que comprobar conjuntamente la exhaustividad, el valor F y la curva ROC y el AUC. En este planteamiento, la exactitud nunca resulta ser del 1% ni del 50%.

La curva ROC (ROC曲線) se traza variando el umbral (閾値) de decisión y representando la tasa de verdaderos positivos (真陽性率) en el eje vertical frente a la tasa de falsos positivos (偽陽性率) en el eje horizontal, y el área bajo ella es el AUC. Cuanto más se acerca el AUC a 1, mejor, mientras que 0.5 significa un nivel equivalente a decidir al azar. Poner la precisión en el eje vertical y la exhaustividad en el eje horizontal produce una curva totalmente distinta, y aquí es donde se produce la confusión clásica. La exactitud combinada con el número de datos, o el error combinado con el número de iteraciones, son gráficos distintos para observar cómo avanza el entrenamiento.

Tanto el AIC (赤池情報量規準) como el BIC (ベイズ情報量規準) son métricas que suman lo bien que un modelo se ajusta a los datos y una penalización (罰則) por tener más parámetros, y un valor menor se considera un mejor modelo. Considerar mejor un valor mayor es un error, y este es el punto que se pregunta con más frecuencia. Elegir solo en función del ajuste a los datos de entrenamiento acabaría seleccionando siempre los modelos con más parámetros, con tendencia al sobreajuste (過学習); por eso se incluye una penalización para equilibrarlo. Esto concuerda con la idea de la navaja de Ockham (オッカムの剃刀): no hacer algo más complejo de lo necesario.

La validación cruzada de k pliegues (k-分割交差検証) divide los datos en k partes y repite k veces el procedimiento de usar una parte para la validación y el resto para el entrenamiento, promediando los resultados. Dividir 200 registros en 5 da 40 registros por bloque, por lo que la validación usa 40 registros cada vez, el entrenamiento usa los 160 restantes, y esto se repite 5 veces. Dividir una sola vez y terminar es la validación por retención (ホールドアウト検証), que es computacionalmente más ligera pero más sensible a cómo resulte la división. Usar 160 registros para la validación confunde el entrenamiento con la validación.

Los errores al cuadrado son 4, 16, 16 y 0, que suman 36. Al dividirlo entre el número de casos, 4, se obtiene 9, el error cuadrático medio (MSE) (平均二乗誤差), y su raíz cuadrada, 3.0, es el RMSE. 9.0 es la respuesta que se queda en el MSE sin sacar la raíz cuadrada; 2.5 es el error absoluto medio (MAE) (平均絶対値誤差), el promedio de los errores absolutos 2, 4, 4 y 0; y 6.0 se obtiene al olvidar dividir entre el número de casos y sacar directamente la raíz cuadrada de la suma de cuadrados, 36. El RMSE es fácil de interpretar porque tiene la misma unidad que el error original.

La suma, 84, dividida entre el número de datos, 7, da una media (平均) de 12. El 4.º valor al ordenarlos de menor a mayor es 6, por lo que la mediana (中央値) es 6, y 4, que aparece dos veces, es la moda (最頻値). El punto clave es que solo la media se ve arrastrada considerablemente por el valor atípico (外れ値) 50, mientras que la mediana y la moda apenas se mueven: es un ejemplo que muestra por qué no se debe juzgar basándose en un único estadístico de resumen. Intercambiar la media y la mediana, o confundir la mediana con la moda, son errores habituales.

La correlación espuria (疑似相関) es el fenómeno por el cual aparece una correlación entre dos cosas que no tienen una relación causal directa, debido a un factor subyacente común; por ejemplo, cuando las ventas de helados y el número de accidentes por ahogamiento varían juntos por un factor compartido, la temperatura. La lección aquí es que la correlación no implica necesariamente causalidad, por lo que un coeficiente de correlación (相関係数) positivo no significa que una cosa sea la causa de la otra. Además, incluso un coeficiente de correlación de 0 puede ocultar una relación no lineal, por lo que no puede concluirse con certeza que no exista ninguna relación. El tratamiento de los valores atípicos es una cuestión distinta.