Métodos y aplicaciones del aprendizaje profundo

El perceptrón simple (単純パーセプトロン) es la red neuronal más sencilla: consta solo de una capa de entrada y una capa de salida, y solo puede resolver problemas linealmente separables (線形分離可能), es decir, los que pueden dividirse con una sola línea recta. En el OR exclusivo (XOR), los puntos cuya salida es 1 y los puntos cuya salida es 0 se alternan en diagonal, por lo que ninguna línea recta puede separarlos, y el perceptrón simple no puede representarlo. Un perceptrón multicapa (多層パーセプトロン), que añade una capa oculta para que la frontera pueda doblarse, sí puede representar el XOR, y la opción D describe ese perceptrón multicapa. Realimentar el estado del instante anterior para manejar secuencias es la descripción de una red neuronal recurrente, y deslizar un filtro para extraer características locales es la descripción de una capa convolucional.

El entrenamiento en aprendizaje profundo es un cálculo que repite un número enorme de veces multiplicaciones y sumas de matrices y vectores. Una GPU tiene una gran cantidad de núcleos pequeños que realizan operaciones simples y es adecuada para ejecutar el mismo cálculo en paralelo, todo a la vez, por lo que encaja bien con esta forma de cálculo. Ejecutar rápidamente y en secuencia procesos con muchas ramificaciones usando pocos núcleos potentes es el punto fuerte de la CPU, que no tiene muchos núcleos. La ventaja de una GPU es su grado de paralelismo (並列度), no su capacidad de almacenamiento. No es cierto que tenga incorporado un circuito dedicado a la regla de la cadena (連鎖律); la que está diseñada específicamente para las operaciones con tensores del aprendizaje profundo es la TPU.

El problema del desvanecimiento del gradiente (勾配消失問題) es un fenómeno en el que el gradiente se acerca a 0 durante la retropropagación, de modo que las capas del lado de la entrada dejan de aprender. Como el valor máximo de la derivada de la función sigmoide (シグモイド関数) es solo 0.25, cada vez que se retrocede una capa se multiplica un número igual o menor que 0.25, y en una red profunda casi no queda gradiente. Lo que importa no es el valor de la salida en sí, sino la magnitud de su derivada. Que el gradiente se vuelva 0 para entradas negativas y se detenga el aprendizaje es un punto débil de la función ReLU, y la función Leaky ReLU responde a ello. Normalizar para que la suma de las salidas sea 1 es lo que hace la función softmax.

La función ReLU (ReLU関数) es una función sencilla que devuelve el valor de entrada tal cual si es positivo y devuelve 0 si es negativo. En la región positiva la derivada es siempre 1, por lo que el gradiente no se reduce aunque se retroceda a través de las capas, lo que alivia en gran medida el problema del desvanecimiento del gradiente (勾配消失問題). Sin embargo, en la región negativa la derivada es 0, por lo que una unidad que cae una vez en el lado negativo puede dejar de aprender; para esto se creó la función Leaky ReLU, que da una ligera pendiente al lado negativo. La curva en forma de S que comprime en el rango de 0 a 1 describe la función sigmoide, la forma simétrica respecto al origen dentro de -1 a 1 describe la función tanh, y normalizar para que la suma de las salidas sea 1 describe la función softmax.

Como la función ReLU tiene tanto la salida como la derivada iguales a 0 en la región negativa, si la entrada de cierta unidad permanece negativa todo el tiempo, no fluye ningún gradiente por ella y esa unidad nunca vuelve a aprender. La función Leaky ReLU (Leaky ReLU関数) da una ligera pendiente también al lado negativo, evitando este callejón sin salida. Tener un gradiente de 1 en la región positiva es una ventaja de la función ReLU, no un inconveniente, y es precisamente esta propiedad la que evita el desvanecimiento del gradiente. Es completamente normal que en una función de activación (活性化関数) la suma de las salidas no sea 1; para una capa de salida que se quiere leer como probabilidades se usa la función softmax. Son la función sigmoide y la función tanh las que incluyen una función exponencial en su cálculo; la función ReLU, en todo caso, es ligera de calcular.

La función softmax (ソフトマックス関数) normaliza el conjunto completo para que la suma de las salidas sea exactamente 1, por lo que se coloca en la capa de salida de la clasificación multiclase (多クラス分類), donde hay tres o más clases, y sus salidas se leen como la probabilidad de pertenecer a cada clase. Combinarla con la entropía cruzada (交差エントロピー) como función de pérdida es el patrón básico. La que se coloca en la capa de salida de una clasificación binaria para emitir una probabilidad es la función sigmoide, y las que se usan ampliamente como función de activación de las capas ocultas son la función ReLU y la función tanh. En la regresión, la capa de salida emite el valor tal cual, y como función de pérdida se usa la función de error cuadrático medio.

Como la regresión es un problema de predecir un valor continuo, la elección natural es la función de error cuadrático medio (平均二乗誤差関数), que eleva directamente al cuadrado y promedia la diferencia entre la predicción y el valor verdadero. La entropía cruzada (交差エントロピー) es una función que mide la diferencia entre distribuciones de probabilidad y se usa en problemas de clasificación; en la clasificación multiclase, la forma básica es combinarla con la función softmax en la capa de salida. Triplet Loss aprende la relación de distancia dentro de un trío formado por un ancla, un ejemplo positivo y un ejemplo negativo, y Contrastive Loss aprende mediante la distancia si dos datos son lo mismo; ambas son funciones de pérdida para obtener una representación que mida la similitud. Elegir la función de pérdida (誤差関数) según la tarea es el objetivo de este subtema.

Triplet Loss es una función de pérdida que usa un trío formado por un dato de referencia (ancla), un dato del mismo tipo (ejemplo positivo, 正例) y un dato de otro tipo (ejemplo negativo, 負例), y entrena el modelo para que la distancia entre el ancla y el ejemplo positivo sea menor que la distancia entre el ancla y el ejemplo negativo. Se usa para construir un espacio que represente la similitud mediante la distancia. Medir la diferencia entre dos distribuciones de probabilidad es la divergencia de Kullback-Leibler (divergencia KL, カルバック・ライブラー情報量); elevar al cuadrado y promediar la diferencia entre la predicción y el valor verdadero es la función de error cuadrático medio; y medir la diferencia entre distribuciones de probabilidad y usarse ampliamente en clasificación es la entropía cruzada. Tenga en cuenta que Contrastive Loss, que entrena sobre un par de dos datos para saber si son lo mismo, está incluida en el mismo subtema.

La retropropagación (誤差逆伝播法) es un método que usa la regla de la cadena (連鎖律), que descompone la derivada de una función compuesta en un producto de las derivadas de sus partes, para hallar de forma eficiente el gradiente de cada peso retrocediendo desde el lado de la salida hasta el lado de la entrada. Lo que se halla aquí es estrictamente el gradiente; mover realmente los pesos usando ese gradiente es tarea del descenso de gradiente (勾配降下法). Afirmar sin matices que la retropropagación actualiza los pesos sería inexacto, así que hay que tener cuidado en este punto. Mover los pesos con números aleatorios y adoptar una buena dirección es la idea de los métodos de búsqueda que no usan gradientes, y avanzar el cálculo desde el lado de la entrada hasta el lado de la salida es el procedimiento de la propagación hacia adelante (順伝播), es decir, la inferencia.

El problema de asignación de crédito (信用割当問題) es la cuestión de cuánta parte del error que aparece en la salida debe atribuirse a qué unidad de qué capa intermedia. Se considera que la retropropagación hizo calculable esta asignación mediante la regla de la cadena. El problema del desvanecimiento del gradiente (勾配消失問題) es un fenómeno en el que el gradiente se acerca a 0 al retroceder y las capas del lado de la entrada dejan de aprender; el problema de la explosión del gradiente (勾配爆発問題) es el fenómeno opuesto, en el que el gradiente se vuelve demasiado grande y diverge; ambos son problemas que surgen al aplicar la retropropagación. La maldición de la dimensionalidad (次元の呪い) es el fenómeno en el que la cantidad de datos necesaria aumenta bruscamente a medida que crece el número de dimensiones de las características, y en el temario se sitúa en el subtema de aprendizaje automático.

La regularización L1 (L1正則化) es una forma de regularización que añade la suma de los valores absolutos de los pesos como penalización a la función de pérdida, y tiende a empujar los pesos hasta exactamente 0. Como resultado, los coeficientes de las características que no se usan se vuelven 0 y se descartan automáticamente, lo que produce un efecto de selección de características. Este estado se llama disperso (スパース). Usar la suma de los cuadrados de los pesos como penalización es la regularización L2, que mantiene los valores pequeños y uniformes pero rara vez los lleva exactamente a 0. Desactivar unidades al azar durante el entrenamiento es el dropout (ドロップアウト), y detener el entrenamiento cuando el error de validación empieza a empeorar es la parada temprana (早期終了); ambos combaten el sobreajuste, pero mediante mecanismos diferentes.

La regresión ridge (リッジ回帰) es un método que combina la regresión lineal con la regularización L2 (L2正則化). Como se añade la suma de los cuadrados de los pesos como penalización, los coeficientes en su conjunto se mantienen pequeños, lo que evita el sobreajuste. La regresión lineal combinada en cambio con la regularización L1 es la regresión lasso (ラッソ回帰), que tiende a llevar los coeficientes exactamente a 0 y produce una solución dispersa. La correspondencia entre L1 y lasso, y entre L2 y ridge, es fácil de confundir, así que memorícelas siempre por parejas. La regularización L0 es la idea de usar como penalización el propio número de pesos distintos de cero; como un recuento no se puede derivar, es difícil incorporarla a un entrenamiento basado en gradientes. El dropout es un método de regularización para redes neuronales.

El dropout (ドロップアウト) es un método que desactiva al azar una proporción fija de las unidades de una capa oculta en cada paso de entrenamiento. Como el entrenamiento se hace cada vez con una forma de red ligeramente distinta, el modelo ya no puede depender por completo de una combinación concreta de unidades, lo que produce un efecto similar al de promediar muchos modelos. Las unidades se desactivan solo durante el entrenamiento; en la inferencia se usan todas. Pese a la similitud de nombres, en el temario el dropout se clasifica en el punto 14, regularización (正則化), y no en el punto 19, capas de normalización (正規化層). Ajustar la distribución dentro de un minilote es la normalización por lotes, aumentar los datos es el aumento de datos, y detenerse cuando el error empeora es la parada temprana.

El entrenamiento por minilotes (ミニバッチ学習) es un enfoque que divide los datos de entrenamiento en bloques de unas decenas a unos cientos de ejemplos y, por cada bloque, calcula el gradiente y actualiza los pesos. Tiene una propiedad intermedia: su gradiente en cada paso no es tan ruidoso como en el aprendizaje en línea (オンライン学習), que actualiza ejemplo por ejemplo, ni su cálculo es tan pesado como en el entrenamiento por lotes (バッチ学習), que actualiza una sola vez con todo el conjunto de datos; por eso, en la práctica, representa la mayor parte del entrenamiento. El descenso de gradiente estocástico (SGD, 確率的勾配降下法) calcula el gradiente solo a partir de una parte de los datos, y esta fluctuación tiene la ventaja de facilitar la salida de puntos de silla y de óptimos locales poco profundos. No actualizar los pesos no es entrenar en absoluto, sino simple inferencia.

Una época (エポック) significa recorrer una vez todo el conjunto de entrenamiento, y una iteración (イテレーション) significa actualizar los pesos una vez. Ambas están vinculadas a través del tamaño del minilote: el número de iteraciones por época es igual al número de ejemplos de datos dividido entre el tamaño del minilote. Por ejemplo, procesar 3,000 ejemplos con un tamaño de lote de 50 hace que una época equivalga a 60 iteraciones. Aumentar el tamaño del minilote estabiliza cada gradiente pero reduce el número de actualizaciones por época, mientras que reducirlo aumenta el número de actualizaciones pero también la fluctuación. Tanto el tamaño del minilote como la tasa de aprendizaje son hiperparámetros (ハイパーパラメータ) que una persona decide de antemano, y son conceptos distintos de la época y la iteración.

Un punto de silla (鞍点) es un punto que parece el fondo de un valle visto desde una dirección, pero parece la cima de una montaña visto desde otra, y su nombre se debe a su parecido con la forma de una silla de montar. En el aprendizaje profundo, donde el número de parámetros es muy grande, se considera más probable quedarse atascado en un punto de silla que llegar a un óptimo local que sea a la vez el fondo de un valle en todas las direcciones. El punto en el que el error es el menor de todo el rango es el óptimo global (大域最適解), y el punto que es el menor solo en su entorno cercano es un óptimo local (局所最適解). Como el descenso de gradiente estocástico (SGD) tiene fluctuación en su gradiente, puede escapar con más facilidad de este tipo de estancamiento.

Adam es un método de optimización que combina la idea del momentum (モーメンタム), que suma la magnitud de la actualización anterior como inercia, con la idea de RMSprop, que ajusta automáticamente la tasa de aprendizaje (学習率) para cada parámetro, y se usa ampliamente como opción por defecto en la práctica. La línea de métodos que adaptan la tasa de aprendizaje comienza con AdaGrad; AdaGrad reduce más la tasa de aprendizaje de los parámetros que tuvieron actualizaciones mayores, pero la sigue reduciendo indefinidamente, así que RMSprop suavizó esto con una media móvil exponencial. A la misma línea pertenecen también AdaDelta, AdaBound y AMSBound. Las penalizaciones sobre los pesos son una cuestión de regularización, y la búsqueda en cuadrícula y la búsqueda aleatoria son cuestiones de búsqueda de hiperparámetros; ninguna trata de la regla de actualización en sí.

El teorema No Free Lunch («no hay almuerzo gratis», ノーフリーランチの定理) afirma que, promediando sobre todos los problemas concebibles, ningún algoritmo universal supera a todos los demás. En consecuencia, la elección del método debe considerarse caso por caso, y no hay una única respuesta que funcione siempre. Que hacer más grande un modelo haga que el error empeore una vez antes de volver a bajar es el doble descenso (二重降下現象), que también está incluido en el mismo subtema. Que la cantidad de datos necesaria aumente bruscamente a medida que crecen las dimensiones de las características es la maldición de la dimensionalidad (次元の呪い). No hay garantía de que seguir reduciendo la tasa de aprendizaje permita llegar al óptimo global, ya que puede quedarse atascado en un óptimo local o en un punto de silla.

La búsqueda aleatoria (ランダムサーチ) es un método que elige puntos al azar dentro del rango de búsqueda de los hiperparámetros y los prueba. A diferencia de la búsqueda en cuadrícula (グリッドサーチ), que dispone los candidatos en una cuadrícula y prueba exhaustivamente todas las combinaciones, es menos probable que desperdicie intentos en hiperparámetros que influyen poco, y con el mismo número de intentos puede explorar con más detalle los ejes que importan. Los valores que una persona decide de antemano, como la tasa de aprendizaje, el tamaño del minilote y el número de capas, son hiperparámetros (ハイパーパラメータ). Detener el entrenamiento cuando el error de validación empeora es la parada temprana, y desactivar unidades al azar durante el entrenamiento es el dropout; ninguno de los dos es un método de búsqueda.

El doble descenso (二重降下現象) es un fenómeno en el que, al seguir aumentando el tamaño de un modelo o la cantidad de entrenamiento, el error de validación empeora una vez y luego, si se sigue aumentando, empieza a disminuir de nuevo. Su nombre se debe a que la curva del error desciende dos veces. Va en contra de la intuición ingenua de que un modelo más grande se sobreajusta más y empeora, pero está incluido en los métodos de optimización del temario como uno de los marcos que explican la experiencia reciente de que los modelos más grandes a veces dan mejores resultados. El problema de asignación de crédito es la cuestión de a qué unidad debe atribuirse la responsabilidad del error, el problema de la explosión del gradiente es el fenómeno en el que el gradiente diverge durante la retropropagación, y la adquisición de invariancia (不変性の獲得) es la función de las capas de pooling.

Una capa convolucional (畳み込み層) extrae características locales deslizando un filtro pequeño sobre la entrada mientras reutiliza los mismos pesos. Gracias a dos cosas —que solo se conecta con elementos cercanos y que usa los mismos pesos sin importar la posición— puede manejar imágenes con muchísimos menos parámetros que una capa totalmente conectada (全結合層). Como efecto secundario de esta reutilización, el objeto puede detectarse como la misma característica aparezca donde aparezca en la imagen. Conectarse con todas las unidades de la capa anterior describe una capa totalmente conectada, no tener pesos que aprender y tomar un valor representativo describe una capa de pooling, y realimentar el estado del instante anterior describe una capa recurrente. El resultado de pasar un filtro se llama mapa de características (特徴マップ), el ancho con el que se desplaza es el paso (stride, ストライド), y rellenar la zona circundante es el relleno (padding, パディング).

La normalización por lotes (バッチ正規化) es una capa de normalización que ajusta en conjunto los valores de un mismo canal dentro de un minilote para que tengan media 0 y varianza 1, lo que estabiliza y acelera el entrenamiento. Su punto débil es que, cuando el tamaño del minilote es pequeño, los estadísticos dejan de ser fiables. Ajustar en conjunto los valores de toda una capa dentro de una sola muestra es la normalización de capa (レイヤー正規化), que no se ve afectada por el tamaño del minilote y por eso se usa ampliamente en modelos que manejan secuencias. También existen la normalización de instancia y la normalización de grupo, y estas cuatro son las que figuran en las capas de normalización del temario. Tenga en cuenta que el nombre de este subtema cambió de capas de regularización a capas de normalización en la versión 1.1. La regularización L2, que usa la suma de los cuadrados de los pesos como penalización, y el dropout, que desactiva unidades, se clasifican en regularización, no en capas de normalización.

Una capa de pooling (agrupación, プーリング層) es una capa que reduce una región de tamaño fijo a un único valor representativo; existe el max pooling (最大値プーリング), que toma el valor máximo de una región, y el average pooling (平均値プーリング), que toma el promedio. No solo reduce la resolución y aligera el cálculo, sino que también hace que el valor representativo cambie poco aunque el objeto se desplace unos cuantos píxeles, lo que vuelve el modelo robusto frente a los desplazamientos de posición. Esto se llama adquisición de invariancia (不変性の獲得). El global average pooling (GAP), que promedia todo un mapa de características en un solo valor, puede reducir mucho el número de parámetros si se usa en lugar de apilar una capa totalmente conectada al final. Que una capa de pooling no tenga pesos que aprender también es una diferencia con respecto a una capa convolucional. Saltar capas para sumar es una conexión de salto (スキップ結合), alinear la distribución es una capa de normalización, y comprimir y luego reconstruir es un autocodificador.

Una conexión de salto (skip connection, スキップ結合) es un cableado que suma la entrada, sin cambios, a la salida de una capa situada varias capas más adelante, saltándose las capas intermedias. Durante la retropropagación, el gradiente llega al lado de la entrada no solo por el camino largo que atraviesa muchas capas, sino también por el camino corto del salto, de modo que es menos probable que el gradiente se desvanezca aunque se apilen muchas capas. El ejemplo representativo que adoptó esta idea e hizo realidad profundidades de más de 100 capas es ResNet, y en el temario la única palabra clave situada en el subtema de conexiones de salto es ResNet. Desactivar unidades al azar es el dropout, y alinear la distribución de cada capa es una capa de normalización; ambos son mecanismos distintos de la conexión de salto. Una conexión de salto tampoco es una forma de reducir el número de pesos.

LSTM tiene una vía de memoria llamada CEC que almacena información, y controla lo que entra y sale de ella con tres puertas: la puerta de entrada (入力ゲート), que decide qué escribir; la puerta de olvido (忘却ゲート), que decide qué descartar; y la puerta de salida (出力ゲート), que decide qué enviar fuera. Este mecanismo permite conservar dependencias de largo alcance y alivió en gran medida el problema del desvanecimiento del gradiente de las redes neuronales recurrentes. GRU es una simplificación de LSTM, con solo dos puertas: la puerta de reinicio (リセットゲート) y la puerta de actualización (更新ゲート). Tiene menos parámetros y es más ligera de calcular, pero no siempre rinde más que LSTM. Que el número de puertas sea 3 y 2, y que CEC sea un término del lado de LSTM, es la distinción que se pregunta una y otra vez.

Una red de Jordan (ジョルダンネットワーク) es un tipo de red neuronal recurrente que realimenta la salida de la capa de salida en la capa oculta del instante siguiente, como su entrada. En cambio, realimentar la salida de la capa oculta en la capa oculta del instante siguiente es una red de Elman (エルマンネットワーク), y la diferencia entre ambas está en qué se realimenta. Las dos son estructuras para manejar datos de series temporales en orden, y su entrenamiento usa BPTT, que despliega la red en la dirección del tiempo y luego aplica la retropropagación. En secuencias largas, el problema del desvanecimiento del gradiente y el de la explosión del gradiente se manifiestan con fuerza, por lo que se usan LSTM y GRU, que tienen mecanismos de puertas. Saltar capas para sumar es una conexión de salto, que no tiene que ver con la dirección del tiempo.

Attention (mecanismo de atención) es un mecanismo que calcula, en forma de pesos, en qué parte de la entrada se debe poner la atención, y se expresa mediante una consulta (query), una clave (key) y un valor (value) (クエリ・キー・バリュー). Entre los mecanismos de Attention, Source-Target Attention calcula la intensidad de la relación entre dos secuencias distintas, en situaciones como la traducción, donde la secuencia de entrada y la de salida son diferentes. Calcular la relación entre elementos dentro de una misma secuencia es, en cambio, Self-Attention, que es el componente central del Transformer. Añadir una señal propia de cada posición para dar el orden de las palabras es la codificación posicional (位置エンコーディング), y ejecutar en paralelo varias formas de prestar atención y combinar los resultados es Multi-Head Attention; ambos son componentes distintos que forman un Transformer.

El Transformer es un modelo de secuencias construido principalmente con Attention, sin conexiones recurrentes (回帰結合). Como no necesita esperar al cálculo del instante anterior, puede procesar toda una secuencia en paralelo y captar directamente, en un solo cálculo, las relaciones entre palabras alejadas. Sin embargo, procesar en paralelo borra la información del orden de las palabras, por lo que se usa la codificación posicional (位置エンコーディング), que añade una señal propia de cada posición, para dar el orden de las palabras. El punto que suele confundir es que el Transformer no es un tipo de red neuronal recurrente. Apilar conexiones recurrentes para ir pasando el estado del instante anterior describe una RNN, apilar convolución y pooling describe una CNN, y comprimir y luego reconstruir describe un autocodificador.

Un autocodificador variacional (VAE, 変分オートエンコーダ) aprende la representación comprimida no como un único punto, sino como una distribución de probabilidad. Tomar una muestra de un valor de esa distribución y reconstruirlo permite crear datos nuevos que no estaban en los datos de entrenamiento, por lo que se trata como un modelo generativo (生成モデル). Comprimir a una dimensión baja y luego reconstruir, y poder entrenar sin etiquetas de respuesta correcta, son propiedades que comparte también un autocodificador ordinario, no rasgos exclusivos del VAE. Entrenar cada capa de una en una, en secuencia, para crear los valores iniciales de una red profunda es el preentrenamiento mediante un autocodificador apilado (積層オートエンコーダ). El temario también incluye VQ-VAE, info VAE y β-VAE en el mismo subtema.

Mixup es un método de aumento de datos (データ拡張) que superpone dos imágenes en cierta proporción y mezcla sus etiquetas de respuesta correcta en la misma proporción para crear nuevos datos de entrenamiento. CutMix, de nombre parecido, no superpone imágenes, sino que recorta partes de dos imágenes y las pega en una sola. Tapar una parte de la imagen con un rectángulo sólido es Cutout o Random Erasing, voltearla horizontalmente es Random Flip, y recortar una parte es Crop. También existen Rotate, que gira la imagen; Brightness, que cambia el brillo; Contrast, que cambia el contraste; y RandAugment, que decide automáticamente qué transformaciones aplicar y en qué medida; y para texto se mencionan paraphrasing y noising. En todos los casos, es importante no elegir una transformación que destruya el significado.

GoogLeNet es un modelo que usó un módulo Inception (Inceptionモジュール), que aplica en paralelo filtros de distintos tamaños y combina los resultados, logrando una configuración profunda sin aumentar mucho el número de parámetros. VGG adoptó una configuración sencilla y profunda apilando solo convoluciones pequeñas de 3 por 3, y quedó entre los primeros puestos del mismo ILSVRC de 2014 que GoogLeNet. ResNet hizo posibles profundidades de más de 100 capas con conexiones de salto (スキップ結合) que saltan capas, y AlexNet ganó el ILSVRC de 2012 combinando la función ReLU, el dropout y el entrenamiento con GPU. Después, esta línea se amplió a Wide ResNet, DenseNet, SENet, EfficientNet, MobileNet y otros, y también se incluye el Vision Transformer, que incorpora la idea del Transformer en lugar de la convolución.

YOLO y SSD son modelos de detección de objetos (物体検出) de una etapa que realizan juntas la extracción de regiones candidatas y la determinación de la clase en una sola pasada de inferencia, y su punto fuerte es la velocidad. En cambio, la línea que empieza con R-CNN y se desarrolló con Fast R-CNN y Faster R-CNN es un enfoque de dos etapas que primero propone regiones candidatas y luego las clasifica; es más lento, pero tiende a lograr mayor precisión. Asignar una clase a cada píxel es la segmentación semántica (セマンティックセグメンテーション), de la que FCN, SegNet, U-Net, PSPNet y DeepLab son ejemplos representativos. La segmentación de instancias (インスタンスセグメンテーション), que separa los objetos de una misma clase hasta el nivel de cada individuo, la realiza Mask R-CNN, y la estimación de postura (姿勢推定), que estima las posiciones de las articulaciones del cuerpo humano, tiene como representante a OpenPose.

BERT es un modelo de lenguaje que usa el codificador (エンコーダ) del Transformer, y su rasgo distintivo es que se preentrena observando el contexto en ambas direcciones de una oración, antes y después. Popularizó el enfoque de preentrenar con una gran cantidad de texto y luego adaptar el modelo a tareas concretas. Apilar capas recurrentes y leer las palabras en orden, una tras otra, corresponde a un modelo que usa una red neuronal recurrente; el Transformer no tiene conexiones recurrentes. Asignar imágenes y descripciones al mismo espacio vectorial es CLIP, que en el temario se sitúa en multimodal. Recorrer a la inversa un proceso de adición de ruido para generar datos es un Diffusion Model, que pertenece al subtema de generación de datos.

CBOW se entrena para predecir la palabra central a partir de las palabras que aparecen a su alrededor. Lo inverso —entrenar para predecir las palabras circundantes a partir de la palabra central— es skip-gram (スキップグラム), y como la dirección es la contraria, tenga cuidado de no confundirlos. Ambos son métodos de word2vec, y su propósito es obtener una representación distribuida (分散表現), que expresa las palabras como vectores densos. Un vector one-hot (ワンホットベクトル), que asigna una dimensión a cada palabra, tiene tantas dimensiones como el tamaño del vocabulario y no puede expresar la cercanía entre palabras, mientras que en una representación distribuida las palabras de significado similar se sitúan cerca unas de otras en el espacio vectorial. Predecir si una oración es positiva o negativa es la tarea aplicada del análisis de sentimientos, no una cuestión de cómo se entrenan las representaciones de las palabras.

RLHF es un método que construye un modelo de recompensa (報酬モデル) a partir de las valoraciones de preferencia dadas por humanos y luego lo usa como recompensa para ajustar el modelo mediante aprendizaje por refuerzo (強化学習). Es conocido por el ajuste de modelos de lenguaje, pero un punto sorprendente que conviene recordar es que en el temario se sitúa en el subtema de aprendizaje profundo por refuerzo (深層強化学習), no en el de procesamiento del lenguaje natural. DQN es un método representativo de aprendizaje profundo por refuerzo que aproxima la función de valor de acción con una red neuronal, PPO es un método de entrenamiento de políticas que estabiliza el aprendizaje limitando el tamaño de las actualizaciones de la política, y A3C es un método que ejecuta varios entornos en paralelo para hacer avanzar el entrenamiento. En el mismo subtema figuran también Double DQN, las redes dueling, Rainbow, Ape-X y Agent57.

Un Diffusion Model (modelo de difusión) es un modelo generativo que recorre a la inversa un proceso de adición gradual de ruido a los datos, creando los datos objetivo a partir del ruido. Su mecanismo es completamente distinto del de una red generativa antagónica (GAN, 敵対的生成ネットワーク), que se entrena haciendo competir dos redes entre sí, por lo que no es un tipo de GAN. DCGAN, CycleGAN y Pix2Pix derivan de GAN. Aprender la apariencia tridimensional a partir de fotos tomadas desde varios puntos de vista es NeRF, y aprender la representación comprimida como una distribución de probabilidad es el autocodificador variacional (VAE, 変分オートエンコーダ). Conviene tener presente que GAN, VAE y el Diffusion Model son líneas distintas que se sitúan en paralelo.

El aprendizaje por transferencia (転移学習) es un método que mantiene fija la parte de extracción de características de un modelo preentrenado y entrena principalmente solo la zona de la capa de salida con la nueva tarea. El ajuste fino (fine-tuning, ファインチューニング) reentrena todo el conjunto de pesos, o un rango amplio de ellos, con los nuevos datos; requiere más datos y más cálculo, pero suele rendir mejor cuando el dominio objetivo difiere mucho de los datos de preentrenamiento. Con el ajuste fino puede producirse el olvido catastrófico (破滅的忘却), en el que se pierden las capacidades que tenía el modelo original. Ambos métodos presuponen un modelo preentrenado; ninguno entrena desde cero. Tampoco la elección entre ellos depende del tipo de datos que se manejan.

Un modelo fundacional (基盤モデル) es un modelo de gran tamaño preentrenado con una gran cantidad de datos que puede reutilizarse para diversas tareas posteriores; en el temario se sitúa en el punto 32, multimodal (マルチモーダル), junto a CLIP, DALL-E, Flamingo, Unified-IO y zero-shot. Los términos relacionados con la IA generativa están dispersos en su ubicación: el modelo de lenguaje de gran tamaño (LLM) está incluido en el punto 27, procesamiento del lenguaje natural, y RLHF en el punto 29, aprendizaje profundo por refuerzo. Lo que figura junto al punto 31, aprendizaje por transferencia y ajuste fino, es few-shot, one-shot, el aprendizaje autosupervisado, los modelos preentrenados, el olvido catastrófico y similares. Tener claro en qué subtema se sitúa cada término facilita captar la forma general del ámbito del examen.

SHAP es un método que toma prestadas ideas de la teoría de juegos cooperativos (協力ゲーム理論) para repartir de forma equitativa y mostrar la contribución de cada característica a una predicción. Mostrar en qué parte de la imagen se fijó el modelo para tomar su decisión, en una forma similar a un mapa de calor, es CAM o Grad-CAM; intercambiar deliberadamente los valores de una característica y medir la importancia según cuánto cae la precisión es Permutation Importance; y ajustar un modelo sencillo en las proximidades de una predicción concreta y explicar usando sus coeficientes es LIME. Todos ellos están incluidos en el punto 33, interpretabilidad de modelos (モデルの解釈性), del temario, y el esfuerzo por presentar el fundamento de una decisión en una forma que las personas puedan entender se denomina en conjunto IA explicable (XAI, 説明可能AI).

La hipótesis del billete de lotería (宝くじ仮説) es la hipótesis de que una red grande contiene una subred ganadora que, si se extrae y se entrena por sí sola, alcanza un rendimiento igual al del conjunto. Se cita como trasfondo para explicar por qué funciona bien la poda (pruning, プルーニング), que elimina conexiones y capas de poca contribución. Hacer que un modelo pequeño aprenda de la salida de un gran modelo maestro es la destilación (蒸留), y reducir la precisión de los números que representan los pesos es la cuantización (量子化); junto con la poda, estos tres constituyen los métodos de aligeramiento del temario, denominados en conjunto compresión de modelos (モデル圧縮). Que la cantidad de datos de entrenamiento necesaria aumente bruscamente es una cuestión de la maldición de la dimensionalidad. Un caso típico en el que se necesita el aligeramiento es la IA en el borde (edge AI, エッジAI), que ejecuta la inferencia en el propio dispositivo.