Métodos e aplicações do aprendizado profundo

O perceptron simples (単純パーセプトロン) é a rede neural mais simples, composta apenas por uma camada de entrada e uma camada de saída, e só consegue resolver problemas linearmente separáveis (線形分離可能), isto é, que podem ser divididos por uma única linha reta. No OU exclusivo (XOR), os pontos em que a saída é 1 e os pontos em que ela é 0 se alternam na diagonal, de modo que nenhuma linha reta consegue separá-los, e o perceptron simples não consegue representá-lo. Um perceptron multicamadas (多層パーセプトロン), que acrescenta uma camada oculta para que a fronteira possa ser dobrada, consegue representar o XOR, e a alternativa D descreve esse perceptron multicamadas. Realimentar o estado do instante anterior para tratar sequências é a descrição de uma rede neural recorrente, e deslizar um filtro para extrair características locais é a descrição de uma camada convolucional.

O treinamento em aprendizado profundo é um cálculo que repete multiplicações e somas de matrizes e vetores um número enorme de vezes. Uma GPU tem uma grande quantidade de pequenos núcleos que fazem operações simples e é apropriada para executar o mesmo cálculo em paralelo, todos de uma vez, por isso combina bem com esse tipo de cálculo. Executar rapidamente, em sequência, processamentos com muitas ramificações usando poucos núcleos potentes é o ponto forte da CPU, que não tem muitos núcleos. A vantagem da GPU é o grau de paralelismo (並列度), não a capacidade de armazenamento. Não é fato que ela tenha um circuito dedicado à regra da cadeia, e é a TPU que foi projetada especificamente para as operações tensoriais do aprendizado profundo.

O problema do desaparecimento do gradiente (勾配消失問題) é um fenômeno em que o gradiente se aproxima de 0 durante a retropropagação, de modo que as camadas do lado da entrada deixam de aprender. Como o valor máximo da derivada da função sigmoide (シグモイド関数) é de apenas 0.25, um número igual ou menor que 0.25 é multiplicado a cada vez que se volta uma camada, e em uma rede profunda quase nada do gradiente resta. O que importa não é o valor da saída em si, mas o tamanho de sua derivada. O gradiente se tornar 0 para entradas negativas, interrompendo o aprendizado, é um ponto fraco da função ReLU, e a função Leaky ReLU trata disso. Normalizar para que a soma das saídas seja 1 é o que faz a função softmax.

A função ReLU (ReLU関数) é uma função simples que retorna o valor da entrada sem alteração se ele for positivo e retorna 0 se ele for negativo. Na região positiva, a derivada é sempre 1, então o gradiente não diminui mesmo ao voltar pelas camadas, o que alivia bastante o problema do desaparecimento do gradiente (勾配消失問題). Porém, na região negativa a derivada é 0, então uma unidade que cai no lado negativo pode deixar de aprender, e para isso foi criada a função Leaky ReLU, que dá uma leve inclinação ao lado negativo. A curva em forma de S que comprime no intervalo de 0 a 1 descreve a função sigmoide, a forma no intervalo de -1 a 1 simétrica em relação à origem descreve a função tanh, e normalizar para que a soma das saídas seja 1 descreve a função softmax.

Como a função ReLU tem saída e derivada iguais a 0 na região negativa, se a entrada de uma unidade permanecer negativa o tempo todo, nenhum gradiente passa por ela e essa unidade nunca mais aprende. A função Leaky ReLU (Leaky ReLU関数) dá uma leve inclinação também ao lado negativo, evitando esse beco sem saída. Ter gradiente 1 na região positiva é uma vantagem da função ReLU, não uma desvantagem, e é justamente essa propriedade que evita o desaparecimento do gradiente (勾配消失). É natural que, em uma função de ativação (活性化関数), a soma das saídas não seja 1, e a função softmax é usada na camada de saída cujas saídas devem ser lidas como probabilidades. São a função sigmoide e a função tanh que incluem uma função exponencial no cálculo; a função ReLU, pelo contrário, é leve de calcular.

A função softmax (ソフトマックス関数) normaliza o conjunto inteiro para que a soma das saídas seja exatamente 1, por isso é colocada na camada de saída de uma classificação multiclasse (多クラス分類), em que há três ou mais classes, e suas saídas são lidas como a probabilidade de pertencer a cada classe. Combiná-la com a entropia cruzada (交差エントロピー) como função de perda é o padrão básico. É a função sigmoide que é colocada na camada de saída de uma classificação binária para emitir uma probabilidade, e são a função ReLU e a função tanh que são amplamente usadas como função de ativação das camadas ocultas. Na regressão, a camada de saída emite o valor sem alteração, e a função de erro quadrático médio é usada como função de perda.

Como a regressão é um problema de prever um valor contínuo, a função de erro quadrático médio (平均二乗誤差関数), que eleva diretamente ao quadrado e tira a média da diferença entre a previsão e o valor verdadeiro, é a escolha natural. A entropia cruzada (交差エントロピー) é uma função que mede a diferença entre distribuições de probabilidade e é usada em problemas de classificação; na classificação multiclasse, a forma básica é combiná-la com a função softmax na camada de saída. A Triplet Loss aprende a relação de distância em um trio formado por uma âncora, um exemplo positivo e um exemplo negativo, e a Contrastive Loss aprende, usando a distância, se dois dados são iguais; ambas são funções de perda para obter uma representação que mede a semelhança. Escolher a função de perda (誤差関数) de acordo com a tarefa é o objetivo deste tópico intermediário.

A Triplet Loss é uma função de perda (誤差関数) que usa um trio formado por um dado âncora, um dado do mesmo tipo (exemplo positivo, 正例) e um dado de tipo diferente (exemplo negativo, 負例), e treina o modelo para que a distância entre a âncora e o exemplo positivo fique menor do que a distância entre a âncora e o exemplo negativo. É usada para construir um espaço que representa a semelhança por meio da distância. Medir a diferença entre duas distribuições de probabilidade é a divergência de Kullback-Leibler (divergência KL, カルバック・ライブラー情報量); elevar ao quadrado e tirar a média da diferença entre a previsão e o valor verdadeiro é a função de erro quadrático médio; e medir a diferença entre distribuições de probabilidade e ser amplamente usada em classificação é a entropia cruzada. Observe que a Contrastive Loss, que treina com um par de dados se eles são iguais ou não, também está incluída no mesmo tópico intermediário.

A retropropagação (誤差逆伝播法) é um método que usa a regra da cadeia (連鎖律), que decompõe a derivada de uma função composta em um produto das derivadas de suas partes, para encontrar de forma eficiente o gradiente de cada peso enquanto volta do lado da saída para o lado da entrada. O que se encontra aqui é estritamente o gradiente; é tarefa da descida do gradiente (勾配降下法) mover de fato os pesos usando esse gradiente. Seria impreciso afirmar categoricamente que a retropropagação atualiza os pesos, por isso é preciso atenção aqui. Mover os pesos com números aleatórios e adotar uma boa direção é a ideia por trás de métodos de busca que não usam gradientes, e avançar o cálculo do lado da entrada para o lado da saída é o procedimento da propagação direta (順伝播), ou seja, da inferência.

O problema de atribuição de crédito (信用割当問題) é a questão de quanto do erro que aparece na saída deve ser atribuído a qual unidade de qual camada ao longo do caminho. Considera-se que a retropropagação (誤差逆伝播法) tornou essa atribuição calculável por meio da regra da cadeia. O problema do desaparecimento do gradiente (勾配消失問題) é um fenômeno em que o gradiente se aproxima de 0 enquanto se volta pelas camadas e as camadas do lado da entrada deixam de aprender; o problema da explosão do gradiente (勾配爆発問題) é o fenômeno oposto, em que o gradiente fica grande demais e diverge — ambos são problemas que surgem ao aplicar a retropropagação. A maldição da dimensionalidade (次元の呪い) é o fenômeno em que a quantidade de dados necessária aumenta bruscamente à medida que cresce o número de dimensões das características, e no programa (syllabus) ela está colocada no tópico intermediário de aprendizado de máquina.

A regularização L1 (L1正則化) é uma forma de regularização que adiciona a soma dos valores absolutos dos pesos como penalidade à função de perda, e tende a empurrar os pesos até exatamente 0. Como resultado, os coeficientes das características não usadas se tornam 0 e são descartados automaticamente, produzindo um efeito de seleção de características. Esse estado é chamado de esparso (スパース). Usar a soma dos quadrados dos pesos como penalidade é a regularização L2, que mantém os valores pequenos e uniformes, mas raramente os leva a exatamente 0. Desativar aleatoriamente unidades durante o treinamento é o dropout, e interromper o treinamento quando o erro de validação começa a piorar é a parada antecipada (早期終了) — ambos tratam do sobreajuste (過学習), mas por mecanismos diferentes.

A regressão ridge (リッジ回帰) é um método que combina a regressão linear com a regularização L2 (L2正則化). Como a soma dos quadrados dos pesos é adicionada como penalidade, os coeficientes como um todo são mantidos pequenos, o que evita o sobreajuste. A regressão linear combinada com a regularização L1 é a regressão lasso (ラッソ回帰), que tende a levar os coeficientes a exatamente 0 e produz uma solução esparsa. A correspondência entre L1 e lasso, e entre L2 e ridge, é fácil de confundir, por isso memorize-as sempre em pares. A regularização L0 é a ideia de usar o próprio número de pesos diferentes de zero como penalidade; como uma contagem não pode ser derivada, é difícil incorporá-la ao treinamento baseado em gradiente. O dropout é um método de regularização para redes neurais.

O dropout (ドロップアウト) é um método que desativa aleatoriamente uma proporção fixa das unidades de uma camada oculta a cada passo de treinamento. Como o treinamento é feito, a cada vez, em uma rede com formato ligeiramente diferente, o modelo não pode mais depender totalmente de uma combinação específica de unidades, produzindo um efeito semelhante ao de tirar a média de muitos modelos. As unidades são desativadas apenas durante o treinamento; na inferência, todas as unidades são usadas. Apesar do nome parecido, no programa o dropout está classificado no item 14, regularização (正則化), e não no item 19, camadas de normalização (正規化層). Ajustar a distribuição dentro de um mini-batch é a normalização em lote (バッチ正規化), aumentar artificialmente os dados é o aumento de dados (データ拡張), e interromper ao piorar o erro é a parada antecipada (早期終了).

O treinamento com mini-batch (ミニバッチ学習) é uma abordagem que divide os dados de treinamento em blocos de algumas dezenas a algumas centenas de exemplos e, para cada bloco, calcula o gradiente e atualiza os pesos. Tem uma propriedade intermediária: o gradiente de cada passo não é tão instável quanto no aprendizado online (オンライン学習), que atualiza um exemplo por vez, e o cálculo não é tão pesado quanto no treinamento em lote (バッチ学習), que atualiza apenas uma vez usando todos os dados; por isso, na prática, ele responde pela maior parte dos treinamentos. A descida do gradiente estocástica (SGD) calcula o gradiente com apenas parte dos dados, e essa flutuação tem a vantagem de facilitar a saída de pontos de sela e de ótimos locais rasos. Não atualizar os pesos não é treinamento, mas simples inferência.

Uma época (エポック) significa percorrer todo o conjunto de treinamento uma vez, e uma iteração (イテレーション) significa atualizar os pesos uma vez. As duas estão ligadas pelo tamanho do mini-batch: o número de iterações por época é igual ao número de exemplos dividido pelo tamanho do mini-batch. Por exemplo, processar 3,000 exemplos com tamanho de lote 50 faz com que uma época equivalha a 60 iterações. Aumentar o tamanho do mini-batch estabiliza cada gradiente, mas reduz o número de atualizações por época, enquanto diminuí-lo aumenta o número de atualizações, mas também a flutuação. Tanto o tamanho do mini-batch quanto a taxa de aprendizado são hiperparâmetros (ハイパーパラメータ) definidos previamente por uma pessoa, e são conceitos distintos de época e iteração.

Um ponto de sela (鞍点) é um ponto que parece o fundo de um vale visto de uma direção, mas parece o topo de uma montanha visto de outra, e recebe esse nome por se parecer com o formato de uma sela de cavalo. No aprendizado profundo, em que o número de parâmetros é muito grande, considera-se mais provável ficar preso em um ponto de sela do que chegar a um ótimo local que seja ao mesmo tempo o fundo de um vale em todas as direções. O ponto em que o erro é o menor em todo o intervalo é o ótimo global (大域最適解), e o ponto que é o menor apenas em sua vizinhança é um ótimo local (局所最適解). Como a descida do gradiente estocástica (SGD) tem flutuação no gradiente, ela consegue sair com mais facilidade de uma estagnação como essa.

O Adam é um método de otimização (最適化手法) que combina a ideia do momento (モーメンタム), que soma a atualização anterior como inércia, com a ideia do RMSprop, que ajusta automaticamente a taxa de aprendizado (学習率) para cada parâmetro, e é amplamente usado como escolha padrão na prática. A linhagem de adaptação da taxa de aprendizado começa com o AdaGrad; o AdaGrad reduz mais a taxa de aprendizado para os parâmetros que tiveram atualizações maiores, mas continua reduzindo-a indefinidamente, então o RMSprop atenuou isso com uma média móvel exponencial. A mesma linhagem inclui também AdaDelta, AdaBound e AMSBound. Penalidades sobre os pesos são assunto de regularização, e a busca em grade e a busca aleatória são assunto de busca de hiperparâmetros — nenhuma delas trata da regra de atualização em si.

O teorema No Free Lunch (ノーフリーランチの定理) afirma que, na média sobre todos os problemas concebíveis, nenhum algoritmo universal supera todos os outros. Consequentemente, a escolha do método precisa ser considerada caso a caso, e não existe uma resposta única que sempre funcione. Aumentar um modelo e fazer o erro piorar uma vez antes de cair novamente é a descida dupla (二重降下現象), que também está incluída no mesmo tópico intermediário. A quantidade de dados necessária aumentar bruscamente à medida que crescem as dimensões das características é a maldição da dimensionalidade (次元の呪い). Não há garantia de que continuar reduzindo a taxa de aprendizado leve ao ótimo global, pois o treinamento pode ficar preso em um ótimo local ou em um ponto de sela.

A busca aleatória (ランダムサーチ) é um método que escolhe aleatoriamente pontos dentro do intervalo de busca dos hiperparâmetros e os testa. Ao contrário da busca em grade (グリッドサーチ), que organiza os candidatos em uma grade e testa exaustivamente todas as combinações, ela tem menos chance de desperdiçar tentativas em hiperparâmetros que pouco influenciam, e consegue explorar com mais detalhe os eixos que importam com o mesmo número de tentativas. Valores definidos previamente por uma pessoa, como a taxa de aprendizado, o tamanho do mini-batch e o número de camadas, são hiperparâmetros (ハイパーパラメータ). Interromper o treinamento quando o erro de validação piora é a parada antecipada, e desativar aleatoriamente unidades durante o treinamento é o dropout — nenhum dos dois é um método de busca.

A descida dupla (二重降下現象) é um fenômeno em que, à medida que se aumenta o tamanho de um modelo ou a quantidade de treinamento, o erro de validação piora uma vez e, se o aumento continuar, começa a diminuir novamente. O nome vem do fato de a curva de erro descer duas vezes. Isso contraria a intuição ingênua de que um modelo maior sofre mais sobreajuste e fica pior, mas está incluído nos métodos de otimização do programa como um dos referenciais que explicam a experiência recente de que modelos maiores às vezes dão resultados melhores. O problema de atribuição de crédito é a questão de a qual unidade deve ser atribuída a responsabilidade pelo erro, o problema da explosão do gradiente é o fenômeno em que o gradiente diverge durante a retropropagação, e a aquisição de invariância (不変性の獲得) é o papel das camadas de pooling.

Uma camada convolucional (畳み込み層) extrai características locais deslizando um pequeno filtro sobre a entrada enquanto reutiliza os mesmos pesos. Por causa de duas coisas — conectar-se apenas a elementos próximos e usar os mesmos pesos independentemente da posição —, ela consegue tratar imagens com muito menos parâmetros do que uma camada totalmente conectada (全結合層). Como efeito colateral dessa reutilização, o objeto pode ser captado como a mesma característica não importa onde apareça na imagem. Conectar-se a todas as unidades da camada anterior descreve uma camada totalmente conectada, não ter pesos a aprender e tomar um valor representativo descreve uma camada de pooling, e realimentar o estado do instante anterior descreve uma camada recorrente. O resultado de passar um filtro é chamado de mapa de características (特徴マップ), a largura do deslocamento é o stride (ストライド), e preencher a área ao redor é o padding (パディング).

A normalização em lote (バッチ正規化) é uma camada de normalização (正規化層) que ajusta em conjunto os valores do mesmo canal dentro de um mini-batch para terem média 0 e variância 1, estabilizando e acelerando o treinamento. Seu ponto fraco é que, quando o tamanho do mini-batch é pequeno, as estatísticas deixam de ser confiáveis. Ajustar em conjunto os valores de uma camada inteira dentro de uma única amostra é a normalização de camada (レイヤー正規化), que não é afetada pelo tamanho do mini-batch e por isso é muito usada em modelos que tratam sequências. Há também a normalização de instância e a normalização de grupo, e essas quatro são as listadas nas camadas de normalização do programa. Observe que o nome deste tópico intermediário mudou de camadas de regularização para camadas de normalização na versão 1.1. A regularização L2, que usa a soma dos quadrados dos pesos como penalidade, e o dropout, que desativa unidades, são classificados em regularização, e não em camadas de normalização.

Uma camada de pooling (プーリング層) é uma camada que reduz uma região de tamanho fixo a um único valor representativo; há o max pooling (最大値プーリング), que toma o valor máximo da região, e o average pooling (平均値プーリング), que toma a média. Ela não apenas reduz a resolução e alivia o cálculo, mas também faz com que o valor representativo dificilmente mude mesmo que o objeto se desloque alguns pixels, tornando o modelo robusto a deslocamentos de posição. Isso é chamado de aquisição de invariância (不変性の獲得). O global average pooling (GAP), que tira a média de um mapa de características inteiro em um único valor, consegue reduzir bastante o número de parâmetros quando usado em vez de empilhar uma camada totalmente conectada no final. Não ter pesos a aprender também é uma diferença entre a camada de pooling e a camada convolucional. Saltar camadas para somar é a conexão residual (skip connection), alinhar a distribuição é a camada de normalização, e comprimir e depois reconstruir é o autoencoder.

Uma conexão residual (スキップ結合, skip connection) é uma ligação que soma a entrada, sem alteração, à saída de uma camada várias camadas adiante, saltando as camadas intermediárias. Durante a retropropagação, o gradiente chega ao lado da entrada não só pelo caminho longo que passa por muitas camadas, mas também pelo caminho curto do salto, por isso o gradiente tem menos chance de desaparecer mesmo com muitas camadas empilhadas. O exemplo representativo que adotou essa ideia e tornou realidade profundidades acima de 100 camadas é a ResNet, e no programa a única palavra-chave colocada no tópico intermediário de conexões residuais é ResNet. Desativar aleatoriamente unidades é o dropout, e alinhar a distribuição de cada camada é a camada de normalização — ambos são mecanismos distintos da conexão residual. A conexão residual também não é uma forma de reduzir o número de pesos.

A LSTM tem um caminho de memória chamado CEC, que armazena informações, e controla o que entra e sai dele com três portas: a porta de entrada (入力ゲート), que decide o que gravar; a porta de esquecimento (忘却ゲート), que decide o que descartar; e a porta de saída (出力ゲート), que decide o que enviar para fora. Esse mecanismo torna possível preservar dependências de longo alcance, e aliviou bastante o problema do desaparecimento do gradiente das redes neurais recorrentes (リカレントニューラルネットワーク). A GRU é uma simplificação da LSTM, com apenas duas portas, a porta de reset (リセットゲート) e a porta de atualização (更新ゲート). Tem menos parâmetros e é mais leve de calcular, mas nem sempre tem desempenho superior ao da LSTM. O fato de os números de portas serem 3 e 2, e de CEC ser um termo do lado da LSTM, é a distinção cobrada repetidamente.

Uma rede de Jordan (ジョルダンネットワーク) é um tipo de rede neural recorrente que realimenta a saída da camada de saída na camada oculta do instante seguinte, como sua entrada. Em contrapartida, realimentar a saída da camada oculta na camada oculta do instante seguinte é a rede de Elman (エルマンネットワーク), e a diferença entre as duas está no que é realimentado. Ambas são estruturas para tratar dados de séries temporais na ordem, e seu treinamento usa o BPTT, que desdobra a rede na direção do tempo e depois aplica a retropropagação. Em sequências longas, o problema do desaparecimento do gradiente e o problema da explosão do gradiente aparecem com força, por isso são usadas a LSTM e a GRU, que têm mecanismos de portas. Saltar camadas para somar é a conexão residual, que não tem a ver com a direção do tempo.

A Attention é um mecanismo que calcula, na forma de pesos, a que parte da entrada se deve prestar atenção, e é expressa usando uma consulta (query), uma chave (key) e um valor (value) (クエリ・キー・バリュー). Entre os mecanismos de Attention, a Source-Target Attention calcula a força da relação entre duas sequências distintas, em um cenário como a tradução, em que a sequência de entrada e a sequência de saída são separadas. Calcular a relação entre elementos dentro da mesma sequência é, por sua vez, a Self-Attention, que é o componente central do Transformer. Somar um sinal próprio de cada posição para dar a ordem das palavras é a codificação posicional (位置エンコーディング), e executar várias formas de prestar atenção em paralelo e combinar os resultados é a Multi-Head Attention — ambos são componentes distintos que formam o Transformer.

O Transformer é um modelo de sequências construído principalmente com Attention, sem conexões recorrentes (回帰結合). Como não precisa esperar o cálculo do instante anterior, consegue processar uma sequência inteira em paralelo, e consegue captar diretamente, em um único cálculo, as relações entre palavras distantes. Porém, processar em paralelo apaga a informação da ordem das palavras, por isso a codificação posicional (位置エンコーディング), que soma um sinal próprio de cada posição, é usada para dar a ordem das palavras. A pegadinha é que o Transformer não é um tipo de rede neural recorrente. Empilhar conexões recorrentes para passar adiante o estado do instante anterior descreve uma RNN, empilhar convolução e pooling descreve uma CNN, e comprimir e depois reconstruir descreve um autoencoder.

Um autoencoder variacional (変分オートエンコーダ, VAE) aprende a representação comprimida não como um único ponto, mas como uma distribuição de probabilidade. Amostrar um valor dessa distribuição e reconstruí-lo permite criar dados novos que não estavam nos dados de treinamento, por isso ele é tratado como um modelo generativo (生成モデル). Comprimir para uma dimensão baixa e depois reconstruir, e poder treinar sem rótulos de resposta correta, são propriedades compartilhadas também com o autoencoder comum, e não características exclusivas do VAE. Treinar cada camada, uma de cada vez, em sequência, para criar os valores iniciais de uma rede profunda é o pré-treinamento (事前学習) por meio de um autoencoder empilhado (積層オートエンコーダ). O programa também lista VQ-VAE, info VAE e β-VAE no mesmo tópico intermediário.

O Mixup é um método de aumento de dados (データ拡張) que sobrepõe duas imagens em uma certa proporção e mistura seus rótulos de resposta correta na mesma proporção para criar novos dados de treinamento. O CutMix, de nome parecido, não sobrepõe as imagens, mas recorta e cola partes de duas imagens em uma só. Pintar parte da imagem com um retângulo sólido é o Cutout ou o Random Erasing, espelhar horizontalmente é o Random Flip, e recortar parte dela é o Crop. Há também o Rotate, que gira a imagem, o Brightness, que muda o brilho, o Contrast, que muda o contraste, e o RandAugment, que decide automaticamente quais transformações aplicar e em que intensidade, e, para texto, são listados paraphrasing e noising. Em todos os casos, é importante não escolher uma transformação que destrua o significado.

A GoogLeNet é um modelo que usou um módulo Inception (Inceptionモジュール), que aplica filtros de tamanhos diferentes em paralelo e combina os resultados, alcançando uma configuração profunda mantendo baixo o número de parâmetros. A VGG adotou uma configuração simples e profunda empilhando apenas pequenas convoluções de 3 por 3, e ficou entre as primeiras colocadas no mesmo ILSVRC de 2014 que a GoogLeNet. A ResNet tornou possíveis profundidades acima de 100 camadas com conexões residuais (スキップ結合) que saltam camadas, e a AlexNet venceu o ILSVRC de 2012, combinando a função ReLU, o dropout e o treinamento em GPU. Depois disso, essa linhagem se expandiu para Wide ResNet, DenseNet, SENet, EfficientNet, MobileNet e outros, e o Vision Transformer, que traz a ideia do Transformer em vez da convolução, também está incluído.

YOLO e SSD são modelos de detecção de objetos (物体検出) em um estágio, que fazem a extração de regiões candidatas (候補領域) e a determinação da classe juntas, em uma única passagem de inferência, e seu ponto forte é a velocidade. Em contrapartida, a linhagem que começa com a R-CNN e se desenvolveu com a Fast R-CNN e a Faster R-CNN é uma abordagem em dois estágios, que primeiro propõe regiões candidatas e depois as classifica; é mais lenta, mas tende a alcançar maior precisão. Atribuir uma classe a cada pixel é a segmentação semântica (セマンティックセグメンテーション), da qual FCN, SegNet, U-Net, PSPNet e DeepLab são exemplos representativos. A segmentação de instâncias (インスタンスセグメンテーション), que separa objetos da mesma classe até o nível de cada indivíduo, é feita pela Mask R-CNN, e a estimativa de pose (姿勢推定), que estima as posições das articulações do corpo humano, tem o OpenPose como representante.

O BERT é um modelo de linguagem que usa o codificador (エンコーダ) do Transformer, e sua característica marcante é ser pré-treinado (事前学習) observando o contexto nas duas direções, antes e depois, em uma frase. Ele popularizou a abordagem de pré-treinar com uma grande quantidade de texto e depois adaptar o modelo a tarefas individuais. Empilhar camadas recorrentes e ler as palavras em ordem, uma após a outra, é um modelo que usa uma rede neural recorrente; o Transformer não tem conexões recorrentes. Associar imagens e legendas ao mesmo espaço vetorial é o CLIP, que no programa está colocado em multimodal. Percorrer ao contrário um processo de adição de ruído para gerar dados é o Diffusion Model, que fica no tópico intermediário de geração de dados.

O CBOW é treinado para prever a palavra central a partir das palavras que aparecem ao redor dela. O inverso — treinar para prever as palavras ao redor a partir da palavra central — é o skip-gram (スキップグラム), e como a direção é invertida, tome cuidado para não confundir os dois. Ambos são métodos do word2vec, e seu objetivo é obter uma representação distribuída (分散表現), que expressa as palavras como vetores densos. Um vetor one-hot (ワンホットベクトル), que atribui uma dimensão para cada palavra, tem tantas dimensões quanto o tamanho do vocabulário e não consegue expressar a proximidade entre palavras, enquanto, em uma representação distribuída, palavras de significado parecido ficam próximas no espaço vetorial. Prever se uma frase é positiva ou negativa é a tarefa aplicada de análise de sentimentos (感情分析), e não uma questão de como as representações de palavras são treinadas.

O RLHF é um método que constrói um modelo de recompensa (報酬モデル) a partir de avaliações de preferência dadas por pessoas e depois usa isso como recompensa para ajustar o modelo por meio de aprendizado por reforço (強化学習). É bem conhecido pelo ajuste de modelos de linguagem, mas um ponto surpreendente e que vale a pena lembrar é que, no programa, ele está colocado no tópico intermediário de aprendizado por reforço profundo (深層強化学習), e não no de processamento de linguagem natural. O DQN é um método representativo de aprendizado por reforço profundo que aproxima a função de valor de ação com uma rede neural, o PPO é um método de treinamento de política que estabiliza o aprendizado limitando o tamanho das atualizações da política, e o A3C é um método que executa vários ambientes em paralelo para avançar o treinamento. Double DQN, dueling networks, Rainbow, Ape-X e Agent57 também estão listados no mesmo tópico intermediário.

Um Diffusion Model (modelo de difusão) é um modelo generativo (生成モデル) que percorre ao contrário um processo de adição gradual de ruído aos dados, criando os dados desejados a partir do ruído. Seu mecanismo é totalmente diferente do de uma rede adversarial generativa (敵対的生成ネットワーク, GAN), que é treinada fazendo duas redes competirem entre si, então ele não é um tipo de GAN. DCGAN, CycleGAN e Pix2Pix são derivados da GAN. Aprender a aparência tridimensional a partir de fotos tiradas de vários pontos de vista é o NeRF, e aprender a representação comprimida como uma distribuição de probabilidade é o autoencoder variacional (VAE). Vale a pena ter em mente que GAN, VAE e Diffusion Model são linhagens distintas, colocadas lado a lado.

O aprendizado por transferência (転移学習) é um método que mantém fixa a parte de extração de características de um modelo pré-treinado e treina principalmente apenas a região próxima da camada de saída na nova tarefa. O ajuste fino (ファインチューニング) retreina todo o conjunto de pesos, ou uma faixa ampla deles, com os novos dados; exige mais dados e mais cálculo, mas tende a se sair melhor quando o domínio-alvo é muito diferente dos dados de pré-treinamento. No ajuste fino, pode ocorrer o esquecimento catastrófico (破滅的忘却), em que as capacidades do modelo original se perdem. Ambos os métodos pressupõem um modelo pré-treinado; nenhum dos dois treina do zero. Tampouco a escolha entre eles é determinada pelo tipo de dado tratado.

Um modelo de fundação (基盤モデル) é um modelo de grande escala pré-treinado com uma grande quantidade de dados e que pode ser reaproveitado para diversas tarefas posteriores (downstream); no programa, ele está colocado no item 32, multimodal (マルチモーダル), junto com CLIP, DALL-E, Flamingo, Unified-IO e zero-shot. Os termos relacionados à IA generativa estão espalhados: o grande modelo de linguagem (LLM) está incluído no item 27, processamento de linguagem natural, e o RLHF no item 29, aprendizado por reforço profundo. O que está listado no item 31, aprendizado por transferência e ajuste fino, são few-shot, one-shot, aprendizado autossupervisionado, modelos pré-treinados, esquecimento catastrófico e afins. Acompanhar em qual tópico intermediário cada termo está colocado facilita a compreensão do panorama geral do conteúdo cobrado.

O SHAP é um método que toma emprestadas ideias usadas na teoria dos jogos cooperativos (協力ゲーム理論) para distribuir de forma justa e mostrar a contribuição de cada característica para uma previsão. Mostrar em que parte da imagem o modelo olhou para tomar a decisão, em uma forma semelhante a um mapa de calor, é o CAM ou o Grad-CAM; trocar deliberadamente os valores de uma característica e medir a importância pelo quanto a precisão cai é a Permutation Importance; e ajustar um modelo simples perto de uma previsão individual e explicar usando seus coeficientes é o LIME. Todos eles estão incluídos no item 33, interpretabilidade de modelos (モデルの解釈性), do programa, e o esforço de apresentar a base de uma decisão em uma forma que as pessoas possam entender é chamado, em conjunto, de IA explicável (説明可能AI, XAI).

A hipótese do bilhete de loteria (宝くじ仮説) é a hipótese de que uma rede grande contém uma sub-rede premiada que, se for extraída e treinada sozinha, atinge desempenho igual ao do todo. Ela é citada como pano de fundo para explicar por que a poda (プルーニング, pruning), que remove conexões e camadas de pequena contribuição, funciona bem. Fazer um modelo pequeno aprender com a saída de um grande modelo professor é a destilação (蒸留), e reduzir a precisão dos números que representam os pesos é a quantização (量子化); junto com a poda, esses três formam os métodos de redução do tamanho de modelos (軽量化) do programa, chamados em conjunto de compressão de modelos (モデル圧縮). A quantidade de dados de treinamento necessária aumentar bruscamente é assunto da maldição da dimensionalidade. Um caso típico em que a redução de tamanho é necessária é a IA de borda (エッジAI), que executa a inferência no próprio dispositivo.