Variantes de Arquiteturas de Redes Neurais Recorrentes Ppt

Slide 1

Este slide descreve três variantes de arquiteturas de Redes Neurais Recorrentes. Isso inclui redes neurais recorrentes bidirecionais, memória de longo prazo e unidades recorrentes fechadas.

Slide 2

Este slide fala sobre Rede Neural Recorrente Bidirecional como uma arquitetura. As RNNs bidirecionais extraem dados futuros para aumentar a precisão, enquanto as RNNs unidirecionais só podem usar entradas anteriores para criar previsões sobre o estado atual.

Slide 3

Este slide fornece informações sobre a memória de longo prazo como uma arquitetura. LSTM é um conhecido projeto de RNN desenvolvido por Sepp Hochreiter e Juergen Schmidhuber para resolver o problema do gradiente de fuga.

Notas do instrutor: Nas camadas profundas da rede neural, os LSTMs têm "células" com três portões: portão de entrada, portão de saída e portão de esquecimento. Essas portas regulam o fluxo de dados necessários para prever a saída da rede.

Slide 4

Este slide fala sobre Gated Recurrent Units como uma arquitetura. Esta versão RNN é semelhante aos LSTMs porque também funciona para resolver o problema de memória de curto prazo dos modelos RNN. Ele emprega estados ocultos em vez de "estados de célula" para controlar as informações e, em vez de três portas, possui apenas duas - uma porta de redefinição e uma porta de atualização.