Compreendendo o treinamento de descida de gradiente Ppt

Slide 1

Este slide apresenta o conceito de gradiente descendente. Gradient Descent é um processo de otimização usado em algoritmos de aprendizado de máquina para minimizar a função de custo (o erro entre a saída real e a prevista). É usado principalmente para atualizar os parâmetros do modelo de aprendizagem.

Slide 2

Este slide lista os tipos de gradiente descendente. Isso inclui descida de gradiente em lote, descida de gradiente estocástico e descida de gradiente em minilote.

Notas do instrutor:

• Descida de Gradiente em Lote: A descida de gradiente em lote adiciona os erros para cada ponto em um conjunto de treinamento antes de atualizar o modelo após a revisão de todas as instâncias de treinamento. Este processo é conhecido como a Época de Treinamento. A descida do gradiente em lote geralmente fornece um gradiente de erro constante e convergência, embora escolher o mínimo local em vez do mínimo global nem sempre seja a melhor solução
• Descida de Gradiente Estocástico: A descida de gradiente estocástico cria uma época de treinamento para cada exemplo no conjunto de dados e altera os parâmetros de cada exemplo de treinamento, sequencialmente. Essas atualizações frequentes podem fornecer mais detalhes e velocidade, mas também podem produzir gradientes ruidosos, que podem ajudar a ultrapassar o mínimo local e localizar o global
• Descida de gradiente em minilote: A descida de gradiente em minilote combina os princípios da descida de gradiente em lote com a descida de gradiente estocástico. Ele divide o conjunto de dados de treinamento em grupos distintos e os atualiza separadamente. Este método equilibra a eficiência de computação da descida do gradiente em lote e a velocidade da descida do gradiente estocástico