Dois caminhos possíveis
Decorar
- Guarda a resposta de cada exemplo visto.
- Acerta muito nos exemplos de treino.
- Falha em qualquer caso novo.
- Não capta o padrão que liga entrada e resposta.
Generalizar
- Capta o padrão que liga entrada e resposta.
- Pode errar em alguns exemplos de treino.
- Responde bem a casos nunca vistos.
- Aprendeu o que importa, não o detalhe.
O objetivo do treino não é fazer o modelo acertar os exemplos que já viu, e sim prepará-lo para acertar os que ainda não viu. Por isso, um modelo que só decora é inútil na prática: ele não serve para nada além de repetir o que já estava nos dados.