Onde a diferença aparece
Num programa tradicional, o conhecimento está nas instruções escritas pelo programador. Num sistema que aprende, o conhecimento está distribuído nos valores dos parâmetros, que foram determinados pelos exemplos. A mesma tarefa pode ser resolvida das duas formas, mas só a segunda se adapta quando os dados mudam.
Filtrar spam por regras e por exemplos
Um filtro baseado em regras bloqueia mensagens que contenham palavras de uma lista. Basta o spam mudar de vocabulário para que a lista fique obsoleta, e corrigir isso exige intervenção humana. Um filtro treinado com milhares de mensagens rotuladas não recebe lista alguma: ele ajusta seus parâmetros para separar os exemplos marcados como spam dos legítimos. Quando o vocabulário dos spammers muda, o modelo pode ser reajustado com exemplos novos, sem que ninguém escreva a regra correspondente.
O que é um modelo
Um modelo é uma função que recebe uma entrada e produz uma saída. Sua estrutura geral é definida pelo projetista, mas os parâmetros que determinam a saída concreta são ajustados a partir dos dados. Aprender, nesse sentido, é encontrar valores de parâmetros que façam a função se comportar bem na tarefa.