Um programa tradicional guarda instruções: se acontecer isto, faça aquilo. Um modelo treinado não guarda nada parecido. O que existe dentro dele é um grande conjunto de números ajustáveis, chamados pesos, que ficam guardados entre a entrada e a saída. Esses números não dizem o que fazer em cada situação; eles apenas definem o quanto cada informação de entrada influencia a resposta final.
A consequência prática é importante: como não há regras escritas, não é possível abrir o modelo e ler por que ele respondeu de determinado jeito. O que se pode inspecionar são os valores dos pesos — e são eles que mudam durante o aprendizado. Aprender, portanto, não é acrescentar regras novas; é alterar esses números internos até que as respostas fiquem melhores.
Uma comparação ajuda: um programa com regras é como um manual de instruções; um modelo treinado é como um painel cheio de botões cujas posições foram encontradas por tentativa, sem que ninguém tenha escrito o manual.