O modelo aprende associações: quais sinais costumam aparecer junto com qual resultado. Isso é diferente de causa. Duas coisas podem aparecer juntas por coincidência, por um terceiro fator comum, ou por uma relação invertida, e o modelo não distingue esses casos. Se em um hospital o número de sorvetes vendidos cresce junto com o número de afogamentos, existe uma forte associação, mas ninguém se afoga por comer sorvete: os dois crescem no verão. Um modelo treinado nesses dados pode tratar a venda de sorvete como sinal de risco de afogamento, porque para ele a associação é tudo o que existe. O mesmo vale para um modelo de linguagem que aprendeu que certas palavras aparecem juntas e passa a sugerir uma relação de causa entre elas. A consequência prática é que o modelo pode acertar a previsão e errar a explicação: ele aponta o padrão certo pelo motivo errado, e por isso falha quando o contexto muda.
Learn MotionComo a inteligência artificial realmente aprende
Por que a IA erra e onde estão seus limites
Associação não é causa
2 / 4
Olhe para o diagrama: vendas de sorvete e afogamentos sobem juntos, e o modelo registra isso como um padrão forte. Mas o que está por trás dos dois é o verão, um fator que o modelo não vê como causa, só como mais uma variável associada. É por isso que ele pode acertar a previsão e errar a explicação. Quando o contexto muda, a associação que parecia sólida se desfaz.
0:00 / 0:00