Quando os exemplos ensinam o erro | Guia de aprendizado com IA

Repare que o modelo não tem como saber que o dado está torto. Ele só vê exemplos. No caso da triagem, se quase todos os contratados do histórico tinham o mesmo perfil, esse perfil vira sinal de sucesso aos olhos do modelo. E o exemplo da noite mostra o outro lado: o que nunca apareceu nos dados simplesmente não existe para ele. Treinar mais não resolve, porque o problema está no conteúdo, não na quantidade.

0:00 / 0:00

Auto-play

Duas formas de dado ruim

Dado enviesado distorce a proporção entre os casos: um grupo aparece demais, outro de menos. Dado incompleto simplesmente não cobre parte do mundo. O primeiro ensina uma regra errada; o segundo deixa o modelo sem resposta para situações que ele nunca viu.

O histórico que contrata sempre o mesmo perfil

Imagine um sistema que aprende com dez anos de contratações de uma empresa. Se nesse período 90% dos contratados vieram do mesmo perfil, o modelo aprende que esse perfil é o sinal de sucesso. Ele não está seguindo uma regra escrita por alguém; está repetindo a estatística do passado. Se o passado foi injusto, o modelo será injusto com a mesma naturalidade.

Treinar mais não conserta o exemplo

Repetir um exemplo enviesado mil vezes só reforça o viés. O problema está no conteúdo dos dados, não na quantidade de treino.