Questão de Tecnologia da Informação

Considere que uma instituição financeira desenvolveu e implementou um sistema de inteligência artificial para automatizar a análise de crédito. Após alguns meses de uso, auditorias internas revelaram que o modelo estava consistentemente negando empréstimos a candidatos de uma determinada região geográfica, mesmo quando suas pontuações de crédito e histórico financeiro eram idênticos aos de candidatos aprovados. A equipe de governança da IA investigou e descobriu que o sistema havia sido treinado com dados históricos que refletem padrões de concessão de crédito anteriores, que já eram inequivocamente enviesados. Essa situação descreve um claro exemplo da violação de um princípio ético da IA, e é a principal causa do problema. Nesse contexto, assinale a alternativa que apresenta o princípio correto e a sua respectiva causa.