Questão de Tecnologia da Informação

O uso da inteligência artificial na educação e os riscos de vieses algorítmicos O uso de inovações tecnológicas, da internet e da inteligência artlficial (lA) está transformando o cotidiano da sociedade. O mundo está cada vez mais conectado, e a dependência dos usuários nessas ferramentas está cada vez mais presente. Nesse sentido, a programação e a codificação de algoritmos, o compartilhamento e tráfego de dados, de informações e de comunicações precisam atender certos cuidados éticos, de vigilância, de equidade e de controle, pois o ambiente virtual e tecnológico, além de possibilitar resultados positivos e vantajosos, também pode trazer muitos riscos e danos aos usuários. Esses riscos envolvem decisões automatizadas que influenciam diretamente a vida das pessoas. Apesar de frequentemente parecerem neutros e objetivos, os algoritmos podem reproduzir vieses, discriminações e desigualdades, impactando negativamente grupos específicos da sociedade, inclusive na educação. Um algoritmo na perspectiva do aprendizado de máquina pode ser conceituado como um conjunto de regras para a realização de tarefas. Em relação aos algoritmos ditos inteligentes, eles possibilitam a criação de modelos capazes de prever e aprender com os dados constantemente modificados e treinados. Contudo, essas ferramentas podem absorver vieses tanto dos proprios quanto do contexto foram desenvolvedores social em que o viés inseridas. Nesse cenário, estatístico decorre de amostragens incorretas, incompletas ou questionáveis, enquanto o viés social reflete disparidades e estruturas históricas da sociedade. Em ambientes automatizados, os algoritmos dependem dos dados de treinamento recebidos. Se os projetos tecnológicos, as decisões tomadas e os dados reÍletirem tendências, os resultados produzidos poderão apresentar distorções. Essa dinâmica é alarmante na educação, pois pode prejudicar o desempenho dos estudantes, aprofundar desigualdades e comprometer estrategias pedagogicas de ensino e aprendizagem. Por fim, a ausência ou a demora na implementação de mitigar soluções preventivas e corretivas para esses vieses tende a reforçar desigualdades sistêmicas. Como consequência, surgem prejuízos como avaliações injustas, direcionamentos acadêmicos inadequados, acesso desigual a recursos educacionais e abalos psicologicos ou morais. Essas situações podem prejudicar determinados grupos sociais, reforçando disparidades e criando barreiras para a obtenção de bons resultados na aprendizagem. Fonte HEGGLER, J M; SZMOSKI, R M; MIQUEUN, A. F As dualidades entre o uso da inteligência artificial na educação e os riscos de vieses algorítmicos. Educ. Soc., Campinas, v 46, e289323,2025 (com adaptaçôes)