Questão de Tecnologia da Informação

O uso da inteligência artificial na educação e os riscos de vieses algorítmicos O uso de inovações tecnologicas, da internet e da inteligência artificial (lA) está transformando o cotidiano da sociedade. O mundo está cada vez mais conectado, e a dependência dos usuários nessas ferramentas está cada vez mais presente. Nesse sentido, a programação e a codificação de algoritmos, o compartilhamento e tráfego de dados, de informações e de comunicações precisam atender certos cuidados éticos, de vigilância, de equidade e de controle, pois o ambiente virtual e tecnológico, além de possibilitar resultados positivos e vantajosos, também pode trazer muitos riscos e danos aos usuários. Esses riscos envolvem decisões automatizadas que influenciam diretamente a vida das pessoas. Apesar de frequentemente parecerem neutros e objetivos, os algoritmos podem reproduzir vieses, discriminações e desigualdades, impactando negativamente grupos específicos da sociedade, inclusive na educação. Um algoritmo na perspectiva do aprendizado de máquina pode ser conceituado como um conjunto de regras para a realização de tarefas. Em relação aos algoritmos ditos inteligentes, eles possibilitam a criação de modelos capazes de prever e aprender com os dados constantemente modificados e treinados. Contudo, essas ferramentas podem absorver vieses tanto dos proprios desenvolvedores quanto do contexto social em que foram inseridas. Nesse cenário, o viés estatístico decorre de amostragens incorretas, incompletas ou questionáveis, enquanto o viés social reflete disparidades e estruturas históricas da sociedade. Em ambientes automatizados, os algoritmos dependem dos dados de treinamento recebidos. Se os projetos tecnológicos, as decisões tomadas e os dados refletirem tendências, os resultados produzidos poderão apresentar distorções. Essa dinâmica é alarmante na educação, pois pode prejudicar o desempenho dos estudantes, aprofundar desigualdades e comprometer estratégias pedagogicas de ensino e aprendizagem. Por fim, a ausência ou a demora na implementação de soluções preventivas e corretivas para mitigar esses vieses tende a reforçar desigualdades sistêmicas. Como consequência, surgem prejuízos como avaliações injustas, direcionamentos acadêmicos inadequados, acesso desigual a recursos educacionais e abalos psicológicos ou morais. Essas situações podem prejudicar determinados grupos sociais, reforçando disparidades e criando barreiras para a obtenção de bons resultados na aprendizagem. FONTE: HEGGLER, J. M,; SZMOSKI, R, M,; MIQUELIN, A, F, AS dUAIidAdCS entre o uso da inteligência arrificial na educação e os riscos de vieses algorítmicos Educ. Soc., Campinas, v.46, e289323,2025 (com adaptacoes).