Questão de Atualidades e Conhecimentos Gerais

O uso da inteligência artificia! na educação e os riscos de vieses algorítmicos O uso de inovações tecnológicas, da internet e da inteligência artificial (lA) está transformando o cotidiano da sociedade. O mundo está cada vez mais conectado, e a dependência dos usuários nessas ferramentas está cada vez mais presente. Nesse sentido, a programação e a codificação de algoritmos, o compartilhamento e tráfego de dados, de informaçôes e de comunicações precisam atender certos cuidados éticos, de vigilância, de equidade e de controle, pois o ambiente virtual e tecnológico, além de possibilitar resultados positivos e vantajosos, também pode trazer muitos riscos e danos aos usuários. Esses riscos envolvem decisões automatizadas que influenciam diretamente a vida das pessoas. Apesar de f requentemente parecerem neutros e objetivos, os algoritmos podem reproduzir vieses, discriminações e desigualdades, impactando negativamente grupos específicos da sociedade, inclusive na educação. Um algoritmo na perspectiva do aprendizado de máquina pode ser conceituado como um conjunto de regras para a realização de tarefas. Em relação aos algoritmos ditos inteligentes, eles possibilitam a criação de modelos capazes de prever e aprender com os dados constantemente modificados e treinados. Contudo, essas ferramentas podem absorver vieses tanto dos proprios quanto do contexto foram desenvolvedores social em que inseridas. Nesse cenário, o viés decorre estatístico de amostragens incorretas, incompletas ou questionáveis, enquanto o viés social reflete disparidades e estruturas históricas da sociedade. Em ambientes automatizados, os algoritmos dependem dos dados de treinamento recebidos. Se os projetos tecnológicos, as decisões tomadas e os dados refletirem tendências, os resultados produzidos poderão apresentar distorções. Essa dinâmica é alarmante na educação, pois pode prejudicar o desempenho dos estudantes, aprofundar desigualdades e comprometer estratégias pedagogicas de ensino e aprendizagem. Por fim, a ausência ou a demora na implementação de soluções preventivas e corretivas para mitigar esses vieses tende a reforçar desigualdades sistêmicas. Como consequência, surgem prejuízos como avaliações injustas, direcionamentos acadêmicos inadequados, acesso desigual a recursos educacionais e abalos psicologicos ou morais. Essas situações podem prejudicar determinados grupos sociais, reforçando disparidades e criando barreiras para a obtenção de bons resultados na aprendizagem. Fonte. HEGGLER, J. M; SZMOSKI, R M; MIQUELIN, A F As dualidades entre o uso da inteligência artiíicial na educação e os riscos de vieses algorítmicos. Educ. Soc., Campinas, v.46, e289323,2025 (com adaptações)