AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS

RESUMO O estudo busca identificar as dualidades entre o uso da inteligência artificial (IA) na educação e os riscos de vieses algorítmicos. A pesquisa se insere como qualitativa e uma revisão sistemática de literatura com apoio bibliométrico. A coleta de dados ocorreu nas bases Scopus, Web of Science e ScienceDirect, e ao final foram selecionados 16 artigos para análise e interpretação. A hipótese levantada é de que os vieses algorítmicos na educação podem comprometer a equidade e a eficácia dos processos educativos. Os vieses foram apontados desde a codificação dos algoritmos até o processamento automatizado, o que pode impactar o desempenho dos alunos e ampliar as desigualdades. Medidas sugeridas para mitigação incluem os cuidados nas fases de treinamento e implementação dos algoritmos, desenvolvimento de práticas de reparação algorítmica, supervisão das plataformas e a necessidade de tecnologias justas e confiáveis. Como resposta à hipótese, conclui-se que a eficácia da IA na educação depende de um treinamento contínuo e inclusivo dos algoritmos e da conscientização de seus usuários sobre os riscos dos vieses algorítmicos, de forma que os sistemas possam ser aperfeiçoados para evitar a reprodução de injustiças sociais. Recomenda-se uma abordagem ética e colaborativa para garantir que a IA contribua para uma educação mais justa. A interação entre os alunos e a IA pode suscitar uma reflexão crítica sobre os feedbacks recebidos, pois eles precisam saber identificar se os resultados são confiáveis, atualizados e não tendenciosos, uma vez que a IA pode demorar a incorporar novos dados de treinamento nos algoritmos.