IA ou Automação?

Relacionando Algumas Reflexões sobre Educação e Automação

Alguns autores têm utilizado o termo automação para muitos dos impactos da "IA" na educação, destacando algumas reflexões:

1. Automação de Decisões Consequentes: Na educação, a automação pode ser utilizada para diversos processos, como a avaliação de alunos, a admissão em universidades e a alocação de recursos educacionais. Esses sistemas automatizados tomam decisões importantes que podem impactar profundamente a vida dos estudantes. Assim como os sistemas usados para fixação de fiança ou aprovação de empréstimos, essas decisões automatizadas na educação correm o risco de perpetuar vieses existentes. Por exemplo, um algoritmo de avaliação pode favorecer determinados grupos de estudantes com base em padrões históricos de desempenho, enquanto prejudica outros que não se enquadram nesses padrões. Da mesma forma, um sistema de admissão automatizado pode replicar desigualdades sociais se os dados de treinamento contiverem preconceitos socioeconômicos ou raciais. A automação, se não for cuidadosamente projetada e monitorada, pode exacerbar as disparidades existentes ao invés de promovê-las, tendo consequências significativas e potencialmente prejudiciais para a trajetória educacional e profissional dos estudantes. De um modo geral, esse é o cenário mais comum e não a exceção.
2. Automação de Classificação: A classificação de estudantes com base em desempenho ou comportamento pode ser prejudicial se os sistemas automatizados não forem cuidadosamente projetados para evitar preconceitos. Tais classificações automatizadas têm o potencial de reforçar desigualdades existentes em vez de reduzi-las. Por exemplo, um sistema que avalia o desempenho dos alunos pode favorecer aqueles que já têm acesso a mais recursos educacionais, enquanto prejudica aqueles que enfrentam maiores desafios. Da mesma forma, um sistema que classifica estudantes com base em comportamento pode refletir preconceitos culturais ou socioeconômicos presentes nos dados de treinamento, levando a avaliações injustas e discriminatórias. Portanto, sem uma atenção cuidadosa ao design e à implementação dessas tecnologias, existe um risco significativo de perpetuar ou até agravar as desigualdades na educação. Os dados que são usados para o treinamento são dados que refletem o passado.
3. Automação da Escolha da Informação: Aqui, um dos pontos que mais me fazem refletir e, principalmente, após ler o documento raso do Khalman: sistemas de recomendação educacional, como as plataformas de aprendizado adaptativo, podem orientar os estudantes para conteúdos específicos com base em seu desempenho e preferências. Embora isso possa personalizar a experiência de aprendizado, também pode ter um efeito negativo semelhante ao observado nas redes sociais: limitar a exposição dos estudantes a uma ampla variedade de materiais e perspectivas. Quando os estudantes são direcionados continuamente para o mesmo tipo de conteúdo, eles podem perder a oportunidade de explorar diferentes áreas do conhecimento e desenvolver uma compreensão mais holística e crítica dos assuntos. Isso pode restringir seu crescimento intelectual e reduzir sua capacidade de pensar de forma diversificada e inovadora. Portanto, é crucial que esses sistemas sejam projetados para oferecer um equilíbrio entre personalização e diversidade de conteúdo.
4. Automação do Acesso ao Trabalho Humano: Na educação, plataformas que automatizam o acesso a tutores ou instrutores, como serviços de tutoria online, podem tornar o apoio educacional mais acessível a um grande número de estudantes. Esses serviços permitem que os alunos obtenham ajuda personalizada em tempo real, independentemente de sua localização geográfica, o que pode ser especialmente benéfico para aqueles que têm dificuldade em acessar recursos educacionais tradicionais. No entanto, essas plataformas também levantam questões importantes sobre a qualidade e a equidade desse apoio. A qualidade da tutoria online pode variar significativamente, dependendo da formação e experiência dos tutores, bem como da qualidade das ferramentas e recursos utilizados. Além disso, existe o risco de que estudantes de diferentes origens socioeconômicas tenham acesso desigual a esses serviços. Aqueles que podem pagar por tutoria online de alta qualidade podem ter uma vantagem sobre aqueles que não podem, exacerbando as desigualdades educacionais existentes. Esse processo foi muito comum durante a pandemia de COVID-19. Portanto, enquanto as plataformas de tutoria online têm o potencial de democratizar o acesso ao apoio educacional, é crucial que sejam implementadas com atenção à qualidade e à equidade, garantindo que todos os estudantes tenham acesso a um apoio eficaz e justo.
5. Automação da Tradução de Informações: Ferramentas de tradução automática e transcrição podem ser extremamente úteis na sala de aula, facilitando a comunicação e o acesso ao conteúdo para estudantes de diferentes origens linguísticas. Essas ferramentas podem ajudar, por exemplo, a traduzir textos educativos para diversos idiomas, ou a transcrever aulas e palestras, tornando-as acessíveis a estudantes com dificuldades auditivas. No entanto, é crucial garantir que essas ferramentas sejam precisas e não perpetuem preconceitos linguísticos ou culturais. Traduções automáticas podem, por vezes, ser imprecisas, levando a mal-entendidos ou à transmissão incorreta de informações. Além disso, se os dados de treinamento dessas ferramentas contiverem vieses culturais ou linguísticos, as traduções e transcrições resultantes podem refletir esses preconceitos, promovendo estereótipos ou excluindo dialetos e variações linguísticas menos comuns. Porém, aqui, a minha maior preocupação é com o empobrecimento do repertório linguístico, com as já detectáveis linguagens robotizadas e empobrecidas.
6. Máquinas de Mídia Sintética: Sistemas como o ChatGPT podem ser utilizados para criar materiais educacionais, oferecendo uma maneira rápida e eficiente de gerar conteúdo. No entanto, é essencial que educadores e estudantes estejam cientes das limitações e dos possíveis vieses desses sistemas.
7. Por exemplo, enquanto o ChatGPT pode produzir textos coerentes e informativos, ele também pode apresentar informações imprecisas ou enviesadas, refletindo os dados com os quais foi treinado. Isso significa que o conteúdo gerado pode inadvertidamente perpetuar estereótipos ou fornecer informações errôneas. Além disso, esses sistemas não têm a capacidade de compreender o contexto ou a nuances como um ser humano, o que pode resultar em materiais que não são totalmente adequados ou sensíveis às necessidades educacionais específicas. E, aqui, podem acreditar, eu já conto com bom anedotário das coisas que o transformer me devolveu. Recentemente, resolveu preencher a distribuição dos recursos do MCTI que eu estava pesquisando, por região. Tudo alucinação, com indicação de páginas e endereços alucinados.
8. Portanto, é crucial que o uso de sistemas como o ChatGPT na educação seja acompanhado de uma revisão cuidadosa por parte dos educadores, que devem verificar e ajustar o conteúdo conforme necessário para garantir sua precisão e relevância. Essa abordagem ajuda a maximizar os benefícios dessas tecnologias, ao mesmo tempo que mitiga seus riscos.

A educação deve abordar as tecnologias emergentes, como a automação e a inteligência artificial, de maneira crítica e equilibrada, considerando tanto seus benefícios quanto seus riscos. Embora essas tecnologias possam oferecer avanços significativos, elas também podem introduzir novos desafios e problemas, especialmente no que diz respeito à equidade e à justiça social.

A inovação tecnológica na educação deve ser acompanhada de responsabilidade social. Isso significa que ao implementar novas tecnologias, devemos garantir que elas não reforcem desigualdades existentes ou desumanizem o processo educacional. Por exemplo, sistemas automatizados podem inadvertidamente perpetuar preconceitos e discriminações presentes nos dados usados para treiná-los, como exemplificado acima. É essencial que esses sistemas sejam desenvolvidos e aplicados de forma a promover a inclusão e o desenvolvimento humano, e validados no sentido de aferir a acuidade de quem produziu a automação. Há erros estatísticos e probabilísticos, além de algoritmos caixa-preta que carecem de transparência na codificação. Frequentemente, esses algoritmos são também automatizados e aplicados em larga escala..

Uma abordagem equilibrada envolve a combinação de inovação com políticas e práticas que assegurem que todos os estudantes tenham oportunidades iguais de sucesso. Isso inclui a criação de regulamentações e diretrizes que protejam os direitos dos estudantes e garantam que as tecnologias sejam usadas de maneira ética e justa. A meta é usar a automação e outras tecnologias emergentes para enriquecer a experiência educacional, sem comprometer a equidade ou a dignidade dos estudantes.