Prompts e Controvérsias: As implicações do uso de Inteligência Artificial Generativa na Educação

agosto 22, 2024

Prompts e Controvérsias: As implicações do uso de Inteligência Artificial Generativa na Educação

Ao longo dos últimos 40 anos, a inteligência artificial (IA) tem desempenhado um papel cada vez mais relevante na educação. No entanto, é a inteligência artificial generativa (IAGen), a mais recente e inovadora tecnologia, que promete transformar radicalmente o setor.

Ferramentas como o ChatGPT, lançado em 2022, inauguraram uma nova era de possibilidades, permitindo a automatização de textos, imagens e até mesmo conteúdos educacionais. Com essas capacidades, a IA generativa está impulsionando uma corrida tecnológica global, enquanto levanta questões fundamentais sobre como e por que aprendemos.

O uso da IA na educação já conta com exemplos robustos e significativos. Sistemas inteligentes de instrução, por exemplo, monitoram o progresso dos estudantes, identificam dificuldades e ajustam o nível de dificuldade das atividades de forma dinâmica. Além disso, ferramentas de IA auxiliam na redação de trabalhos, oferecendo suporte na detecção de plágio e garantindo a integridade acadêmica. Experiências de aprendizagem imersivas, como jogos educacionais, também têm se beneficiado da IA, personalizando o conteúdo e tornando o processo educativo mais eficaz e envolvente.

Entretanto, com o surgimento contínuo de novas ferramentas, nos questionamos: Será que essa tecnologia é capaz de enfrentar os desafios mais cruciais da educação?

Embora o potencial seja vasto, o avanço da IA generativa não está isento de desafios significativos.

No relatório Guidance for generative AI in education and research, publicado em 2024 pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), é destacado que a rápida evolução dessas ferramentas tem superado as regulamentações em muitos países. Deixando, assim, lacunas na proteção da privacidade dos dados dos usuários e na validação dessas tecnologias em ambientes educacionais.

Até julho de 2023, apenas um país havia implementado regulamentações específicas para a IA generativa, mesmo com o ChatGPT alcançando 100 milhões de usuários ativos mensais em janeiro do mesmo ano.

A Inteligência Artificial Generativa é uma das inovações tecnológicas mais discutidas dos últimos anos, com promessas de revolucionar diversas áreas, incluindo a educação.

Este recurso será cada vez mais aprimorado por algoritmos avançados de IA, que analisam dados em tempo real para entender as preferências individuais e comportamentos do público-alvo. Resultando, consequentemente, em campanhas mais relevantes e envolventes.

Utilizamos este recurso para elaboração de conteúdo dinâmico, adaptando mensagens com base não só no comportamento, mas também nas interações passadas dos usuários. Isso garante que cada pessoa seja exposta a conteúdos relevantes e personalizados.

No entanto, o impacto real dessa tecnologia, especialmente quando aplicada sem uma base sólida de evidências, levanta questionamentos importantes que precisam ser abordados com cautela e rigor.

Por isso, neste artigo, exploraremos os potenciais e os desafios da IA Generativa, com foco especial em sua aplicação na educação, embasados em evidências e estudos recentes.

Antes de tudo... O Que é Inteligência Artificial Generativa?

A IA Generativa refere-se a modelos de inteligência artificial capazes de criar novos conteúdos, como textos, imagens, sons e até vídeos, a partir de dados existentes.

Diferente de outras formas de IA, que se limitam a analisar e responder a informações já conhecidas, a IA Generativa tem a capacidade de produzir algo novo, abrindo um leque de possibilidades criativas e inovadoras.

Como funciona a IA Generativa?

A partir de técnicas de aprendizado de máquina (machine learning), a IAGen utiliza algoritmos a fim de melhorar seu desempenho de forma contínua utilizando dados.

As redes neurais artificiais (RNAs), que imitam o funcionamento do cérebro humano e suas conexões sinápticas, são a base para muitos avanços em IA. Alguns desses avanços incluem, por exemplo, reconhecimento facial e IA generativa.

Dentro das RNAs, diferentes tipos de redes são aplicados para gerar conteúdo:

As tecnologias de IA generativa de texto, como o ChatGPT, que utilizam transformadores generativos pré-treinados (GPTs)
As tecnologias de imagem, que frequentemente empregam redes generativas adversariais (GANs).

Essas tecnologias, apesar de disponíveis para pesquisadores há vários anos, têm sido refinadas e otimizadas recentemente para produzir resultados surpreendentemente avançados. Permitindo, dessa maneira, que a IA crie conteúdo de maneira mais eficaz e natural.

Inteligência Artificial Generativa na Educação: O surgimento do EdGPT e suas implicações

Modelos de IA Generativa (IAGen) podem ser especializados para criar versões focadas em contextos específicos, como o “EdGPT”, desenvolvido para fins educacionais.

O EdGPT é ajustado a partir de grandes volumes de dados gerais, utilizando conjuntos menores e mais específicos de dados educacionais de alta qualidade, visando aprimorar o apoio na criação de currículos e materiais educativos alinhados a metodologias pedagógicas.

Atualmente, o desenvolvimento desses modelos está em fase inicial. Exemplos como o EduChat, criado pela East China Normal University, fornecem serviços de ensino e aprendizagem com código aberto, permitindo a personalização para diferentes contextos educacionais. Outro exemplo é o MathGPT, desenvolvido pelo TAL Education Group, que foca na resolução de problemas matemáticos e na explicação de conceitos para usuários em todo o mundo.

Embora o EdGPT tenha o potencial de reduzir vieses e gerar conteúdo altamente relevante, ainda enfrenta desafios como erros e limitações, o que exige que educadores mantenham uma abordagem crítica ao usá-lo.

Os vieses na inteligência artificial (IA) referem-se a distorções ou tendências indesejadas nos resultados gerados por sistemas de IA, causadas principalmente pela forma como esses sistemas são treinados, desenvolvidos e implementados. Eles podem surgir de várias fontes:

Vieses nos Dados de Treinamento: Os sistemas de IA são treinados usando grandes volumes de dados, que refletem a realidade, ou seja, os preconceitos e desigualdades existentes na sociedade. Se os dados usados para treinar o modelo contêm preconceitos de gênero, raça, classe social, ou outras formas de discriminação, o modelo de IA pode replicar ou até amplificar esses vieses em suas respostas ou ações.
Vieses Algorítmicos: Além dos dados, o design do algoritmo de IA em si pode introduzir vieses. Isso pode acontecer devido às escolhas feitas pelos desenvolvedores durante a construção do modelo, como quais atributos dar mais peso ou quais métricas otimizar. Mesmo pequenas decisões técnicas podem resultar em desbalanceamentos significativos no desempenho do modelo para diferentes grupos de pessoas.
Vieses de Interação: As interações dos usuários com o sistema de IA também podem reforçar certos vieses. Por exemplo, se o feedback dos usuários não for devidamente equilibrado ou se a IA for continuamente ajustada com base em interações que já são tendenciosas, isso pode perpetuar ou até exacerbar preconceitos existentes.

Ainda, podem resultar em conteúdos que não são neutros, perpetuando desigualdades ou preconceitos sociais. Portanto, é crucial que educadores mantenham uma abordagem crítica ao utilizar o EdGPT, revisando e ajustando o conteúdo gerado para garantir que ele seja justo, inclusivo e alinhado com princípios pedagógicos e éticos.

Após explorar o funcionamento da IAGen, é crucial examinar as controvérsias e os riscos éticos associados a esses sistemas, considerando suas implicações para a educação.

Prompts e Controvérsias: Implicações para a educação

A rápida ascensão da Inteligência Artificial Generativa (IAGen) no campo educacional tem suscitado debates sobre suas implicações éticas e sociais. Embora essas tecnologias ofereçam oportunidades significativas para personalizar e ampliar o aprendizado, elas também trazem à tona desafios complexos.

Neste contexto, é crucial que as instituições educacionais e os formuladores de políticas abordem essas controvérsias com rigor, garantindo que a IAGen seja utilizada de maneira ética e inclusiva, sem comprometer a integridade da educação.

De acordo com informações disponibilizadas no relatório Guidance for generative AI in education and research, publicado em 2024 pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), as principais controvérsias e desafios do uso da Inteligência Artificial Generativa (IAGen) na educação são:

Agravamento da pobreza digital: O uso de IAGen pode intensificar a exclusão digital, pois o acesso à tecnologia de ponta não é equitativamente distribuído globalmente. Estudantes em regiões menos desenvolvidas podem ser deixados para trás, ampliando as desigualdades educacionais.
Desafios regulatórios: A rápida evolução das ferramentas de IAGen supera as capacidades regulatórias de muitos países. Isso gera lacunas na proteção da privacidade dos usuários e na validação ética e pedagógica dessas tecnologias, criando riscos significativos.
Uso de conteúdo sem consentimento: A IAGen é frequentemente treinada com grandes volumes de dados coletados da internet, muitas vezes sem o consentimento dos criadores de conteúdo. Isso levanta preocupações sobre direitos autorais e propriedade intelectual, especialmente no contexto educacional.
Modelos inexplicáveis usados para gerar resultados: A complexidade dos modelos de IAGen torna difícil entender como os resultados são gerados, o que pode levar à falta de transparência e responsabilidade. Isso é problemático na educação, onde a compreensão dos processos de aprendizagem é crucial.
Conteúdo que polui a internet: A proliferação de conteúdo gerado por IAGen pode “poluir” a internet, dificultando a distinção entre informações autênticas e geradas por máquinas. Isso pode prejudicar a qualidade da educação e a confiança nos recursos disponíveis online.
Falta de compreensão do mundo real: A IAGen, apesar de gerar conteúdo impressionante, não possui compreensão real do mundo ou das relações sociais. Isso pode resultar em conteúdos que, embora pareçam corretos, são factualmente errôneos ou fora de contexto.
Marginalização de vozes: A IAGen pode reforçar vieses existentes ao reproduzir padrões de dados históricos, o que pode reduzir a diversidade de opiniões e marginalizar ainda mais vozes já sub-representadas.
Riscos com deepfakes: A IAGen pode ser utilizada para criar deepfakes mais sofisticados, aumentando os riscos de desinformação e manipulação, o que representa um desafio significativo para a integridade educacional.

Por fim, o relatório enfatiza que as instituições educacionais e os professores precisam ser preparados para utilizar a IAGen de maneira ética e pedagógica. Isso é fundamental para garantir que a tecnologia seja uma ferramenta que complementa, e não substitui, o papel do educador.

Além da IA: Os desafios da tecnologia na educação

Indo além da IAGen, trazemos também para discussão insights apresentados no relatório “Monitoramento Global da Educação 2023”, o qual aborda o papel da tecnologia na educação, explorando suas promessas e desafios.

Eles sinalizam que existem:

Evidências Limitadas: Há uma escassez de evidências robustas sobre o impacto positivo da tecnologia na educação. A tecnologia avança mais rápido do que é possível avaliar. Por isso, muitas das evidências existentes sendo produzidas acabam tendo o viés de países ricos ou de empresas que buscam vender seus produtos.
Exclusão Digital: A tecnologia pode ajudar a incluir alguns grupos, como estudantes com deficiências, mas também agrava as desigualdades existentes, pois pode excluir muitos outros. Como, por exemplo, é o caso de países e regiões com acesso limitado à internet e a dispositivos digitais.
Impacto Variável na Aprendizagem: A tecnologia digital pode melhorar alguns tipos de aprendizagem em certos contextos, mas seus efeitos são muitas vezes modestos. Além disso, o uso excessivo ou inadequado da tecnologia pode ter impactos negativos na aprendizagem e na saúde mental dos estudantes.
Desafios de Implementação: Os países enfrentam dificuldades para integrar habilidades digitais nos currículos e para preparar professores para usar a tecnologia de forma eficaz. Há também uma lacuna significativa na qualidade e na equidade do conteúdo digital disponível.
Regulação e Governança: A falta de regulamentação adequada para a tecnologia educacional pode levar a riscos significativos, como a invasão de privacidade e a disseminação de desinformação. É essencial estabelecer políticas claras para garantir que a tecnologia seja utilizada de maneira ética e segura.
Custos e Sustentabilidade: A implementação de tecnologia na educação acarreta custos significativos, muitas vezes insustentáveis a longo prazo, especialmente em países de baixa e média renda. Além disso, a falta de infraestrutura básica, como eletricidade e internet, em muitas escolas impede a adoção eficaz da tecnologia.
Conteúdo e Inclusão: O conteúdo digital disponível é predominantemente produzido em países ricos, em idiomas como o inglês, o que limita o acesso para estudantes de outras regiões. A criação de conteúdo precisa ser mais inclusiva e adaptada às necessidades locais.

A tecnologia, principalmente a IA Generativa, tem o potencial de revolucionar a educação ao oferecer experiências de aprendizagem mais personalizadas, porém os impactos positivos ainda são limitados a alguns contextos específicos.

É fundamental que seu uso seja cuidadosamente planejado, regulamentado e apoiado por evidências sólidas para garantir que beneficie todos os estudantes, independentemente de sua localização ou contexto socioeconômico.

A implementação de tecnologia na educação deve ser orientada por resultados de aprendizagem, e não apenas pela adoção de soluções digitais. A falta de integração com práticas pedagógicas adequadas pode não apenas falhar em melhorar a aprendizagem, mas também ampliar lacunas educacionais.

Considerações Finais

É fundamental que o debate sobre a Inteligência Artificial Generativa (IAGen) e outras tecnologias educacionais seja orientado por evidências robustas e imparciais, que levem em conta tanto os benefícios quanto os riscos associados a essas inovações.

Embora essas tecnologias tenham o potencial de transformar a educação, é essencial que seu uso seja guiado por objetivos claros e princípios éticos rigorosos. Isso é crucial para evitar impactos negativos e assegurar que todos os estudantes, independentemente de sua origem, tenham a oportunidade de atingir seu pleno potencial.

A HardFun reconhece o poder transformador da tecnologia na educação e está comprometida em explorar novas formas de aplicar a IAGen que beneficiem a todos, sem deixar ninguém para trás.

Entendemos a importância de uma implementação cuidadosa e baseada em evidências, que considere os desafios e trabalhe para minimizar riscos. Nosso objetivo é garantir que a tecnologia seja uma aliada poderosa na construção de um futuro educacional mais inclusivo e equitativo para todos.

Em conclusão, continuaremos a explorar e desenvolver soluções que possam impulsionar mudanças positivas, sempre comprometidos com a ética e o bem-estar dos estudantes e educadores.

Referências Bibliográficas:

Global Education Monitoring Report Summary 2023: Technology in education: A tool on whose terms? UNESCO. 2023. Resumo do Relatório de Monitoramento Global da Educação 2023: Tecnologia na educação: Uma ferramenta a serviço de quem? Paris, UNESCO.

Guidance for generative AI in education and research – Publicado em 2023 pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO)

Artigo escrito por:

Ariane Gomes

Coordenadora de Growth Marketing

Gostou do que você leu? Fique a vontade para compartilhar em suas redes sociais: