A IA generativa na educação tem um problema de credibilidade. Peça a um chatbot generalista para escrever uma aula sobre fotossíntese para o 5.º ano e terá uma resposta confiante e bem estruturada. Cerca de 80% estará correto. Os outros 20% estarão subtilmente errados — datas inventadas, diagramas mal etiquetados, fontes fabricadas ou padrões curriculares que não existem no seu país. Em escrita informal é incómodo. Numa sala de aula é genuinamente perigoso.
O termo técnico é alucinação, e é o maior obstáculo a uma IA fiável na educação. A melhor defesa não é um modelo mais inteligente — é ancorar o modelo em conhecimento verificado. Este artigo explica como as bases de conhecimento, a geração aumentada por recuperação (RAG) e as bibliotecas curadas de factos reduzem alucinações, por que importa para as escolas e como o Smart Engine do Samio as implementa.
O que é uma alucinação de IA?
Na investigação em geração de linguagem natural, uma alucinação é conteúdo gerado que é absurdo ou infiel ao conteúdo de origem fornecido (Ji et al., «Survey of Hallucination in Natural Language Generation», ACM Computing Surveys, 2023). Distinguem-se dois tipos: intrínsecas (a saída contradiz a entrada) e extrínsecas (a saída fabrica informação ausente da entrada mas apresentada como facto).
Os grandes modelos de linguagem alucinam porque o objetivo de treino é a previsão do próximo token, não a correção factual. Quando a resposta a uma pergunta não estava bem representada no treino, o modelo produz algo plausível que segue o padrão de textos similares. A saída é fluente porque a fluência foi otimizada; a verdade não.
- Inventar uma citação — um título de artigo realista, autores plausíveis, uma revista realista, mas o artigo não existe.
- Fabricar um padrão curricular — citar como base de uma aula «Common Core 5.MD.7» (que não existe).
- Atribuir mal uma citação — associar uma figura conhecida a uma frase que nunca disse.
- Confabular uma data histórica — datar uma batalha num ano que não corresponde a nenhum registo.
- Gerar matemática errada com confiança — um passo de uma derivação que troca um sinal sem aviso.
Por que a alucinação é pior na educação
Uma recomendação de filme alucinada custa dez segundos. Um padrão curricular alucinado custa uma semana de ensino. O raio de impacto de um erro de IA na educação é singularmente grande porque (1) quem recebe é uma criança que não tem o conhecimento prévio para detetar o erro, (2) o erro é reforçado por repetição e avaliação e (3) propaga-se para os trabalhos de casa, comunicação às famílias e aulas seguintes.
Os professores agravam o problema quando confiam nas ferramentas de IA como confiam num manual. Os manuais são revistos por editores, alinhados com os currículos pelos ministérios e corrigidos entre edições. As saídas de um LLM genérico não têm essas garantias. A literatura sobre o tema é já vasta — ver Chiu, Xia & Chai (2023), «Systematic literature review on opportunities, challenges, and future research recommendations of artificial intelligence in education», Computers and Education: Artificial Intelligence.
Grounding — a solução formal para a alucinação
Grounding em PLN significa ligar a saída da IA a fontes externas verificáveis. O modelo ancorado não precisa de «saber» a resposta nos seus pesos — precisa de recuperar e reproduzir fielmente conteúdo de um corpus fiável. Isto desloca a fronteira de confiança: em vez de confiar num blob de 70 mil milhões de parâmetros, confia-se numa base de conhecimento curada, auditável e atualizável.
O quadro mais influente é Retrieval-Augmented Generation (RAG), introduzido em Lewis et al., «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks» (NeurIPS 2020). RAG opera em duas fases: um recuperador extrai passagens relevantes de um índice vetorial de documentos fiáveis, e um gerador condiciona a saída sobre essas passagens. A recuperação ancora o modelo em texto verificável; a geração adapta-o ao pedido.
Estudos recentes (Gao et al., «Retrieval-Augmented Generation for Large Language Models: A Survey», 2024) mostram que sistemas RAG reduzem a alucinação factual entre 30 e 60% em benchmarks de QA quando comparados com LLM apenas por prompt e do mesmo tamanho. O ganho é maior em domínios de verdade estruturada e finita — exatamente a estrutura dos padrões curriculares.
O kit de grounding — RAG, bases de conhecimento e geração restringida
Grounding é um chapéu para várias técnicas complementares. Cada uma trata um modo de falha diferente.
Bases de conhecimento (KBs)
Repositórios estruturados de factos verificados — entidades, relações, atributos — geralmente curados por humanos e atualizados regularmente.
Wikidata, Wikipedia, bases nacionais de padrões curriculares. O Samio mantém a sua KB de padrões por país, ano e disciplina.
Geração aumentada por recuperação (RAG)
Recuperar passagens relevantes de um índice vetorial de texto fiável e gerar a saída condicionada a essas passagens.
Usada por Bing Chat, Perplexity e a maioria dos assistentes em produção. Reduz alucinações extrínsecas ancorando a saída em material fonte verificado.
Bibliotecas de factos / conteúdo por modelo
Modelos de exercícios, bancos de frases e gabaritos pré-validados que a IA preenche ou seleciona em vez de inventar.
O Samio usa geração apoiada em biblioteca de factos para problemas de matemática, fonética e compreensão leitora, onde os gabaritos têm de ser determinísticos.
Geração restringida
Restringe a saída do modelo a um esquema, vocabulário ou gramática, eliminando classes inteiras de erros.
Modo JSON, decodificação restringida por regex, saída de estado finito. Usada na geração de exercícios do Samio para evitar saídas malformadas.
Camadas de verificação
Verificações pós-geração que comparam a saída com uma fonte de verdade e rejeitam ou marcam divergências.
O Samio cruza citações curriculares com a base de padrões; divergências são rejeitadas antes de chegar ao docente.
Como o Samio ancora o seu Smart Engine
O Smart Engine do Samio — o sistema de IA por trás dos planos anuais, unidades, desafios personalizados e geração de exercícios — usa as quatro técnicas de grounding acima. A arquitetura é deliberadamente conservadora: a IA nunca redige currículo por si só.
É isto que acontece quando um docente pede ao Samio um plano anual para «5.º ano de matemática, Países Baixos»:
- Recuperação curricular — a base de padrões nacionais (por país, ano, disciplina) é consultada primeiro. Os padrões para «NL, ano 5, matemática» são recuperados como registos estruturados, não texto livre.
- Prompt ancorado — esses padrões estruturados são injetados no prompt como fonte de verdade. A função da IA é organizá-los e adaptá-los, não inventar quais existem.
- Saída com esquema restringido — o plano anual é gerado contra um esquema fixo (semana, tema, unidade, tipos de exercício). Campos fora do esquema não podem ser produzidos.
- Exercícios da biblioteca de factos — os exercícios concretos vêm de modelos e bancos de palavras pré-validados, alinhados a cada padrão. Partes propensas a alucinação (factos, vocabulário, gabaritos) são determinísticas.
- Camada de verificação — cada plano é confrontado com a base de padrões. Qualquer padrão citado que não exista na fonte de verdade dispara regeneração ou marcação.
- Especialização por país — o motor mantém KBs separadas por cada país suportado, pelo que um plano «ano 5» em Espanha reflete LOMLOE, não Common Core.
Como se compara com outras ferramentas de IA na educação
Muitas ferramentas de IA educativa parecem-se à superfície («geramos planos!») mas diferem enormemente no nível de ancoragem da saída. Comparação honesta.
| Feature | Samio | ChatGPT | Khanmigo | MagicSchool |
|---|---|---|---|---|
| Ancoragem ao currículo | KB de padrões nacionais por país | Nenhuma — depende dos dados de treino | Currículo Khan Academy (centrado nos EUA) | Modelos + LLM, ancoragem parcial |
| Currículo por país | Completo — múltiplos currículos nacionais | Implícito (corpus de treino) | Limitado (conteúdo Khan) | Limitado (padrões EUA) |
| Mitigação de alucinações | RAG + biblioteca de factos + verificação | LLM puro (alucinação alta) | RAG sobre conteúdo Khan | Modelos + ancoragem ligeira |
| Citação dos padrões | Sim — citados por unidade | Frequentemente alucinados | Sim (apenas Khan) | Por vezes |
| Imposição de esquema na saída | Estrito (plano, aula, exercício) | Nenhum | Conversacional | Por modelos |
| Idiomas | 7 (currículo + UI) | Muitos (sem ancoragem curricular) | Inglês (algum espanhol) | Inglês primeiro |
| Adequado a conformidade curricular do primário | Sim | Não (verificação necessária) | Parcial | Parcial |
Conclusão: «IA para a educação» não é uma única categoria. Um sistema ancorado com KB curricular produz um artefacto fundamentalmente diferente de um LLM geral só por prompt, mesmo que a UX seja parecida.
Limites honestos — o grounding não torna a IA infalível
Não afirmamos que o Samio está livre de alucinações. O grounding reduz-as muito, mas restam dois modos de falha: (1) a base subjacente pode estar incompleta ou desatualizada, e (2) o modelo pode usar mal conteúdo corretamente recuperado (por exemplo, aplicar um padrão de 4.º ano num plano de 6.º).
Mitigamos com (a) versionamento da KB e ligação de cada saída a uma versão específica para podermos reverter; (b) um passo obrigatório de revisão pelo docente antes de qualquer saída chegar aos alunos; (c) registo de cada evento de geração para auditoria a posteriori; (d) uma suite interna de avaliação que retesta o motor contra um conjunto congelado de saídas esperadas a cada atualização da KB ou do modelo. O objetivo não é IA perfeita, é IA que falha de forma segura e visível.
Por que isto importa para as escolas
Para administradores escolares a implicação prática é simples: ao avaliar uma ferramenta de IA educativa, pergunte três coisas. (1) De onde vem o conhecimento curricular? (2) O que acontece quando se pede algo fora da KB ancorada? (3) O sistema consegue citar, versionar e auditar as suas saídas?
- Conformidade curricular — os planos citam padrões reais e atuais da autoridade educativa do país, não inventados.
- IA auditável — cada geração referencia a versão de KB usada, permitindo revisão a posteriori.
- Controlo do docente — o passo de revisão humana é uma funcionalidade, não um remendo.
- Suporte multipaís — o mesmo motor respeita os currículos locais em vez de aplicar uma lente americana.
- Menos remediação — menos factos inventados nos materiais significa menos limpeza pelo docente.
- Defensabilidade — quando um regulador ou família pergunta «de onde vem isto?», há resposta.
Primeiro o conhecimento, depois a IA
A IA generativa não é a protagonista da tecnologia educativa. É o currículo. É a ciência de como as crianças aprendem. É o docente. A IA é uma ferramenta poderosa para organizar e adaptar esse conhecimento, mas não pode ser a sua fonte.
A nossa aposta: as ferramentas EdTech que sobreviverem ao ciclo de hype serão as que colocam o conhecimento primeiro e tratam a IA como a assistente disciplinada que deve ser. Estamos a construir em conformidade.
FAQ
O que é uma alucinação de IA?
Conteúdo gerado por IA infiel à sua fonte — quer contradizendo informação verificada (intrínseca), quer inventando factos ausentes de qualquer fonte (extrínseca). A saída é fluente e confiante, mas factualmente errada.
O que é RAG e como reduz alucinações?
Retrieval-Augmented Generation: a IA recupera primeiro passagens relevantes de um repositório fiável e gera condicionada a essas passagens. Ao ancorar a geração em texto verificável, o RAG reduz a alucinação extrínseca em 30–60% face a LLM apenas por prompt (Gao et al., 2024).
Como evita o Samio padrões curriculares alucinados?
O Samio recupera padrões nacionais oficiais da sua base antes de qualquer geração, injeta-os como registos estruturados no prompt e verifica todas as citações contra a fonte de verdade após a geração. Padrões que não existem na KB não podem aparecer na saída.
IA ancorada é o mesmo que «ChatGPT para escolas»?
Não. Um LLM geral apoia-se no seu corpus de treino e produz saída confiante mesmo sem base factual. Um sistema ancorado recupera de uma KB autoritativa, restringe a saída a conteúdo verificado e rejeita citações ausentes da KB.
O grounding pode eliminar alucinações por completo?
Não, mas reduz-as substancialmente e torna os erros restantes visíveis e recuperáveis. O Samio combina RAG, bibliotecas de factos, restrições de esquema, camadas de verificação e revisão humana antes de qualquer saída chegar aos alunos.
