IA na educação e no setor público.

Ensino SOBRE IA vs. Ensino COM IA

O Ministério da Educação (MEC), em cooperação com a UNESCO, estabeleceu duas dimensões fundamentais para a abordagem da Inteligência Artificial nos ambientes educacionais brasileiros:

Matriz de Aprendizagens por Etapa de Ensino

Em alinhamento com a Base Nacional Comum Curricular (BNCC) e a Política Nacional de Educação Digital (PNED - Lei 14.533/2023), o aprendizado de IA deve evoluir progressivamente conforme a etapa escolar:

• Educação Infantil e Ensino Fundamental I (Anos Iniciais): Exploração lúdica de padrões, introdução ao pensamento desplugado, noções básicas de tecnologia e distinção entre seres vivos e objetos digitais.
• Ensino Fundamental II (Anos Finais): Compreensão básica de algoritmos, dados, treinamento de modelos simples (ex.: classificação visual), identificação de viés em pesquisas e noções de segurança e privacidade.
• Ensino Médio: Análise crítica dos impactos socioeconômicos e éticos da IA, funcionamento de redes neurais e modelos generativos, desenvolvimento de projetos com IA e preparação para o mundo do trabalho na era digital.

Integridade Acadêmica, Plágio e Tutoria Adaptativa

O uso de assistentes generativos (como ChatGPT, Claude e Gemini) na realização de trabalhos escolares e acadêmicos exige regras claras para preservar a aprendizagem ativa:

• IA como Tutor, Não como Substituto: A IA deve ser utilizada para explicar conceitos difíceis, sugerir tópicos de estudo, tirar dúvidas e simular debates, nunca para gerar redações ou trabalhos inteiros prontos para entrega.
• Transparência e Citação de Uso: Quando uma ferramenta de IA for utilizada para estruturar ideias ou revisar o texto, o estudante deve declarar expressamente qual ferramenta foi usada e qual foi o seu papel na construção do trabalho.
• Verificação Independente de Fatos: Como modelos de linguagem podem "alucinar" (inventar citações e dados falsos), os alunos devem checar toda informação em fontes bibliográficas confiáveis.

Princípios para Adoção de Plataformas com IA nas Escolas

As redes de ensino e instituições escolares devem seguir diretrizes de governança rígidas ao adotar softwares ou plataformas que utilizem IA:

1. Proteção Rigorosa de Dados de Menores: Plataformas educativas não devem coletar dados pessoais excessivos de crianças e adolescentes nem utilizar dados de estudantes para treinamento comercial de modelos.
2. Centralidade e Autonomia Docente: Nenhum sistema automatizado deve substituir a avaliação pedagógica humana ou tomar decisões sobre aprovação e retenção de alunos.
3. Equidade e Acessibilidade: As ferramentas devem incluir recursos para alunos com deficiência (transcrição, leitores de tela) e não podem aprofundar desigualdades entre escolas públicas e privadas.

As mesmas exigências de supervisão humana valem na administração pública, tratada a seguir.

Inteligência Artificial na Administração Pública

A transformação digital do Estado envolve o uso de Inteligência Artificial para tornar os serviços públicos mais eficientes, acessíveis e transparentes. No Brasil, governos federais, estaduais e municipais têm adotado IA em diversas frentes operacionais:

Regulamentação no Brasil: O Marco Legal da IA (PL 2338/2023)

O Brasil avança na consolidação de um marco regulatório próprio para a Inteligência Artificial com o Projeto de Lei nº 2338/2023. O texto adota uma abordagem baseada em classificação de risco, inspirada nas melhores práticas internacionais:

• Sistemas de Risco Excessivo (Proibidos): Banimento de tecnologias de pontuação social (social scoring), manipulação subliminar que cause danos e identificação biométrica em massa em locais públicos sem ordem judicial.
• Sistemas de Alto Risco: Inclui IAs aplicadas à saúde, segurança pública, recrutamento de pessoal, avaliação de crédito, justiça e decisões sobre benefícios sociais. Exigem avaliação prévia de impacto, auditoria algorítmica e supervisão humana contínua.
• Sistemas de Baixo / Médio Risco: Chatbots de atendimento, filtros de spam e ferramentas de produtividade. Exigem principalmente transparência (informar o usuário de que ele está interagindo com uma IA).

Direitos dos Afetados e o Papel da ANPD

A legislação brasileira estabelece garantias fundamentais para cidadãos submetidos a decisões tomadas ou apoiadas por algoritmos:

• Direito à Explicação: O cidadão tem o direito de entender os critérios e os motivos que levaram a uma decisão automatizada que afete seus interesses.
• Direito à Contestação e Revisão Humana: Garantia de solicitar que uma pessoa revise decisões automatizadas sobre concursos públicos, benefícios ou penalidades.
• Não Discriminação Algorítmica: Dever de auditabilidade para impedir que modelos reproduzam preconceitos de raça, gênero ou renda presentes em bases de dados históricas.
• Alinhamento com a LGPD e a ANPD: A Autoridade Nacional de Proteção de Dados (ANPD) atua no combate ao vazamento de dados de cidadãos e na regulação do uso de informações pessoais em treinamento de IA.

Exemplos Práticos em Governos Estaduais no Brasil

Diversos estados brasileiros já possuem diretrizes e escolas de governo (como a Escola de Serviço Público do Espírito Santo - ESESP) capacitando servidores para o uso ético da IA:

• Governo do Estado do Espírito Santo: Capacitação contínua de servidores municipais e estaduais com código de ética para elaboração de prompts seguros e proteção de dados sigilosos do cidadão.
• Poder Judiciário (STF e STJ): Utilização de sistemas de IA (como o Victor e o Athos) para agrupar processos por temas de repercussão geral e acelerar o julgamento de ações.
• Governo Federal (Gov.br): Integração de IA para personalização de serviços e facilitação de acesso a direitos trabalhistas e previdenciários.