O PSol entrou com um pedido de investigação na Promotoria de Educação do Ministério Público de São Paulo para apurar o uso do ChatGPT para a produção de material didático para alunos do ensino público paulista.

A notícia de fato (que busca dar publicidade à ação) é assinada pela deputada federal Sâmia Bomfim (SP), a deputada estadual Monica Seixas e a vereadora Luana Alves. Na peça, citam que o governo Tarcísio de Freitas (Republicanos) enviou um documento a professores contendo orientações para a produção do material do 3º bimestre de 2024. 

O ChatGPT seria utilizado para elaborar a “primeira versão da aula com base nos temas pré-definidos e referências concedidas pela secretaria”, de modo que os professores seriam “responsáveis por editar o material e encaminhar para uma equipe interna da secretaria, que fará a revisão final de aspectos linguísticos e formatação”.

A Folha de S.Paulo antecipou que os docentes irão revisar todo o material produzido pela tecnologia de Inteligência Artificial. Mas especialistas alertam que não existe regulamentação do uso da ferramenta em território brasileiro.

O PSol alerta que o ChatGPT é um modelo de linguagem treinado com base em grandes volumes de dados (isto é, grandes conjuntos de dados textuais da internet), que “acaba por refletir e amplificar preconceitos existentes nas redes –tal qual fake news, conteúdos que negam o Holocausto, relativizam o racismo contra pessoas negras e migrantes, e pregam a violência contra mulheres e LGBT’s”.

Em nota, a Secretaria de Educação de São Paulo disse que o conteúdo gerado pela Inteligência Artificial será testado em sala de aula e que a ferramenta será uma forma de aprimorar o material produzido pelos professores.