MPSP pede esclarecimentos sobre programa de educação do governo que usa IA

O Ministério Público de São Paulo (MPSP) pede esclarecimentos ao governo estadual sobre o uso da plataforma “Elefante Letrado”, que escuta a leitura de crianças nas escolas paulistas e aponta erros e acertos com Inteligência Artificial (IA). O prazo é de 30 dias.

Segundo denúncia, as famílias e responsáveis não foram consultadas sobre o cadastro e uso dos dados pessoais da criança, assim como a voz. A principal preocupação é que as informações estejam sendo usadas para treinar IA, o que vai contra a Lei Geral de Proteção de Dados (LGPD).

A plataforma capta a voz dos alunos do 1º ao 5º do Ensino Fundamental durante as atividades de leitura, utiliza IA para analisar velocidade, acertos, erros e prosódia.

O promotor de Justiça Dr. Moacir Menicheli Reis pediu esclarecimentos preliminares, porque considera não haver elementos suficientes para apontar irregularidades. Caso seja confirmado a ilegalidade, o MPSP deve aprovar uma investigação para depois enviar para julgamento de um juiz.

A Secretaria Municipal de Educação de São Paulo e Elefante Letrado Serviços Educacionais Ltda. devem enviar as respostas em até 30 dias, junto de provas.

O Metrópoles entrou em contato com ambos, mas ainda não obteve retorno. O espaço segue aberto.

Receba no seu email as notícias de Metrópoles SP

Frequência de envio: Diário

Ver todas

Assinar

Ver todas as newsletters

De acordo com o site da empresa, os dados podem ser compartilhados com empresa de desenvolvimento do aplicativo, empresa de de desenvolvimento de Software da Elefante Letrado, Amazon Web Services (responsável pelo armazenamento em nuvem que dos dados) e autoridades públicas em situações de necessidade.

“Sempre que efetuado, o compartilhamento de dados será realizado dentro dos limites e propósitos do nosso negócio, em conformidade com a finalidade do tratamento dos dados pessoais e de acordo com o que autoriza a legislação aplicável”, afirma o site da Elefante Letrado.

A plataforma informa ainda que adota como base a legislação da União Europeia e inclui cláusulas contratuais específicas quando necessário, atendendo às exigências do contratante — no caso, a Secretaria da Educação do Estado de São Paulo.

O que diz a LGPD sobre dados de crianças em empresas?

A Lei Geral de Proteção de Dados (LGPD) é rígida quanto aos dados de crianças e adolescentes brasileiros. Ela exige o consentimento de um responsável legal para fornecer os dados para empresas, o documento precisa ser claro e objetivo sobre o que será compartilhado.

A escola e os pais precisam ser informados caso os dados sejam usados para treinar IA. Novas inserções de elementos por parte dos usuários também devem ocorrer de forma controlada e com avisos, para evitar vazamento de dados sensíveis.

A legislação também proíbe expressamente perfilamento comportamental e comercial, que consiste em mapear e analisar o comportamento de uso do aplicativo e criar padrões de compra e características psicológicas das crianças.

Em caso de não cumprimento, a Elefante Letrado pode receber advertência, suspensão de atividades e multa de até R$ 50 milhões. Também pode ser instaurado um processo de improbidade administrativa contra o governo estadual.