O uso de reconhecimento facial em escolas está crescendo rapidamente no país. Um relatório de março deste ano do grupo de pesquisas sobre direitos humanos e tecnologia Internetlab apontava o uso do recurso em um estado (Tocantins) e 14 municípios. Pesquisadores apontam que o sistema costuma operar em equipamentos velhos, desatualizados e com baixa capacidade. Professores do Paraná, por exemplo, relataram  que as câmeras têm uma resolução tão baixa que não conseguem captar os rostos de muitos alunos na sala de aula. Os alunos sentados atrás da segunda fileira e alguns alunos negros, autistas e cadeirantes ficam excluídos.

“Se uma criança está sendo identificada de forma errada, pode impactar com corte do programa Bolsa Família, por exemplo”, afirma a pesquisadora. E o pior é que dificilmente esse reconhecimento facial consegue reconhecer alunos negros”, ele continua.

“Só não virou um constrangimento porque nós ainda temos a opção da chamada manual.”“A gente sabe muito pouco como as empresas de segurança/vigilância estão tratando esses dados. No caso de pessoas já marginalizadas, pretas, pobres, um tratamento irregular tem um peso muito negativo. Tanto de autonomia dos dados, como na vida prática. Ou seja, essas pessoas podem levar desde faltas erradas até terem os seus dados compartilhados com outros órgãos, como segurança pública, para identificar suspeitos”, continua.

“Nunca funciona porque a câmera é ruim e as salas são mal iluminadas. Em muitas faltam lâmpadas”, disse um docente de Curitiba que não quis ser identificado. Com os erros frequentes, ele parou de usar o recurso e só faz a chamada manual. Diz que, por enquanto, isso ainda é possível, mas há uma cobrança da diretoria e da Secretária de Educação para obrigar o uso do reconhecimento facial em todas as aulas.

O Paraná ainda não havia oficialmente lançado o seu sistema, então, de lá pra cá, mais 399 cidades foram adicionadas à lista. “Há um movimento tão forte pelo uso dessa tecnologia que nosso levantamento se desatualizou rápido”, disse uma das coordenadoras do estudo, Clarice Tavares.

Pesquisadores notaram que as justificativas para o uso do reconhecimento facial são bem parecidos. O argumento geral é de encurtar o tempo gasto com chamada (de cinco minutos passaria para um), evitar evasão escolar (já que o sistema pode mostrar quem está faltando muito e, se for o caso, notificar o Conselho Tutelar), e aumentar a segurança dos alunos.

O relatório questiona que, embora estas questões sejam legítimas – são, afinal, problemas históricos das escolas brasileiras –, o reconhecimento facial pode não ser a melhor maneira de lidar com elas.

“A gente sabe muito pouco como as empresas de segurança/vigilância estão tratando esses dados. No caso de pessoas já marginalizadas, pretas, pobres, um tratamento irregular tem um peso muito negativo. Tanto de autonomia dos dados, como na vida prática. Ou seja, essas pessoas podem levar desde faltas erradas até terem os seus dados compartilhados com outros órgãos, como segurança pública, para identificar suspeitos”, continua.

No ano passado, professores da rede de ensino pública do Paraná foram surpreendidos com o que eles chamaram de “trambolho”: um pedestal acoplado a uma televisão, computador, teclado, mouse, microfone e webcam. Receberam a orientação de que essa estrutura deveria ser posicionada em local privilegiado da sala de aula, ao lado do professor.

O nome dado pela Secretaria de Educação do estado é “Educatron”, mas, além de trambolho, os professores também o chamam de “deceptron” por causa das várias falhas e erros no sistema.

Oficialmente, o Educatron serve para passar conteúdos multimídia e fazer videochamadas com outros professores e palestrantes. Na prática, porém, ele também é usado para fazer o reconhecimento facial dos alunos, substituindo a tradicional chamada dos nomes dos alunos por ordem alfabética.

O reconhecimento facial foi implantado nas 1,7 mil escolas do estado gradativamente desde o ano passado. Além do Educatron, os professores também usam os próprios celulares pessoais para tirar fotos da turma e enviar para o sistema identificar os rostos.

Mais do que apenas identificar os alunos presentes na sala, a ideia também era que o sistema reconhecesse expressões faciais dos alunos, como uma forma de medir como eles estão se comportando.

Um projeto piloto foi implantado em uma escola cívico-militar do estado no início do ano. Os alunos foram monitorados durante o tempo do experimento com a finalidade de gerar gráficos de atenção e dispersão – ou seja, medir a qualidade das aulas por meio das emoções demonstradas pelos estudantes.

O relatório aponta fragilidades do sistema de vigilância, entre elas o armazenamento dos dados pessoais dos estudantes e professores, que segundo os pesquisadores fere a Lei Geral de Proteção de Dados (LGPD). 

Um edital lançado pela Tecnologia da Informação e Computação do Paraná (Celepar) em parceria com a Hotmilk, uma aceleradora de startups ligada à PUC-PR, em 2021, selecionou startups para, entre outras áreas, fornecer uma solução de “monitoramento comportamental de alunos, por meio de vídeo e voz, utilizando inteligência artificial para coleta, processamento e classificação de emoções”.

A Celepar confirmou aos pesquisadores a realização de testes a partir da biometria facial para o monitoramento comportamental dos alunos com a câmera Educatron. Além das salas de aula, também houve um teste com imagens captadas de uma torre fora do colégio usando o software SecurOS, da empresa israelense Intelligent Security Systems (ISS).

O software faz parte de um projeto que implantou câmeras de segurança em torres de escolas utilizando inteligência artificial para medir comportamentos que possam representar riscos à integridade dos alunos e servidores, segundo o relatório.

A Celepar informou aos pesquisadores que os testes não foram eficazes por limitações de captação das câmeras. Não está claro, porém, se o governo irá persistir com os testes.

Os autores da pesquisa citam que há diversos estudos (como da neurocientista Lisa Feldman Barrett) que mostram que uma pessoa não necessariamente terá expressões faciais de raiva ou agressividade antes de cometer algum ato violento, por exemplo. Por outro lado, um aluno classificado pela inteligência artificial como “violento” poderá ter prejuízos na sua vida escolar e no mercado de trabalho se for classificado erroneamente como “violento”.

Além disso, os sistemas de reconhecimento facial “tendem a interpretar expressões faciais de pessoas brancas e negras de modo distinto, atribuindo sentimentos negativos com maior frequência em pessoas negras”, segundo o relatório.

Como os algoritmos são feitos e treinados por pessoas, eles tendem a reproduzir discriminações que já existem na sociedade. Um estudo de 2019 da Rede Observatórios de Segurança, por exemplo, mostrou que 90,5% dos presos por reconhecimento facial no Brasil eram negros.

Outra questão é que, apesar de a Celepar ter desenvolvido o sistema de biometria, a empresa privada Valid ganhou uma licitação para armazenar os dados biométricos dos alunos ao custo de R$ 4,5 milhões. Uma das especificações do edital era a necessidade de “detecção de emoções”.

A Valid é uma das maiores empresas do país no ramo de documentação. Ela chegou a questionar, durante a fase da licitação, se seria mesmo necessário armazenar dados de emoção porque eles não seriam fundamentais para a identificação biométrica. E a resposta da Celepar foi de que era, sim, necessário, “dado o interesse de futuras análises estatísticas”.

Após ganhar o processo licitatório, a Valid criou um banco de dados biométricos em forma de hashes (um representante alfanumérico criptografado) das fotos dos alunos. As imagens foram tiradas por servidores das escolas, que foram orientados a coletar três fotos de cada estudante – uma de frente e uma de cada lado do perfil.

De acordo com a Celepar, as imagens ficam exclusivamente em sua posse, são armazenadas em seu servidor e em nuvem não especificada. A transferência de dados para a Valid ocorre em fluxo contínuo, de modo que as imagens dos alunos não ficariam retidas pela empresa.

Henrique Kramer, pesquisador que fez parte do estudo, lembra que, no ano passado, houve mais de 300 mil disparos de SMS com mensagem de apoio ao ex-presidente Jair Bolsonaro e contra o Supremo Tribunal Federal, em plena campanha eleitoral, usando dados da Celepar.

“Naquela oportunidade ficou evidente que bases de dados da Administração pública estadual não foram adequadamente protegidas e dados como números de celulares foram utilizados por uma empresa contratada pelo estado do Paraná de forma inadequada. Ao que sabemos esse caso está ainda sob investigação, mas a falta de proteção à dados pessoais foi flagrante”, afirmou.

Pais de estudantes também se mostram preocupados.. “Eles não pediram a minha autorização para tirar foto do meu filho. Pra fazer o reconhecimento significa armazenar a imagem dele em algum lugar que eu não sei onde é”, diz Claudia Mendes Campos, mãe de um aluno do 7° ano do Fundamental II do Colégio Estadual do Paraná.

“Meu filho reclama bastante que o sistema demora muito e não reconhece os rostos de alguns alunos.”, afirma. “E os professores têm que fazer chamada em cada aula, mesmo quando é geminada, então é muito tempo gasto. Era para economizar tempo, mas por um lado é uma invasão, e por outro perda de tempo."

*Agência Pública