MIKHAIL FAVALESSA
Da Redação
A Prefeitura de Cáceres lançou uma licitação para monitorar crianças e adolescentes nas escolas com uso de inteligência artificial (IA) "preventiva". Uma especialista no assunto aponta riscos à privacidade e à proteção de dados dos jovens.
A diretora-executiva da Open Knowledge Brasil, Fernanda Campagnucci, destacou que em nenhuma das 125 páginas do termo de referência (TR) e do edital está prevista a proteção da privacidade, dos dados, a mitigação de riscos ou ainda garantias contra "viés" da tecnologia a ser implementada.
"E este é o problema mais grave deste edital: afinal, é uma tecnologia preditiva, que orienta decisões sobre aprendizagem e avaliação de crianças e adolescentes", apontou ela em uma publicação no Twitter.
Leia mais:
Titular de cartório de Tangará é alvo de sindicância
A contratação é para um programa de computador que faça "a tomada de decisões, com ênfase em fortalecer o seu programa de ensino pautado pelas ações pedagógicas individualizadas e de caráter preventivo ao aluno, antecipando-se e, evitando que cada um (...) carregue (...) uma ou outra dificuldade de assimilação de conteúdo".
Um modelo de acompanhamento seria elaborado com dados "em tempo real" dos alunos e alunas.
Trocas de dados com outras áreas envolvendo as crianças, em especial a saúde, estão previstos para alimentar o programa de computador.
O Termo de Referência, diz a especialista, parece um "copia e cola" de compras de equipamentos de Tecnologia da Informação (TI), que são diferentes de programas que envolvem dados sensíveis de cidadãos.
"Há uma cláusula de estudo de código fonte, mas parece mais ser uma obrigação da contratada de conhecer os sistemas da Prefeitura para integrá-los do que a auditabilidade do software contratado, que seria fundamental numa contratação de IA", critica.
O programa deverá emitir relatórios de aprendizagem de cada aluno de forma automatizada, sem intervenção ou avaliação dos professores.
O edital prevê envio de mensagens de texto às famílias com os relatórios, a seremm acessados por meio de aplicativo específico. O aplicativo envolveria novo "fluxo de dados", o que aumentaria os riscos de exposição.
Dados médicos das crianças têm previsão de serem utilizados para "ações pedagógicas diferenciadas" no edital.
"Uma licitação desse tipo deveria passar, no mínimo, por consulta pública e escuta especializada. Primeiro, com a comunidade escolar, para entender a necessidade real. Se a demanda existe, o desenho mais responsável do TR seria o próximo passo - desta e de qqr contratação de IA", defendeu Campagnucci.
Quer receber notícias no seu celular? Participe do nosso grupo do WhatsApp clicando aqui .
Tem alguma denúncia para ser feita? Salve o número e entre em contato com o canal de denúncias do Midiajur pelo WhatsApp: (65) 993414107. A reportagem garante o sigilo da fonte.
