Em um mundo que avança rapidamente para a digitalização e coletas de dados inteligentes, a proteção à privacidade coloca em pauta restrições ao uso de dados como nunca ocorreu antes. Além disso, padrões mentais inconscientes e discriminatórios estão sendo reproduzidos em escolhas automatizadas de inteligência artificial, dificultando processos democráticos de conscientização e atitudes pró diversidade. 

Em novembro e dezembro de 2020, um grupo de colaboradores do Instituto Unibanco reuniu-se com pesquisadores do Centro de Referência em Inteligência Empresarial (CRIE) e especialistas para debater como digitalizar a educação sem reproduzir ou aumentar as desigualdades raciais, de gênero e sociais;  de que maneira a nova legislação trazida pela LGPD impacta no manejo de dados do Programa Jovem de Futuro; questões de privacidade envolvidas nos acessos às câmeras, telas e microfones quando falamos sobre a proteção de dados de estudantes; e como podemos pensar em uma ciência de dados mais democrática e promotora das igualdades raciais, de gênero e sociais. 

Foram dias intensos de muita reflexão durante bate-papos, palestras, construção colaborativa em mural virtual e trocas de mensagens por WhatsApp. As discussões promovidas nesses encontros e oficinas de criação e na 2ª Jornada IU do Conhecimento sobre Ciência de Dados na Educação irão subsidiar a elaboração da visão interna do Instituto Unibanco sobre LGPD, ética e desigualdades raciais, sociais e de gênero no uso de dados. Esse documento iniciará a construção de um protocolo/agenda de cuidados e restrições para as pesquisas e demais iniciativas do Instituto Unibanco que utilizem dados e informações dessa natureza. Confira o que os especialistas abordaram nos eventos: 

Combate às desigualdades raciais, sociais e de gênero no uso de dados 

Sil Bahia, diretora de programas do Olabi, organização social que trabalha para democratizar a produção de tecnologia, enfatizou que o conceito de diversidade deve ser pensado de forma ampla, incluindo questões de raça e gênero, mas também sociais, geográficas e etárias. Por isso, é importante devolver humanidade às tecnologias, considerando que elas são feitas por pessoas e não são neutras. “Os projetos de inteligência artificial usam dados de um passado opressor, exprimindo séculos de escravidão e colonização e olhares eurocêntricos”, afirmou.  

Para ilustrar o viés de algoritmo, citou algumas pesquisas, como a do Instituto de Tecnologia da Georgia que mostrou que carros autônomos teriam 5% mais chances de atropelar uma pessoa negra e a da Rede de Observatório de Segurança, que relatou que 90% das pessoas presas por reconhecimento facial são negras. 

Diante disso, o Olabi lançou o PretaLab, plataforma que conecta mulheres negras a empresas de tecnologias no país, que é formado predominantemente por homens (68,3%) e pessoas brancas (58,3%). O PretaLab dialogou com quase 600 mulheres negras para pesquisa e levantamento de dados. Sil Bahia, que coordena o projeto, salientou a importância do levantamento de dados para reflexão e tomada de decisão. 

Proteção de dados na educação 

Fabro Steibel, diretor executivo do Instituto de Tecnologia e Sociedade (ITS), salientou a necessidade de uma agenda propositiva e salientou que existem dois países, dois “Brasis” que precisam ser igualmente considerados: um Brasil superconectado e um Brasil não conectado. Um tem potencial para educação online, o outro, sofre dificuldades. 

Ele ressaltou que estamos naturalizando ações em plataformas de aula ou sessões de terapia online, por exemplo, sem enxergar possíveis problemas futuros. Também chamou atenção para a governança de dados pessoais e algoritmos, através de uma análise pessoal e humanizada sobre cálculos e criação de algoritmos. Pensando em algo que funciona, mas que seja ético, correto e que evite decisões ruins.  

LGPD e uso ético dos dados na educação 

Vanessa Pirró, da KLA Advogados, apresentou os aspectos mais jurídicos da LGPD, a primeira lei sobre proteção de dados pessoais no Brasil, destacando os seguintes princípios:  

• Finalidade, que seria avisar ao usuário o porquê que estou usando esse dado;
• Necessidade, referente a utilizar os dados que você realmente precisa para uma finalidade específica, ao invés de ter uma avalanche de dados sem utilizá-los;
• Transparência, que implica em ser claro e informar ao titular dos dados como e para que eles estão sendo utilizados.
• A LGPD traz, ainda, um conceito chamado Privacy by Design, que determina que quando a empresa for pensar na criação de um serviço, produto ou atividade, a privacidade deve existir desde a sua concepção. 

Jane Reolo, analista sênior da Gerência de Desenvolvimento de Soluções do Instituto Unibanco, trouxe a temática “A tênue linha entre transparência e exposição – o uso ético dos dados na educação.”  Para ela, é fundamental um adensamento reflexivo da LGPD para não apenas reproduzir a dimensão analógica, culturalmente inserida nas escolas. Além disso, a cultura brasileira se baseia em um controle que acontece pela exposição e pela punição pública e, por isso, termos algo como a LGPD é desafiador. É preciso estabelecer um raciocínio aberto e colaborativo, trazendo alunos para o centro, junto aos gestores de todas as instâncias. Jane trouxe, ainda, quatro dimensões para aprofundar a reflexão sobre a LGPD:  

• Ética – referente a um conjunto de regras facultativas que tomamos para avaliar o que fazemos e o que dizemos em função do modo de existência que isso implica;
• Moral – apresenta-se como um conjunto de regras universais e coercitivas, que consiste em julgar ações e intenções referidas a valores transcendentes (certo e errado; verdadeiro e falso); 
• Saber – regras codificadas nas quais são estabelecidas relações entre uma forma e outra de saber;
• Poder – regras coercitivas nas quais são estabelecidas relações de força com outras forças. 

Quer continuar a ler mais sobre esses temas? Confira algumas referências recomendadas por nossos palestrantes: 

Livros:

• “Algorithms of Oppression: How Search Engines Reinforce Racism“, de Safiya Umoja Noble (NYU Press, 2018)
• “Como as democracias morrem“, de Steven Levitsky e Daniel Ziblatt (Editora Zahar, 2018) 

Estudo de Caso: 

“The Legacy of Inbloom” – como uma iniciativa coleta de dados na educação financiada em 100 milhões de dólares pela Fundação Bill & Melinda Gates deu errado e trouxe muito aprendizado 

Estudo LGPD & Educação: 

“LGPD na educação: entenda seus impactos e como as secretarias de educação devem se adaptar“