Para organizações civis, algoritmos não devem ser sigilosos


algoritmo-by-Jorge-Franganillo-cc-by-20

A próxima fronteira do direito digital está nos algoritmos. Essas instruções matemáticas definem o funcionamento de diferentes tecnologias que usam dados pessoais. A grande questão, debatida hoje durante o 8º Seminário de Proteção à Privacidade e aos Dados Pessoais, organizado pelo NIC.br, é: empresas devem manter em segredo o funcionamento de seus algoritmos?

O temor de especialistas que se debruçam sobre o tema é de que os algoritmos fechados, desconhecidos do público por serem considerados segredo industrial por seus criadores, estejam causando discriminação no mundo digital, que transborda para o mundo real.

PUBLICIDADE

Carlos Affonso Souza, do ITSRio, alerta. “Ao usar um algoritmo, devemos sempre nos perguntar quem o programou, como os dados são coletados e porque aquelas informações interessam”, disse.

Segundo ele, o ser humano confia demais na inteligência artificial. “Estamos fazendo mais perguntas às máquinas do que somos capazes de responder nós mesmos. É importante que não passemos nossas responsabilidades para as máquinas”, lembrou.

Souza ressaltou que já há casos no mundo de algoritmos cujo uso equivocado tem efeitos sociais perversos. “Na Polônia usou-se um algoritmo para classificar o nível de empregabilidade de desempregados. E ele classificou uma parcela de pessoas como impossíveis de contratar”, frisou

A China estuda adotar, nos próximos meses, uma espécie de score social, que deverá regular o direito dos cidadão a certos benefícios. “Como um cidadão saberá se sua nota é baixa e como revertê-la sem conhecer o algoritmo?”, questionou.

Transparência, pero no mucho

No setor corporativo, a ideia de expor o funcionamento do algoritmo usado por uma empresa causa arrepios. Conforme Vanessa Butalla, da Serasa Experian, esses sistemas são criados em sigilo para garantir o diferencial ante a concorrência e para dificultar a manipulação pelos usuários.

A seu ver, o usuário não precisa conhecer o funcionamento do algoritmo, mas quais dados o sistema coleta e processa.

“O importante é assegurar clareza e a transparência de quais dados são usados pelos algoritmos. O consumidor precisa entender quais são os dados a respeito dele que podem ser coletados, de onde vieram, como podem ser usados e como fazer para retificar caso estejam errados”, afirmou.

Para Thiago Tavares, do CGI.br e da SaferNet, a falta de transparência sobre o funcionamento dos algoritmos dificulta a criação de leis sobre proteção de dados pessoais.

“A gente não quer regulações que criem barreiras aos negócios. Mas é necessário que a esfera pública encontre respostas para regular este enigma [que são o adequado uso de dados pessoais]. E é muito difícil fazer isso quando a resposta depende de um segredo”, concluiu.

Anterior Idec notifica Pão de Açúcar por falta de transparência em apps
Próximos Microsoft defende dispensa de consentimento de uso de dados pessoais na IoT