Blog

Share on facebook
Facebook
Share on twitter
Twitter
Share on linkedin
LinkedIn

Uso indevido de dados alimenta algoritmos capazes de aprofundar discriminação

De forma simples, uma sequência de passos para chegar a uma finalidade. Com o advento da inteligência artificial e do aprendizado de máquina, os algoritmos processam uma quantidade enorme de dados para estabelecer padrões, a partir de critérios previamente estabelecidos, “aprendendo” com os dados de entrada.

Se fornecermos muitos dados relativos a uma determinada doença e às diversas abordagens de tratamento, por exemplo, podemos “aprender” com eles e reconhecer o padrão de melhor abordagem de tratamento. Quanto maior o volume de dados, maior o número de padrões que podem ser reconhecidos e as aplicações desses padrões.

É importante entender que os dados de entrada juntamente com os critérios definidos no algoritmo, influenciarão nos padrões estabelecidos na saída.

Então, se os dados de entrada não respeitarem critérios relativos à diversidade, pluralidade e igualdade, ou se os algoritmos se basearem em critérios não éticos, os resultados poderão refletir uma realidade distorcida, e é aí que a sua vida pode ser impactada pela discriminação algorítmica.

Estamos falando, por exemplo, de pessoas que não estarão habilitadas a um determinado emprego; não farão jus a um determinado benefício ou crédito; oferecerão risco a uma seguradora; merecerão penas mais duras; dentre outras infinitas possibilidades.

Imagine um padrão que aponte que moradores de determinado bairro têm maior propensão a não honrarem seus financiamentos; ou, que determinado grupo de pessoas tende a trazer prejuízos ao plano de saúde.

Tudo isso já é realidade, tem implicações legais, e é neste contexto que se insere a atuação da campanha Salve Seus Dados. Quanto mais dados pessoais disponíveis, maior o número de padrões possíveis de serem mapeados, e maior a possibilidade de discriminação baseada em algoritmos.

Muitas instituições têm acompanhado estas discussões, cujo pano de fundo é o enfoque desta campanha, e aqui te convidamos a acompanhá-las também. Afinal, é do futuro dos seus dados que elas estão falando.

*Venício Dantas Cavalcanti é Analista de Tecnologia da Informação, Advogado, Pós-graduado em Tecnologia da Informação, Pós-graduado em Direito Público, Pós-graduando em Direito Digital e Membro da Comissão de Direito e Tecnologia da OAB/PE. 

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *