Mundo dos dados segue para a equidade ou para discriminação?

Mundo dos dados segue para a equidade ou para discriminação?

Martina Hanna do Nascimento El Atra, advogada da MABE Advogados (2)

*Martina Hanna do Nascimento El Atra

O mundo atual é baseado na economia de dados. Empresas, governos e indivíduos coletam e usam dados para tomar decisões, fornecer serviços e criar novos produtos o tempo todo e de formas diferentes.

Agora, com o avanço da tecnologia, os sistemas passaram a utilizar a Inteligência Artificial (IA) e, na grande maioria das vezes, esses sistemas de IA são interligados com dados. Isso significa que a IA está sendo usada para tratar uma quantidade crescente de dados, o que pode trazer benefícios significativos para a sociedade.

Como exemplo, a IA pode ser usada para melhorar o diagnóstico médico, personalizar o aprendizado e tornar a segurança pública mais eficaz. Isto é, todas as áreas de atuações estão sendo impactadas positivamente com a tecnologia.

No entanto, a IA também pode ser usada para perpetuar preconceitos. Isso ocorre porque a IA é treinada com base de dados que são coletados e processados por seres humanos e, consequentemente, os seres humanos são dotados de sentimentos e possíveis preconceitos.

Um acontecimento real disso aconteceu com o  sistema de reconhecimento facial integrado com IA utilizado pela Polícia Militar do Rio de Janeiro (PM-RJ). O sistema foi usado para localizar pessoas com mandados de prisões expedidos, porém, o sistema reconheceu erroneamente uma mulher negra, que foi confundida com uma criminosa, tendo sido consequentemente detida injustamente por duas vezes.

Esse caso é apenas um exemplo de como a IA pode ser usada para discriminar pessoas com base em sua raça, gênero ou origem étnica ou então deflagrar que o sistema não é 100% seguro, pois existem margens de erro.

Contudo, por mais que existam esses gaps, acredito que a IA pode ser um caminho para encontrarmos a equidade e a igualdade de direitos. Isso ocorre porque a IA não é dotada de sentimentos e preconceitos como os seres humanos.

Entendo que o Brasil precisa começar a corrida a favor da inovação para que possamos aproveitar o que a tecnologia traz de pontos positivos a todos nós, visto que um grande problema que pode dificultar o uso da IA para promover a equidade e a igualdade de direitos no Brasil é a falta de interoperabilidade entre os sistemas de dados.

Isso significa que os dados coletados por diferentes órgãos e entidades não são compartilhados entre si. Isso pode dificultar a identificação de padrões e tendências que podem ser usados para combater a discriminação.

Por exemplo, um sistema de saúde pode coletar dados sobre o histórico médico de um paciente. Esses dados podem ser usados para identificar fatores de risco para doenças que podem afetar pessoas de determinadas raças ou origens étnicas.

No entanto, se esses dados não forem compartilhados com outros sistemas, como o de assistência social, pode ser difícil identificar pessoas que precisam de apoio para reduzir esses riscos.

Nota-se que no Brasil os órgãos públicos são extremamente despreparados frente à proteção e a privacidade de dados, tanto assim é que alguns órgãos já causaram grandes vazamentos de dados.

Para que a IA possa ser usada de forma eficaz para promover a equidade e a igualdade de direitos no Brasil é necessário que os sistemas de dados sejam interoperáveis. Isso permitiria que os dados fossem compartilhados entre diferentes órgãos e entidades, o que facilitaria a identificação de padrões e tendências que podem ser usados para combater a discriminação. Dessa forma, a IA funcionaria como é sua essência: sem sentimentos e preconceitos.

*Martina Hanna do Nascimento El Atra é Advogada Especialista em Direito Digital pela Fundação Getúlio Vargas – FGV. É Coordenadora do Departamento de Direito Digital e Privacidade e Proteção de Dados da MABE Advogados Associados. Atua com Direito Digital, Privacidade e Proteção de Dados, Direito Empresarial e Contratual.

 

Deixe uma resposta