DISCRIMINAÇÃO SOCIAL PARA ALÉM DO CIBERESPAÇO: PROTEÇÃO DE DIREITOS NA ERA DIGITAL
PROTECTION OF LEGAL SUBJECTS IN THE FRAMEWORK OF ALGORITHMIC GOVERNANCE AND THE GLOBAL EXPANSION OF ARTIFICIAL INTELLIGENCE APPLICATIONS
Palavras-chave:
Desigualdade Social, Inteligência Artificial, Governança de Algoritmos, Big Techs, Direito DigitalResumo
O presente artigo objetiva refletir sobre os fatores que influenciam o processo de tomada de decisões algorítmicas, que podem reforçar discriminações sociais. A partir de uma revisão bibliográfica preliminar fundamentada na literatura especializada, mediante consulta a artigos científicos selecionados em bases de dados de revistas acadêmicas, constatou-se que a maioria dos estudos aborda três questões que exigem uma análise mais profunda e serão exploradas neste estudo. Na primeira parte, será analisado como a negligência das empresas de tecnologia contribui para a manutenção das desigualdades sociais existentes. Em seguida, será discutido como os perfis dos programadores e gestores podem influenciar os preconceitos na análise e manipulação dos dados por algoritmos, abordando o viés de modelagem (model bias). Por fim, pretende-se mapear como a retroalimentação de dados preconceituosos perpetua a desigualdade social, criando novas formas de exclusão de sujeitos de direito vulneráveis frente à expansão do uso de ferramentas de computação cognitiva e aprendizagem de máquina. Esta pesquisa exploratória visa proporcionar familiaridade com o problema, tornando-o mais explícito e permitindo a construção de novas hipóteses. A metodologia desta pesquisa será focada unicamente na pesquisa bibliográfica, através da análise de textos de diversos autores e relatórios técnicos, com critério de pertinência ao tema abordado.
Referências
ARIELLA, Sky. Diversity In High Tech Statistics (2022). Apr. 14, 2022. ZIPPIA. Disponível em: https://www.zippia.com/advice/diversity-in-high-tech-statistics/. Acesso em: 16 fev 2023.
BBC NEWS. Entenda o escândalo de uso político de dados que derrubou valor do Facebook e o colocou na mira de autoridades. 20 mar. 2018. Disponível em: https://www.bbc.com/portuguese/internacional-43461751. Acesso em: 20 fev 2023.
BRASSCOM. Relatório de Diversidade no Setor TIC. Relatório de Inteligência e Informação BRI2-2021-018 – v43. São Paulo, dez. 2022. Disponível em: https://brasscom.org.br/pdfs/relatorio-de-diversidade/. Acesso em: 19 fev 2023. p. 5.
CASTILHO, Marcos Alexandre. Algoritmos e Estruturas de Dados 1 [recurso eletrônico]. Curitiba: Independente, 2020. 1 recurso online (272 p.). Disponível em: https://www.academia.edu/43790702/Algoritmos_e_Estruturas_de_Dados_1. Acesso em: 22 fev. 2023. p. 15.
FERGUSON, Andrew. The Police Are Using Computer Algorithms to Tell If You’re a Threat. TIME. October 3, 2017. Tradução livre. Disponível em: https://time.com/4966125/police-departments-algorithms-chicago/. Acesso em: 10 fev 2023.
KNUTH, Donald E. The Art of Computer Programming: Volume 1: Fundamental Algorithms. Addison-Wesley Professional, 1968.
KOBUS, Renata Carvalho; DO CARMO GOMES, Luiz Geraldo. A educação digital no ensino básico como direito fundamental implícito na Era dos Algoritmos. International Journal of Digital Law, Florianopolis, v. 1, n. 2, p. 71-96, jul./dez. 2020.
MEHROTRA, Dhruv. How We Determined Crime Prediction Software Disproportionately Targeted Low-Income, Black, and Latino Neighborhoods. The Markup, December 2, 2021. Disponível em:
https://themarkup.org/show-your-work/2021/12/02/how-we-determined-crime-prediction-softwar- e-disproportionately-targeted-low-income-black-and-latino-neighborhoods. Acesso em 16 de fev. 2022.
NOBLE, Safiya Umoja. Algoritmos da Opressão: como o Google fomenta e lucra com o racismo. Tradução de Felipe Damorim. 2ª ed. Santo André, SP: Rua do Sabão, 2021.
O’NEIL, Cathy. Algoritmos de destruição em massa: como a big data aumenta a desigualdade e ameaça a democracia. Tradução Rafael Abraham. 1ª ed. Santo André, SP: Editora Rua do Sabão, 2020.
PRETALAB. Sobre. Disponível em: https://www.pretalab.com/#sobre. Acesso em: 22 fev. 2023.
ROSSETTO, Geralda Magella de Faria. OS ALGORITMOS E A LÓGICA E A CRÍTICA DE SEUS CONCEITOS. Clicnavegantes, 2021. Colunas Network Rights. Disponível em: https://clicnavegantes.com.br/colunas/network-rights/os-algoritmos-e-a-logica-e-a-critica-de-seus-conceitos/. Acesso em: 24 jan. 2022.
TEIXEIRA, Raoni. Introdução a Algoritmos. Secretaria de Tecnologia Educacional Universidade Federal de Mato Grosso. Ministério da Educação. Universidade Aberta do Brasil. 2019. 26 p.
THE MARKUP. How We Determined Crime Prediction Software Disproportionately Targeted Low-Income Black and Latino Neighborhoods. Disponível em: https://themarkup.org/show-your-work/2021/12/02/how-we-determined-crime-prediction-softwar e-disproportionately-targeted-low-income-black-and-latino-neighborhoods. Acesso em: 16 ago. 2022.
U.S. EEOC, Equal Employment Opportunity Commission. Diversity In High Tech. Disponível em: https://www.eeoc.gov/special-report/diversity-high-tech. Acesso em: 11 fev. 2023.
ZIPPIA. About Us. Disponível em: https://www.zippia.com/about-us/. Acesso em: 22 fev. 2023.
Publicado
Edição
Seção
Licença
Copyright (c) 2024 Direito.UnB - Revista de Direito da Universidade de Brasília
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Autores que publicam na Revista Direito.UnB concordam com os seguintes termos:
- Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons - Atribuição-NãoComercial-SemDerivações 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada na Revista Direito.UnB (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são incentivados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou em suas páginas pessoais) a qualquer momento após à definição do processo editorial.
- Autores concordam que, eventualmente, seus trabalhos poderão ser agregados pela Revista Direito.UnB às bases e sistemas de informação científica existentes (indexadores e bancos de dados atuais) ou que existam no futuro (indexadores e bancos de dados futuros). Os detentores dessas bases de dados terão a possibilidade de realizar as seguintes ações sobre o artigo:
- Reproduzir, transmitir e distribuir o artigo, no todo ou em parte sob qualquer forma ou meio de transmissão eletrônica existente ou desenvolvida no futuro, incluindo a transmissão eletrônica para fins de pesquisa, visualização e impressão;
- Reproduzir e distribuir, no todo ou em parte, o artigo na impressão;
- Capacidade de traduzir certas partes do artigo;
- Extrair figuras, tabelas, ilustrações e outros objetos gráficos e capturar metadados, legendas e artigo relacionado para fins de pesquisa, visualização e impressão;
- Transmissão, distribuição e reprodução por agentes ou autorizada pelos proprietários de distribuidoras de bases de dados;
- A preparação de citações bibliográficas, sumários e índices e referências de captura relacionados de partes selecionadas do artigo;
- Digitalizar e/ou armazenar imagens e texto de artigo eletrônico.
