SOCIAL DISCRIMINATION BEYOND CYBERSPACE
PROTECTION OF LEGAL SUBJECTS IN THE FRAMEWORK OF ALGORITHMIC GOVERNANCE AND THE GLOBAL EXPANSION OF ARTIFICIAL INTELLIGENCE APPLICATIONS
Keywords:
Social inequality, Artificial intelligence, Algorithm Governance, Big Techs, Digital LawAbstract
It analyzes factors that influence the algorithmic decision-making process that can reinforce social discrimination. Based on the specialized literature, it was noticed that most of the works ended up addressing three issues that deserve a greater space for reflection and that will be deepened here. In a first part, to analyze how the negligence of technology companies influences the conservation of inequality present in society. In a second moment, to discuss how the profiles of programmers and managers of technology companies can lead to the consolidation of prejudices in the analysis and manipulation of data through algorithms, the central issue of modeling bias. Finally, it is intended to map how the feedback of prejudiced data ends up radically expanding phenomena associated with inequality, with new forms of exclusion of vulnerable legal subjects in the face of the expansion of the use of cognitive computing tools and machine learning - the rise of artificial intelligence itself and its impact on the most diverse social strata. Thus, the scope of the approach is to allow researchers in the legal area to approach the field of research on algorithmic governance, seeking to make it more explicit, towards the construction of new hypotheses and possible mechanisms for mitigating the risks and consequences of inappropriate use. this technological framework. The methodology of this research will be focused solely on bibliographical research, with a dogmatic perspective associated with central socio-legal premises.
References
ARIELLA, Sky. Diversity In High Tech Statistics (2022). Apr. 14, 2022. ZIPPIA. Disponível em: https://www.zippia.com/advice/diversity-in-high-tech-statistics/. Acesso em: 16 fev 2023.
BBC NEWS. Entenda o escândalo de uso político de dados que derrubou valor do Facebook e o colocou na mira de autoridades. 20 mar. 2018. Disponível em: https://www.bbc.com/portuguese/internacional-43461751. Acesso em: 20 fev 2023.
BRASSCOM. Relatório de Diversidade no Setor TIC. Relatório de Inteligência e Informação BRI2-2021-018 – v43. São Paulo, dez. 2022. Disponível em: https://brasscom.org.br/pdfs/relatorio-de-diversidade/. Acesso em: 19 fev 2023. p. 5.
CASTILHO, Marcos Alexandre. Algoritmos e Estruturas de Dados 1 [recurso eletrônico]. Curitiba: Independente, 2020. 1 recurso online (272 p.). Disponível em: https://www.academia.edu/43790702/Algoritmos_e_Estruturas_de_Dados_1. Acesso em: 22 fev. 2023. p. 15.
FERGUSON, Andrew. The Police Are Using Computer Algorithms to Tell If You’re a Threat. TIME. October 3, 2017. Tradução livre. Disponível em: https://time.com/4966125/police-departments-algorithms-chicago/. Acesso em: 10 fev 2023.
KNUTH, Donald E. The Art of Computer Programming: Volume 1: Fundamental Algorithms. Addison-Wesley Professional, 1968.
KOBUS, Renata Carvalho; DO CARMO GOMES, Luiz Geraldo. A educação digital no ensino básico como direito fundamental implícito na Era dos Algoritmos. International Journal of Digital Law, Florianopolis, v. 1, n. 2, p. 71-96, jul./dez. 2020.
MEHROTRA, Dhruv. How We Determined Crime Prediction Software Disproportionately Targeted Low-Income, Black, and Latino Neighborhoods. The Markup, December 2, 2021. Disponível em:
https://themarkup.org/show-your-work/2021/12/02/how-we-determined-crime-prediction-softwar- e-disproportionately-targeted-low-income-black-and-latino-neighborhoods. Acesso em 16 de fev. 2022.
NOBLE, Safiya Umoja. Algoritmos da Opressão: como o Google fomenta e lucra com o racismo. Tradução de Felipe Damorim. 2ª ed. Santo André, SP: Rua do Sabão, 2021.
O’NEIL, Cathy. Algoritmos de destruição em massa: como a big data aumenta a desigualdade e ameaça a democracia. Tradução Rafael Abraham. 1ª ed. Santo André, SP: Editora Rua do Sabão, 2020.
PRETALAB. Sobre. Disponível em: https://www.pretalab.com/#sobre. Acesso em: 22 fev. 2023.
ROSSETTO, Geralda Magella de Faria. OS ALGORITMOS E A LÓGICA E A CRÍTICA DE SEUS CONCEITOS. Clicnavegantes, 2021. Colunas Network Rights. Disponível em: https://clicnavegantes.com.br/colunas/network-rights/os-algoritmos-e-a-logica-e-a-critica-de-seus-conceitos/. Acesso em: 24 jan. 2022.
TEIXEIRA, Raoni. Introdução a Algoritmos. Secretaria de Tecnologia Educacional Universidade Federal de Mato Grosso. Ministério da Educação. Universidade Aberta do Brasil. 2019. 26 p.
THE MARKUP. How We Determined Crime Prediction Software Disproportionately Targeted Low-Income Black and Latino Neighborhoods. Disponível em: https://themarkup.org/show-your-work/2021/12/02/how-we-determined-crime-prediction-softwar e-disproportionately-targeted-low-income-black-and-latino-neighborhoods. Acesso em: 16 ago. 2022.
U.S. EEOC, Equal Employment Opportunity Commission. Diversity In High Tech. Disponível em: https://www.eeoc.gov/special-report/diversity-high-tech. Acesso em: 11 fev. 2023.
ZIPPIA. About Us. Disponível em: https://www.zippia.com/about-us/. Acesso em: 22 fev. 2023.
Published
Issue
Section
License
Copyright (c) 2024 Direito.UnB - Law Journal of the University of Brasília
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Autores que publicam na Revista Direito.UnB concordam com os seguintes termos:
- Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons - Atribuição-NãoComercial-SemDerivações 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada na Revista Direito.UnB (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são incentivados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou em suas páginas pessoais) a qualquer momento após à definição do processo editorial.
- Autores concordam que, eventualmente, seus trabalhos poderão ser agregados pela Revista Direito.UnB às bases e sistemas de informação científica existentes (indexadores e bancos de dados atuais) ou que existam no futuro (indexadores e bancos de dados futuros). Os detentores dessas bases de dados terão a possibilidade de realizar as seguintes ações sobre o artigo:
- Reproduzir, transmitir e distribuir o artigo, no todo ou em parte sob qualquer forma ou meio de transmissão eletrônica existente ou desenvolvida no futuro, incluindo a transmissão eletrônica para fins de pesquisa, visualização e impressão;
- Reproduzir e distribuir, no todo ou em parte, o artigo na impressão;
- Capacidade de traduzir certas partes do artigo;
- Extrair figuras, tabelas, ilustrações e outros objetos gráficos e capturar metadados, legendas e artigo relacionado para fins de pesquisa, visualização e impressão;
- Transmissão, distribuição e reprodução por agentes ou autorizada pelos proprietários de distribuidoras de bases de dados;
- A preparação de citações bibliográficas, sumários e índices e referências de captura relacionados de partes selecionadas do artigo;
- Digitalizar e/ou armazenar imagens e texto de artigo eletrônico.
