Inteligência Artificial: aspectos discriminatórios da automatização e a possibilidade de revisão das decisões automatizadas

Lavínya Almeida; Sérgio Torres Teixeira

doi:10.51359/2448-2307.2024.262369

Authors

Lavínya Almeida Puc Minas Gerais https://orcid.org/0000-0002-2711-9795
Sérgio Torres Teixeira Universidade Federal de Pernambuco https://orcid.org/0000-0002-8729-5563

DOI:

https://doi.org/10.51359/2448-2307.2024.262369

Keywords:

artificial intelligence, neutrality, judicial process, automated decision

Abstract

The current article intended to analyze the lack of neutrality of artificial intelligence from the perception of discriminatory biases existing in several fields in which AI is used. Will be observed the impacts of aspects on automation, especially in relation to the judiciary, in view to be the automation big allied to disconting to court lawsuits. In addition, the indispensability of ensuring the right of holders, especially regarding the possibility of reviewing automated decisions, will be highlighted, taking into account the specific Brazilian legislation on privacy and data protection. Also, with regard to automated judicial decisions, the possibility of review will be seen, as well as the need for such review to be carried out by under human scrutiny. In conclusion, it is observed that the intencionality behind the creation of determined form of artificial intelligence is a problematic present in most part systems, reason why is indispensable the cooperation between a transparent judiciary, an informed society and technology professionals with a solid foundation of ethical programming

References

BAMBROUGH, Billy. Apple Card é acusado de discriminação contra mulheres. Forbs, 2019. Disponível em: https://forbes.com.br/forbes-mulher/2019/11/apple-card-e-acusado-de-discriminacao-contra-mulheres/. Acesso em: 31 ago. 2022.

BAHIA, Silvana. Como o racismo algoritmo se vale da ausência de negros na tecnologia. Entrevista concedida ao Hypness, 2020. Disponível em: https://www.hypeness.com.br/2019/08/como-o-racismo-algoritmo-se-vale-da-ausencia-de-negros-na-tecnologia/. Acesso em: 24 ago. 2022.

BRASIL. Constituição da República Federativa do Brasil de 1988. Diário Oficial (da República Federativa do Brasil). Brasília, 5 de outubro de 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 19 set. 2022.

BRASIL. Decreto-Lei n° 678, de 6 de novembro de 1992. Promulga a Convenção Americana sobre Direitos Humanos (Pacto de São José da Costa Rica), de 22 de novembro de 1969. Diário Oficial (da República Federativa do Brasil). Brasília, 6 de novembro de 1992. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto/d0678.htm. Acesso em: 19 set. 2022.

BRASIL. Lei n° 13.105 de 16 de março de 2015. Código de Processo Civil. Diário Oficial (da República Federativa do Brasil). Brasília, 16 de março de 2015. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13105.htm. Acesso em: 10 set. 2022.

BRASIL. Lei n° 13.709 de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Diário Oficial (da República Federativa do Brasil) Brasília, 14 de agosto de 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 3 set. 2022.

BRASIL. Medida Provisória n° 869 de 28 de dezembro de 2018. Altera a Lei nº 13.709, de 14 de agosto de 2018, para dispor sobre a proteção de dados pessoais e para criar a Autoridade Nacional de Proteção de Dados, e dá outras providências. Diário Oficial (da República Federativa do Brasil) Brasília, 28 de dezembro de 2018. Disponível em: https://www.congressonacional.leg.br/materias/medidas-provisorias/-/mpv/135062. Acesso em: 3 set. 2022.

BRITO, Bruno. Ascom TJPE. TJPE usará inteligência artificial para agilizar processos de execução fiscal no Recife. Disponível em: https://www.tjpe.jus.br/inicio?p_p_id=101&p_p_lifecycle=0&p_p_state=maximized&p_p_mode=view&_101_struts_action=%2Fasset_publisher%2Fview_content&_101_returnToFullPageURL=https%3A%2F%2Fwww.tjpe.jus.br%2Finicio%3Fp_auth%3DbArS1onF%26p_p_id%3D3%26p_p_lifecycle%3D1%26p_p_state%3Dnormal%26p_p_state_rcv%3D1&_101_assetEntryId=2079372&_101_type=content&_101_urlTitle=tjpe-usara-inteligencia-artificial-para-agilizar-processos-de-execucao-fiscal-no-recife&inheritRedirect=true. Acesso em: 9 set. 2022.

CONSELHO NACIONAL DE JUSTIÇA. Justiça em Números 2022. Brasília: CNJ, 2022, p. 81. ISBN: 978-65-5972-493-2. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2022/09/justica-em-numeros-2022.pdf. Acesso em: 15 ago. 2022.

COHEN, Julie E. What Privacy Is For, 126 Harv. L. Rev. 1904-1933. 2013.

Conciul of Europe. Recommendation CM/Rec(2010)13. 2010, p.3. Disponível em: https://www.garanteprivacy.it/documents/10160/10704/Recommendation+2010+13+Profiling.pdf/42ed93be-031c-4298-bed7-ae79231c7ad5?version=1.2. Acesso em: 03 set. 2022.

GRECO, Luís. Poder de julgar sem responsabilidade de julgador: a impossibilidade jurídica do juiz-robô. São Paulo: Marcial Pons, 2020. p. 45-47.

LARSON; MATTU; KIRCHNER; ANGWIN. How We Analyzed the COMPAS Recidivism Algorithm. Disponível em: https://www.propublica.org/article/how-we-analyzed-the-compasrecidivism-algorithm. Acesso em: 25 ago. 2022.

MAYBIN, Simon. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. BBC NEWS. 2016. Disponível em: https://www.bbc.com/portuguese/brasil-37677421. Acesso em: 31 ago. 2022.

PASQUALE, Frank. The black box society. The secret algorithms that control money and Information. Cambridge: Harvard University Press, 2015.

PATNAIK, Subrat. Apple co-founder says Apple Card algorithm gave wife lower credit limit. Reuters. 2019. Disponível em: https://www.reuters.com/article/goldman-sachs-apple-idUSL3N27Q0R2. Acesso em: 31 ago. 2022.

ROCKCONTENT. Saiba como funciona um algoritmo e conheça os principais exemplos existentes no mercado. 2019. Disponível em: https://rockcontent.com/br/blog/algoritmo/. Acesso em: 25 ago. 2022.

RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Organização, seleção e apresentação de Maria Celina Bodin de Moraes. Tradução de Danilo Doneda e Luciana Cabral Doneda. Rio de Janeiro: Renovar, 2008.

RODRIGUES, Bruno Alves. A Inteligência Artificial no Poder Judiciário e a convergência com a consciência humana para a efetividade da Justiça. Thomson Reuters Revista dos Tribunais. Ed. 2021. 2021, p. 224.

SALGADO, Joaquim Carlos. Princípios Hermenêuticos dos Direitos Fundamentais. 2001. p. 260-261.

SUPREMO TRIBUNAL FEDERAL. Projeto Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori=1. Acesso em: 9 set. 2022.

TRIBUNAL DE JUSTIÇA DE PERNAMBUCO. TJPE usará inteligência artificial para agilizar processos de execução fiscal no Recife. 2018. Disponível em: https://portal.tjpe.jus.br/comunicacao/-/asset_publisher/ubhL04hQXv5n/content/tjpe-usara-inteligencia-artificial-para-agilizar-processos-de-execucao-fiscal-no-recife Acesso em: 20 set. 2022.

VASCONCELOS, André; BRAZ, Lucas. Inteligência Artificial na tomada de decisões judiciais: três premissas básicas. Revista Eletrônica de Direito Processual. Universidade do Estado do Rio de Janeiro. ISSN 1982-7636. Rio de Janeiro. 2022, p. 73. Disponível em: https://www.e-publicacoes.uerj.br/index.php/redp/article/view/53537/36309. Acesso em: 19 set. 2022.

VEALE, M.; EDWARDS, L. Clarity, surprises, and further questions in the Article 29 Working Party draft guidance on automated decision-making and profiling. Computer Law & security review, 34, 2018. p. 398-404.

WOLKART, Erik Navarro. Inteligência Artificial e Sistemas de Justiça. Revista dos Tribunais. São Paulo: Thomson Reuters, 2022, p. 215. ISBN 978-65-5991-299-5.

Artificial Intelligence: discriminatory aspects of automation and the possibility of reviewing automated decisions

Authors

DOI:

Keywords:

Abstract

References

Downloads

Published

Issue

Section

License

Language

Information

Developed By