Inteligência Artificial: aspectos discriminatórios da automatização e a possibilidade de revisão das decisões automatizadas
DOI :
https://doi.org/10.51359/2448-2307.2024.262369Mots-clés :
inteligência artificial, neutralidade, processo Judicial, decisão automatizadaRésumé
O presente artigo objetiva uma análise acerca da ausência de neutralidade da Inteligência Artificial a partir da percepção de vieses discriminatórios existentes em diversas searas em que a IA é utilizada. Será observado os impactos de tais aspectos na automatização, especialmente no âmbito do judiciário, tendo em vista ser a automatização grande aliada para o descontingenciamento dos processos judiciais. Ademais, irá ser ressaltado a imprescindibilidade de se assegurar o direito dos titulares sobretudo acerca da possibilidade de revisão das decisões automatizadas, levando em consideração a legislação brasileira específica sobre privacidade e proteção de dados. Ainda, no que tange as decisões judicias automatizadas, será visto a possibilidade de revisão, bem como a necessidade de que tal revisão seja executada pela sob o crivo humano. Em conclusão, fica observado que a intencionalidade por trás da criação de determinada forma de Inteligência artificial é uma problemática presente em grande parte dos sistemas, razão pela qual é indispensável a cooperação entre um judiciário transparente, uma sociedade informada e profissionais de tecnologia com uma base sólida sobre programação ética.
Références
BAMBROUGH, Billy. Apple Card é acusado de discriminação contra mulheres. Forbs, 2019. Disponível em: https://forbes.com.br/forbes-mulher/2019/11/apple-card-e-acusado-de-discriminacao-contra-mulheres/. Acesso em: 31 ago. 2022.
BAHIA, Silvana. Como o racismo algoritmo se vale da ausência de negros na tecnologia. Entrevista concedida ao Hypness, 2020. Disponível em: https://www.hypeness.com.br/2019/08/como-o-racismo-algoritmo-se-vale-da-ausencia-de-negros-na-tecnologia/. Acesso em: 24 ago. 2022.
BRASIL. Constituição da República Federativa do Brasil de 1988. Diário Oficial (da República Federativa do Brasil). Brasília, 5 de outubro de 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 19 set. 2022.
BRASIL. Decreto-Lei n° 678, de 6 de novembro de 1992. Promulga a Convenção Americana sobre Direitos Humanos (Pacto de São José da Costa Rica), de 22 de novembro de 1969. Diário Oficial (da República Federativa do Brasil). Brasília, 6 de novembro de 1992. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto/d0678.htm. Acesso em: 19 set. 2022.
BRASIL. Lei n° 13.105 de 16 de março de 2015. Código de Processo Civil. Diário Oficial (da República Federativa do Brasil). Brasília, 16 de março de 2015. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13105.htm. Acesso em: 10 set. 2022.
BRASIL. Lei n° 13.709 de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Diário Oficial (da República Federativa do Brasil) Brasília, 14 de agosto de 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 3 set. 2022.
BRASIL. Medida Provisória n° 869 de 28 de dezembro de 2018. Altera a Lei nº 13.709, de 14 de agosto de 2018, para dispor sobre a proteção de dados pessoais e para criar a Autoridade Nacional de Proteção de Dados, e dá outras providências. Diário Oficial (da República Federativa do Brasil) Brasília, 28 de dezembro de 2018. Disponível em: https://www.congressonacional.leg.br/materias/medidas-provisorias/-/mpv/135062. Acesso em: 3 set. 2022.
BRITO, Bruno. Ascom TJPE. TJPE usará inteligência artificial para agilizar processos de execução fiscal no Recife. Disponível em: https://www.tjpe.jus.br/inicio?p_p_id=101&p_p_lifecycle=0&p_p_state=maximized&p_p_mode=view&_101_struts_action=%2Fasset_publisher%2Fview_content&_101_returnToFullPageURL=https%3A%2F%2Fwww.tjpe.jus.br%2Finicio%3Fp_auth%3DbArS1onF%26p_p_id%3D3%26p_p_lifecycle%3D1%26p_p_state%3Dnormal%26p_p_state_rcv%3D1&_101_assetEntryId=2079372&_101_type=content&_101_urlTitle=tjpe-usara-inteligencia-artificial-para-agilizar-processos-de-execucao-fiscal-no-recife&inheritRedirect=true. Acesso em: 9 set. 2022.
CONSELHO NACIONAL DE JUSTIÇA. Justiça em Números 2022. Brasília: CNJ, 2022, p. 81. ISBN: 978-65-5972-493-2. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2022/09/justica-em-numeros-2022.pdf. Acesso em: 15 ago. 2022.
COHEN, Julie E. What Privacy Is For, 126 Harv. L. Rev. 1904-1933. 2013.
Conciul of Europe. Recommendation CM/Rec(2010)13. 2010, p.3. Disponível em: https://www.garanteprivacy.it/documents/10160/10704/Recommendation+2010+13+Profiling.pdf/42ed93be-031c-4298-bed7-ae79231c7ad5?version=1.2. Acesso em: 03 set. 2022.
GRECO, Luís. Poder de julgar sem responsabilidade de julgador: a impossibilidade jurídica do juiz-robô. São Paulo: Marcial Pons, 2020. p. 45-47.
LARSON; MATTU; KIRCHNER; ANGWIN. How We Analyzed the COMPAS Recidivism Algorithm. Disponível em: https://www.propublica.org/article/how-we-analyzed-the-compasrecidivism-algorithm. Acesso em: 25 ago. 2022.
MAYBIN, Simon. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. BBC NEWS. 2016. Disponível em: https://www.bbc.com/portuguese/brasil-37677421. Acesso em: 31 ago. 2022.
PASQUALE, Frank. The black box society. The secret algorithms that control money and Information. Cambridge: Harvard University Press, 2015.
PATNAIK, Subrat. Apple co-founder says Apple Card algorithm gave wife lower credit limit. Reuters. 2019. Disponível em: https://www.reuters.com/article/goldman-sachs-apple-idUSL3N27Q0R2. Acesso em: 31 ago. 2022.
ROCKCONTENT. Saiba como funciona um algoritmo e conheça os principais exemplos existentes no mercado. 2019. Disponível em: https://rockcontent.com/br/blog/algoritmo/. Acesso em: 25 ago. 2022.
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Organização, seleção e apresentação de Maria Celina Bodin de Moraes. Tradução de Danilo Doneda e Luciana Cabral Doneda. Rio de Janeiro: Renovar, 2008.
RODRIGUES, Bruno Alves. A Inteligência Artificial no Poder Judiciário e a convergência com a consciência humana para a efetividade da Justiça. Thomson Reuters Revista dos Tribunais. Ed. 2021. 2021, p. 224.
SALGADO, Joaquim Carlos. Princípios Hermenêuticos dos Direitos Fundamentais. 2001. p. 260-261.
SUPREMO TRIBUNAL FEDERAL. Projeto Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori=1. Acesso em: 9 set. 2022.
TRIBUNAL DE JUSTIÇA DE PERNAMBUCO. TJPE usará inteligência artificial para agilizar processos de execução fiscal no Recife. 2018. Disponível em: https://portal.tjpe.jus.br/comunicacao/-/asset_publisher/ubhL04hQXv5n/content/tjpe-usara-inteligencia-artificial-para-agilizar-processos-de-execucao-fiscal-no-recife Acesso em: 20 set. 2022.
VASCONCELOS, André; BRAZ, Lucas. Inteligência Artificial na tomada de decisões judiciais: três premissas básicas. Revista Eletrônica de Direito Processual. Universidade do Estado do Rio de Janeiro. ISSN 1982-7636. Rio de Janeiro. 2022, p. 73. Disponível em: https://www.e-publicacoes.uerj.br/index.php/redp/article/view/53537/36309. Acesso em: 19 set. 2022.
VEALE, M.; EDWARDS, L. Clarity, surprises, and further questions in the Article 29 Working Party draft guidance on automated decision-making and profiling. Computer Law & security review, 34, 2018. p. 398-404.
WOLKART, Erik Navarro. Inteligência Artificial e Sistemas de Justiça. Revista dos Tribunais. São Paulo: Thomson Reuters, 2022, p. 215. ISBN 978-65-5991-299-5.
Téléchargements
Publiée
Numéro
Rubrique
Licence
© Lavínya Almeida, Sérgio Torres Teixeira 2024
Ce travail est disponible sous la licence Creative Commons Attribution 4.0 International .
Os autores que publicam na Revista Acadêmica da Faculdade de Direito do Recife (doravante "RevAcadFDR") concordam com os seguintes termos de licenciamento:
(1) Autores mantém os direitos autorais e concedem à RevAcadFDR o direito da primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
(2) Autores têm autorização para assumir publicações adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial na RevAcadFDR.
(3) Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) depois do artigo ser publicado na RevAcadFDR, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
Informações adicionais:
Os artigos publicados na Revista Acadêmica da Faculdade de Direito do Recife estão sujeitos a licença CC-BY qual, em resumo:
Permite a cópia e Redistribuição em qualquer formato, desde que atribuída sua autoria e publicação inicial na RevAcadFDR.
Adotamos esse tipo de licenciamento pois é finalidade maior da Revista Academica da Faculdade de Direito a difusão de conhecimento e não sua monopolização.
