Questões atuais sobre inteligência artificial: riscos e emergência regulatória

Auteurs-es

DOI :

https://doi.org/10.51359/2448-2307.2024.265029

Mots-clés :

inteligência artificial, riscos, regulação

Résumé

Este artigo destina-se à análise de questões atuais e controvertidas, sob o ponto de vista jurídico, relacionadas ao avanço do uso da Inteligência Artificial (IA). Em especial, objetiva-se avaliar as possibilidades e os limites da regulação da IA no Brasil. O texto divide-se em três partes. A primeira delas consiste em uma aproximação conceitual ao tema. Em seguida, avança-se com a apresentação de alguns dos riscos do uso da IA em um contexto de desregulação. Por fim, avaliam-se as condições e os limites da regulação da IA no Brasil, com vistas a assegurar a promoção e proteção de direitos fundamentais. Conclui-se com a exposição dos motivos pelos quais é emergencial a regulação da IA pelo Estado.

Bibliographies de l'auteur-e

Flávio Dino de Castro e Costa, Supremo Tribunal Federal

Ministro do Supremo Tribunal Federal (STF). Mestre em Direito Público (UFPE). Foi Governador, Deputado Federal, Senador e Ministro de Estado da Justiça.

Estela Aranha, Instituto Brasiliense de Direito Público, IDP, Brasil.

Advogada, Membro do Conselho Consultivo de Alto Nível da ONU para Inteligência Artificial. Professora de Direito Digital. Foi Secretária de Direitos Digitais no Ministério da Justiça (2023)

Références

BAROCAS, Solon; SELBST, Andrew D. Big Data's Disparate Impact. California Law Review. v. 104, n. 3, p. 671-732, 2016.

BRASIL. Anteprojeto de Código Civil. 2024.

BRASIL. Statement by Ambassador Sérgio França Danese, Permanent Representative of Brazil to the United Nations, at the UNSC Open Debate on Artificial Intelligence. July 18th, 2023

BRASIL. SENADO FEDERAL. PLS 2338/2023 - Dispõe sobre o uso da Inteligência Artificial. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 28 abr. 2024.

BRASIL. SENADO FEDERAL. Relatório da Subcomissão de Direito Digital. 2022. Disponível em: https://legis.senado.leg.br/comissoes/mnas?codcol=2504&tp=4. Acesso em: 27 abr. 2024.

CAZZANIGA AND OTHERS. 2024. “Gen-AI: Artificial Intelligence and the Future of Work.” IMF Staff Discussion Note SDN2024/001, International Monetary Fund, Washington, DC.

CUEVA, Ricardo Villas Bôas. A regulação da inteligência artificial no Projeto de Lei nº 21/2020. In. TEPEDINO, Gustavo et. al. A evolução do direito no século XXI: seus princípios e valores (ESG, liberdade, regulação, igualdade e segurança jurídica): homenagem ao professor Arnoldo Wald. São Paulo: IASP, v. 2, p. 1179-1193, 2022.

DESINFORMANTE. Plataformas ainda não conseguem identificar conteúdos sintéticos. nov. 28, 2023. Disponível em: https://desinformante.com.br/plataformas-conteudo-sintetico/

DIMOULIS, Dimitri. Direito de igualdade: antidiscriminação, minorias sociais, remédios constitucionais. Editora: Almedina, 2021.

EBERS Martin; NAVARRO Susana. Algorithms and Law. Cambridge: Cambridge University Press, 2019.

CELESTE, Edoardo. The Content Governance Dilemma, Information Technology and Global Governance, 2023

EHRHARDT JUNIOR, Marcos; FRANÇA NETTO, Milton Pereira de. O regime de responsabilidade civil aplicável à inteligência artificial no direito brasileiro. Revista Magister de Direito Civil e Processual Civil, v. 19, n. 111, p. 5-36, 2022.

EUROPOL (2022), Facing reality? Law enforcement and the challenge of deepfakes, an observatory report from the Europol Innovation Lab, Publications Office of the European Union, Luxembourg.

FREDMAN, S. Discrimination law. New York: Oxford University Press, 2011.

FLORIDI, Luciano. Soft ethics, the governance of the digital and the General Data Protection Regulation. Philosophical Transactions of the Royal Society. v. 376, n. 2133, p. 1 1-11, 2018.

FRIEDMAN, Batya; NISSENBAUM, Helen. Bias in Computer Systems. ACM Transactions on Information Systems. v. 14, n. 3, p. 330 –347, 1996.

GUTWIRTH, Serge; HILDEBRANDT, Mireille. Some Caveats on Profiling. In: GUTWIRTH, S. et al. (eds.). Data Protection in a Profiled World. Springer, 2010. p. 31-41.

HILDEBRANDT, M. Proactive Forensic Profiling: Proactive Criminalization? The Boundaries of the Criminal Law, 2010, p. 113-137. Available at: http://works.bepress.com/mireille_hildebrandt/37/.

HILDEBRANDT, M. The Issue of Proxies and Choice Architectures. Why EU Law Matters for Recommender Systems 2022 Apr 28, n. 5, p. 789076. doi: 10.3389/frai.2022.789076. PMID: 35573902; PMCID: PMC9096719.

LAUANDE Rodrigues, Priscila; MASSIMO DE, Minicis. Technological changes, labour market transformations, industrial and labour policies. pp. 112-125

MANTELERO, Alessandro. Direitos Fundamentais na Era Digital. Palestra proferida no Seminário Internacional: Democracia e regulação da IA: perspectivas e desafios, IDP, 2023.

MOREIRA, Adilson José. Tratado de Direito Antidiscriminatório I. São Paulo: Editora Contracorrente, 2020.

MICKLITZ, H., POLLICINO, O.; REICHMAN, A.; SIMONCINI, A.; SARTOR, G.; DE GREGORIO, G. (ed.). Constitutional Challenges in the Algorithmic Society. Cambridge: Cambridge University Press, 2021.

MINC (2024). Nota técnica sobre PLS 2338/2023. Secretaria de Direitos Autorais. Ministério da Cultura. Governo do Brasil.

OECD (2024). "Explanatory memorandum on the updated OECD definition of an AI system", OECD Artificial Intelligence Papers, n. 8, OECD Publishing, Paris, Disponível em: https://doi.org/10.1787/623da898-en.

ONU NEWS. Especialistas da ONU mencionam uso de inteligência artificial em ataques israelenses na Faixa de Gaza. Disponível em: https://news.un.org/pt/story/2024/04/1830431#:~:text=Especialistas%20da%20ONU%20lamentaram%20o,moradias%2C%20servi%C3%A7os%20vitais%20e%20infraestrutura. Acesso em: 27.04.2024.

OTERO, B. Gonzalez. Evaluating the EC Private Data Sharing Principles: Setting a Mantra for Artificial Intelligence Nirvana? 2019.

PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press, 2015.

POLLICINO, O.; GREGORIO, G. Constitutional Law in the Algorithmic Society. In: MICKLITZ, H. W.; POLLICINO, O.; REICHMAN, A.;SIMONCINI, A.; SARTOR, G.; GREGORIO, G. de (ed.). Constitutional Challenges in the Algorithmic Society. Cambridge: Cambridge University Press, 2021. doi:10.1017/9781108914857.002.

POLLICINO, Oreste; GREGORIO, Giovanni De. Blockchain and public law: global challenges in the era of decentralization. Cheltenham, Northampton: Edward Elgar Pub, 2021.

POWLES, Julia; NISSENBAUM, Helen. The Sedutive Diversion of ‘Solving’ Bias in Artificial Intelligence Trying to “fix” A.I. distracts from the more urgent questions about the technology. Disponível em: https://onezero.medium.com/the-seductive-diversion-of-solving-bias-in-artificial-intelligence-890df5e5ef53. Acesso em: 27 abr. 2024.

SURDEN, H. Machine learning and law. Washington Law Review. v. 89, 2014, p. 89-90.

THE ECONOMIST. Artificial intelligence and war: as computers play a bigger role in warfare, the dangers to humans rise. Disponível em: https://www.economist.com/leaders/2019/09/05/artificial-intelligence-and-war?utm_medium=cpc.adword.pd&utm_source=google&ppccampaignID=19495686130&ppcadID=&utm_campaign=a.22brand_pmax&utm_content=conversion.direct-response.anonymous&gad_source=1&gclid=EAIaIQobChMIq_r27NDihQMVhH5vBB3NNw-hEAAYAiAAEgKrpvD_BwE&gclsrc=aw.ds. Acesso em: 27 abr. 2024.

UNIÃO EUROPEIA. AI Act. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206. Acesso em: 27 abr. 2024.

UNIÃO EUROPEIA. Orientações Éticas para uma IA de Confiança. Disponível em: https://op.europa.eu/pt/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1. Acesso em: 28 abr. 2024.

WHITTAKER, M. The Steep Cost of Capture. The steep cost of capture. interactions 28, 6 nov./dec. 2021, v. 28, n. 6, p. 50-55. Available at: https://doi.org/10.1145/3488666; https://ssrn.com/abstract=4135581.

WOLFGANG HOFFMANN-RIEM. Inteligência artificial como oportunidade para a regulação jurídica. RDU. v. 16, n. 90, p. 11-38, 2019.

Téléchargements

Publié-e

2024-12-05

Numéro

Vol. 96 No. 2 (2024): Revista Acadêmica da Faculdade de Direito do Recife

Rubrique

Artigos Nacionais

Licence

© Flávio Dino de Castro e Costa, Estela Aranha 2024

Licence Creative Commons

Cette œuvre est sous licence Creative Commons Attribution 4.0 International.

Les auteurs qui publient dans la Revue Académique de la Faculté de Droit du Recife («RAFDR») acceptent les termes suivants:

  1. Les auteurs conservent le droit d'auteur et accordent à la RAFDR le droit de première publication, l'ouvrage étant alors disponible simultanément, sous la licence Licence d’attribution Creative Commons permettant à d'autres de partager l'ouvrage tout en en reconnaissant la paternité et la publication initiale dans cette revue.
  2. Les auteurs peuvent conclure des ententes contractuelles additionnelles et séparées pour la diffusion non exclusive de la version imprimée de l'ouvrage par la revue (par ex., le dépôt institutionnel ou la publication dans un livre), accompagné d'une mention reconnaissant sa publication initiale dans la RAFDR.
  3. Les auteurs ont le droit et sont autrisés et  encouragés à publier leur ouvrage en ligne (par ex., dans un dépôt institutionnel ou sur le site Web d'une institution) après que l'article a été publié en RAFDR,  car cela peut mener à des échanges fructueux ainsi qu'à un nombre plus important, plus rapidement, de références à l’ouvrage publié (Voir The Effect of Open Access).

 

Informations complémentaires:
Les articles publiés dans RAFDR sont soumis à la licence CC-BY qui, en résumé: