Inteligência Artificial: aspectos discriminatórios da automatização e a possibilidade de revisão das decisões automatizadas

Abstract

O presente artigo objetiva uma análise acerca da ausência de neutralidade da Inteligência Artificial a partir da percepção de vieses discriminatórios existentes em diversas searas em que a IA é utilizada. Será observado os impactos de tais aspectos na automatização, especialmente no âmbito do judiciário, tendo em vista ser a automatização grande aliada para o descontingenciamento dos processos judiciais. Ademais, irá ser ressaltado a imprescindibilidade de se assegurar o direito dos titulares sobretudo acerca da possibilidade de revisão das decisões automatizadas, levando em consideração a legislação brasileira específica sobre privacidade e proteção de dados. Ainda, no que tange as decisões judicias automatizadas, será visto a possibilidade de revisão, bem como a necessidade de que tal revisão seja executada pela sob o crivo humano. Em conclusão, fica observado que a intencionalidade por trás da criação de determinada forma de Inteligência artificial é uma problemática presente em grande parte dos sistemas, razão pela qual é indispensável a cooperação entre um judiciário transparente, uma sociedade informada e profissionais de tecnologia com uma base sólida sobre programação ética.