Indelegabilidade da função jurisdicional : limites do uso da inteligência artificial e das decisões automatizadas frente ao artigo 20 da LGPD e ao direito fundamental à proteção de dados

Abstract

A Inteligência artificial (IA) deixou de ser apenas uma teoria utópica, tornando-se um fato capaz de influenciar diretamente as diversas áreas do dia a dia humano. Essa realidade não poderia ser diferente em relação ao Direito. No início, a Inteligência artificial apenas organizava ou realizada alguma tarefa isolada, mas em seguida passou a redigir ou sugerir decisões mais complexas e, por fim, passou a ter a capacidade de tomar a decisão final processual – sentença - nos autos do processo em que o jurisdicionado busca seu bem da vida, coletando, armazenando e tratando seus respectivos dados, trazendo à discussão eventual possibilidade de robotização de sentenças. Diante desse cenário, surge a necessidade de examinar os limites impostos pelo Artigo 20 da Lei Geral de Proteção de Dados (LGPD) e pelo Direito fundamental à proteção de dados. O objetivo deste trabalho é o de investigar a relação entre as decisões automatizadas, o Artigo 20 da LGPD e o direito fundamental à proteção de dados, com foco no direito de revisão das decisões automatizadas. Foi analisado como o Artigo 20 da LGPD garante aos titulares dos dados o direito de revisar as decisões automatizadas que os afetam, permitindo que questionem e contestem tais decisões. Adicionalmente questiona-se sobre se efetivamente a LGPD, o direito fundamental à proteção de dados e os princípios da transparência e da precaução, entre outros, de alguma forma podem limitar a utilização da IA no âmbito da função. Analisou-se o direito fundamental à proteção de dados, tendo em vista a relevância da privacidade e da autonomia dos indivíduos em relação aos seus dados pessoais, estabelecendo os parâmetros para a utilização ética e responsável da IA. Ao explorar a intersecção entre as decisões automatizadas, o Artigo 20 da LGPD e o Direito fundamental à proteção de dados, este estudo contribuiu para o debate sobre a implementação responsável da IA no Poder Judiciário. Destaca-se a necessidade de transparência e proteção dos direitos individuais, a fim de assegurar a conformidade com os princípios democráticos e de proteção dos direitos fundamentais, evitando a discriminação automática de parcela dos jurisdicionados, fazendo com que o estudo prime pela utilização de padrões regulatórios principalmente de transparência.

Artificial Intelligence (AI) is no longer just a utopian theory, but a fact capable of directly influencing several areas of human daily life. This reality could not be different in relation to Law. In the beginning, artificial intelligence only organized or performed some isolated task, but after that it started to write or suggest more complex decisions and, finally, it became capable of making the final procedural decision - sentence - in the records of the process in which the subject seeks his or her life asset, collecting, storing and processing their respective data, bringing to discussion the eventual possibility of robotic sentencing. Given this scenario, the need to examine the limits imposed by Article 20 of the General Law of Data Protection (LGPD) and the fundamental right to data protection arises. The aim of this paper is to investigate the relationship between automated decisions, Article 20 of the LGPD and the fundamental right to data protection, with a focus on the right to review automated decisions. It was analyzed how Article 20 of the LGPD guarantees data subjects the right to review automated decisions that affect them, allowing them to question and challenge such decisions. Additionally it is questioned whether effectively the LGPD, the fundamental right to data protection and the principles of transparency and precaution, among others, can somehow limit the use of AI within the function. The fundamental right to data protection was analyzed, given the relevance of privacy and the autonomy of individuals in relation to their personal data, establishing the parameters for the ethical and responsible use of AI. By exploring the intersection between automated decisions, Article 20 of LGPD and the fundamental Right to data protection, this study has contributed to the debate on the responsible implementation of AI in the Judiciary. The need for transparency and protection of individual rights is highlighted in order to ensure compliance with democratic principles and protection of fundamental rights, avoiding the automatic discrimination of a portion of the jurisdiction, making the study prime for the use of regulatory standards mainly of transparency.