Inteligência artificial na segurança pública : uma análise dos riscos, oportunidades e diretrizes regulatórias

Abstract

A presente tese propõe uma análise crítica sobre os desafios éticos, jurídicos e políticos inerentes à incorporação de sistemas de inteligência artificial (IA) na segurança pública, com ênfase na necessidade de uma regulamentação inclusiva e fundamentada nos direitos humanos. Partindo da constatação de que as novas tecnologias, notadamente os sistemas algorítmicos, vêm transformando a atuação estatal e o controle social, discute-se o risco de reprodução e amplificação de desigualdades estruturais e de práticas discriminatórias historicamente presentes no contexto brasileiro. Destaca-se que não é possível considerar a técnica e o direito como neutros ou imparciais, pois ambos podem contribuir para a manutenção de exclusões e desigualdades. Em contextos como o brasileiro, em que há profundas diferenças sociais, raciais e no acesso à justiça, a inteligência artificial pode acabar reforçando essas injustiças se não for devidamente regulada e supervisionada. Adota o Direito Vivente como eixo teórico central, compreendendo o direito como uma experiência dinâmica, e o Direito Fraterno como metateoria ética complementar. A pesquisa questiona como as regulamentações nacionais e internacionais abordam o uso da IA na segurança pública para a proteção de direitos. Para tanto, adota-se uma metodologia documental, com raciocínio dedutivo, examinando prioritariamente o AI Act europeu e o Projeto de Lei nº 2.338 de 2023 brasileiro, com o objetivo de estabelecer um contraponto entre suas proposições normativas no tocante ao uso da IA na segurança pública. Além disso, serão incorporadas ilustrações de experiências locais no Brasil para contextualizar a implementação prática da IA. O trabalho é estruturado para contextualizar a IA na segurança pública (histórico, aplicações e riscos), examinar regulamentações internacionais, analisar o cenário brasileiro (legislação e prática) e propor fundamentos éticos e jurídicos para uma regulação inclusiva, dinâmica e justa da IA.

This thesis presents a critical analysis of the ethical, legal, and political challenges inherent in incorporating Artificial Intelligence (AI) systems into public security, emphasizing the imperative for inclusive regulation grounded in human rights. Acknowledging the transformative impact of emerging technologies, particularly algorithmic systems, on state action and social control, this study scrutinizes the risk of perpetuating and amplifying structural inequalities and historical discriminatory practices prevalent in the Brazilian context. It posits that neither technology nor law can be considered neutral or impartial, as both can inadvertently contribute to the persistence of exclusions and disparities. Within profoundly unequal societies like Brazil, marked by deep social, racial, and access-to-justice divides, unregulated or inadequately supervised AI poses a significant risk of exacerbating these injustices. The research adopts Living Law as its core theoretical framework, conceptualizing law as a dynamic, experiential phenomenon, complemented by Fraternal Law as a metatheoretical ethical overlay. This investigation explores how national and international regulatory frameworks address AI deployment in public security for rights protection. Employing a documentary methodology with a deductive reasoning approach, the study primarily examines the European AI Act and Brazil's Bill No. 2,338/2023. This comparative analysis aims to establish a counterpoint between their normative propositions concerning AI use in public security. Furthermore, illustrations from local Brazilian experiences will be integrated to contextualize the practical implementation of AI. The thesis is structured to: contextualize AI in public security (historical overview, applications, and risks), examine international regulatory landscapes, analyze the Brazilian scenario (legislation and practice), and propose ethical and legal foundations for inclusive, dynamic, and just AI regulation.

La présente thèse propose une analyse critique des défis éthiques, juridiques et politiques inhérents à l'intégration des systèmes d'intelligence artificielle (IA) dans la sécurité publique, en soulignant la nécessité d'une réglementation inclusive et fondée sur les droits humains. Partant du constat que les nouvelles technologies, notamment les systèmes algorithmiques, transforment l'action étatique et le contrôle social, cette étude examine le risque de reproduction et d'amplification des inégalités structurelles et des pratiques discriminatoires historiquement présentes dans le contexte brésilien. Il est souligné que la technique et le droit ne sauraient être considérés comme neutres ou impartiaux, car tous deux peuvent contribuer au maintien des exclusions et des inégalités. Dans des contextes tels que celui du Brésil, marqué par de profondes disparités sociales, raciales et d'accès à la justice, l'intelligence artificielle risque de renforcer ces injustices si elle n'est pas dûment réglementée et supervisée. La recherche adopte le Droit Vivant comme axe théorique central, appréhendant le droit comme une expérience dynamique, et le Droit Fraternel comme métathéorie éthique complémentaire. Cette investigation interroge la manière dont les réglementations nationales et internationales abordent l'utilisation de l'IA en matière de sécurité publique pour la protection des droits. À cette fin, une méthodologie documentaire est employée, avec un raisonnement déductif, examinant prioritairement l'AI Act européen et le Projet de Loi n° 2.338/2023 brésilien, dans le but d'établir une comparaison entre leurs propositions normatives concernant l'utilisation de l'IA en sécurité publique. En outre, des illustrations d'expériences locales au Brésil seront intégrées pour contextualiser la mise en œuvre pratique de l'IA. Le travail est structuré pour: contextualiser l'IA en sécurité publique (historique, applications et risques), examiner les réglementations internationales, analyser le scénario brésilien (législation et pratique), et proposer des fondements éthiques et juridiques pour une réglementation de l'IA inclusive, dynamique et juste.