Direito & Tecnologia
Tese de Doutorado apresentada ao Programa de Pós-Graduação em Direito da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), na linha Teoria do Direito, ética e construção da subjetividade.
Em 2016, um tribunal norte-americano condenou um réu a seis anos de prisão com base na pontuação de risco do sistema algorítmico COMPAS — uma caixa preta cujos critérios o condenado não pôde auditar nem contestar. Em 2024, um adolescente de quatorze anos desenvolveu apego emocional a um chatbot que ignorou suas expressões de sofrimento e o incentivou ao isolamento. Em 2025, pesquisadores documentaram onze casos em que agentes autônomos de IA aceitaram instruções de impostores, executaram ações destrutivas e reportaram conclusões falsas sobre o estado dos sistemas onde operavam.
Esses episódios não são anomalias. São sintomas de uma crise estrutural: toda a arquitetura jurídica digital — identidade, responsabilidade, consentimento, privacidade — foi construída sobre uma premissa implícita que a emergência de agentes autônomos de IA corrói sistematicamente: do outro lado da interação há um ser humano.
A tese mapeia os fundamentos filosóficos, jurídicos e tecnológicos dessa arquitetura antropocêntrica, demonstra como ela opera no ordenamento brasileiro — com ênfase na Identidade Civil Nacional (ICN), no Gov.br e no marco regulatório do Governo Digital — e identifica as lacunas estruturais que emergem quando atores não humanos começam a operar dentro dela.
Agentes autônomos de IA baseados em grandes modelos de linguagem (LLMs) distinguem-se do software convencional por quatro capacidades combinadas: perfil (identidade persistente), memória (acumulação de contexto), planejamento (elaboração de sequências de ações) e execução (atuação autônoma em ambientes digitais reais). Não são ferramentas passivas — são sistemas capazes de agir, contratar, processar dados e produzir efeitos jurídicos sem intervenção humana em cada etapa.
O fenômeno do antropomorfismo amplifica os riscos: a tendência humana a atribuir características pessoais a sistemas não humanos gera confiança desproporcional, vicia o consentimento e cria zonas de opacidade onde a responsabilização se dilui. A tese diagnostica cinco dimensões em que essa indistinguibilidade ameaça a ordem constitucional:
O design antropomorfizado instrumentaliza o humano, viciando o consentimento. Quando o indivíduo não sabe com quem interage, a autonomia da vontade é fictícia (fórmula-objeto de Sarlet).
O perfil do usuário substitui a pessoa. O ser humano torna-se um "fantasma tecnológico" — manipulado por dados sem poder controlar sua própria representação digital (Rodotà).
Quando o agente atua sem identidade rastreável, o nexo causal se fragmenta. A tutela jurisdicional efetiva (art. 5º, XXXV, CF/88) pressupõe identificação — que aqui falta estruturalmente.
Sistemas algorítmicos opacos reproduzem e amplificam discriminações estruturais sem que o afetado possa identificar a cadeia decisória responsável (COMPAS; art. 20, LGPD).
Agentes autônomos podem operar redes de astroturfing, produzir desinformação personalizada em escala industrial e manipular o ambiente epistêmico sem que qualquer sujeito humano identificável possa ser responsabilizado.
A tese rejeita dois caminhos frequentemente propostos: (i) a atribuição de personalidade jurídica a sistemas de IA — desnecessária e juridicamente problemática; e (ii) a criação de novas categorias de responsabilidade — prematura, quando os instrumentos existentes já são suficientes, desde que operem sobre dados verificáveis.
A solução proposta é a delegação autenticada: a extensão dos protocolos OAuth 2.0 e OpenID Connect ao contexto de agentes autônomos, criando uma cadeia criptograficamente verificável entre o ato do agente e a decisão humana que o autorizou. Concretamente, o mecanismo envolve três tokens:
User-ID Token — identifica a pessoa humana que opera o sistema. Delegation Token — assinado pelo usuário, transfere escopo delimitado de autorização ao agente, com prazo e limitações definidos criptograficamente. Agent-ID Token — identifica o agente autônomo que age em nome do principal humano, com trilha auditável de cada ação executada.
Essa infraestrutura não exige legislação nova imediata: os fundamentos estão no art. 5º, XIV e LXXIX, CF/88, no art. 6º, VI, da LGPD. A proposta oferece ao PL 2.338/2023 — aprovado pelo Senado em dezembro de 2024 e em tramitação na Câmara — o fundamento jurídico-técnico que o texto ainda não especifica sobre identidade de agentes autônomos.
Todo agente autônomo de IA que produza efeitos jurídicos deve ser identificável por meio de credenciais digitais verificáveis, rastreáveis ao principal humano que o autorizou. Corolário do art. 5º, XIV e LXXIX, CF/88 e do art. 6º, VI, da LGPD. Sem identificação, não há consentimento informado, não há responsabilização e não há tutela efetiva de direitos fundamentais.
A cadeia de autorização criptograficamente documentada vincula o ato do agente autônomo ao sujeito humano que o autorizou, ativando os mecanismos existentes de imputação civil. Pressuposto da tutela jurisdicional efetiva do art. 5º, XXXV, CF/88 e da responsabilidade civil objetiva do art. 927, parágrafo único, CC/2002. A identidade rastreável é condição de possibilidade da responsabilidade — não seu substituto.
A proposta desta tese é tecnicamente viável, juridicamente fundada e regulatoriamente oportuna. O problema não exige que inventemos um novo direito — exige que reconstruamos a infraestrutura técnica sobre a qual o direito que já temos pode operar. Identificar o agente é a condição de possibilidade de tudo o mais: responsabilidade, privacidade, devido processo, democracia.
As obras abaixo são as fontes que definem as escolhas teóricas mais relevantes da tese — não uma lista exaustiva, mas uma curadoria do lastro intelectual do trabalho. A lista bibliográfica completa consta da tese integral.