A possibilidade de inserir comandos ocultos em documentos para influenciar sistemas de inteligência artificial, técnica conhecida como *prompt injection*, gera um novo debate sobre o avanço da IA no Direito brasileiro. A prática consiste em usar instruções inseridas em conteúdos que serão processados por IA para alterar ou direcionar suas respostas, levantando questões sobre segurança e rastreabilidade da tecnologia no ambiente jurídico.
Essas instruções podem ser disfarçadas em documentos por meio de recursos como letras brancas, fontes de tamanho reduzido ou outras formas de ocultação de texto. O risco ocorre quando as ferramentas de inteligência artificial interpretam essas informações como comandos, e não como parte do conteúdo. Em ambientes jurídicos, a vulnerabilidade ganha relevância devido ao volume de petições e documentos processuais submetidos à análise automatizada.
De acordo com informações do jornal O Tempo, essa vulnerabilidade acrescenta uma nova dimensão à discussão sobre IA no Direito. Para Lucas Barbosa Oliveira, advogado e fundador da Iter, empresa de tecnologia, além da qualidade das respostas, será necessário discutir a segurança das informações que alimentam os sistemas e a capacidade de identificar tentativas de manipulação por parte dos usuários.
“Os advogados agora têm que usar inteligência artificial. Não é mais uma questão de se eu vou ou não usar, mas de como eu vou usar. E isso passa necessariamente por segurança, rastreabilidade e responsabilidade sobre aquilo que é produzido”, afirma.
Ferramentas generalistas e sistemas jurídicos
O debate também evidencia a diferença entre o uso de ferramentas generalistas e sistemas desenvolvidos para o ambiente jurídico. Em aplicações profissionais, conforme explica Lucas Barbosa Oliveira, não basta que a IA produza uma resposta aparentemente correta. É preciso saber quais informações foram utilizadas, de onde vieram e como participaram da construção do resultado final apresentado ao profissional.
“Todas as informações utilizadas pelos agentes precisam ser rastreáveis e conferíveis. O advogado continua responsável por fazer a conferência e a validação daquilo que é produzido pela inteligência artificial”, afirma.
Na empresa Iter, a arquitetura foi desenvolvida para operar com uma base de conhecimento jurídico previamente curada e em um ambiente controlado. A tecnologia acompanha movimentações, identifica decisões, classifica informações e prepara minutas para a revisão do advogado. A decisão jurídica e a validação final do conteúdo permanecem sendo responsabilidades humanas, garantindo a supervisão do processo.
“Nossos engenheiros investiram recursos e bastante tempo no desenvolvimento da telemetria, uma ferramenta que nos permite monitorar e identificar exatamente quais informações foram mobilizadas em cada etapa do processo, conferindo a rastreabilidade total das informações que estão sendo mobilizadas em cada etapa do processo. Não abrimos mão da segurança, esse controle é fundamental.”
Uma nova camada de governança
Para Lucas Barbosa Oliveira, os riscos de manipulação não indicam que a adoção de inteligência artificial pelo Direito deva ser interrompida. Pelo contrário, reforçam a necessidade de uma nova camada de governança tecnológica. À medida que tribunais e escritórios incorporam sistemas que interpretam documentos, a segurança, a rastreabilidade e a supervisão humana se tornam tão relevantes quanto a capacidade dos modelos.