Brasil acierta al multar el prompt injection, pero las multas no bastan

¿Qué pasa cuando quien lee tu escrito jurídico no es solo una persona? Algunos abogados de Brasil parecen haber concluido que la respuesta era escribirle también a la máquina. Y el tribunal se dio cuenta.

Esto es lo que sabemos. Según el propio comunicado del STJ, la Primera Turma del Superior Tribunal de Justiça multó con R$ 20 mil (unos 20.000 reales) a un grupo de abogados tras encontrar órdenes dirigidas a sistemas de IA ocultas en un recurso especial. La resolución se dictó el 20 de octubre de 2026, con el ministro Paulo Sérgio Domingues como ponente. La Turma lo consideró un acto contra la dignidad de la Justicia y el caso se remitió al colegio de abogados y a la fiscalía federal.

El titular habla de «nuevo caso», y eso importa. Terra informa de que tribunales brasileños, entre ellos el STF y el STJ, multan a abogados y avisan al colegio profesional por órdenes ocultas en sus escritos. Al parecer, la táctica apunta a la IA del poder judicial y también a la de la parte contraria. Un caso de instancia inferior en Santa Catarina terminó con una empresa condenada por mala fe procesal. Es un patrón, no un hecho aislado.

El escrito judicial ya es una superficie de ataque, y era inevitable

La gente de seguridad tiene una regla sencilla: todo lo que ingiere un sistema es una entrada, y cualquier entrada puede ser hostil. Durante décadas, los tribunales trataron los escritos como texto inerte pensado para ojos humanos. En cuanto un tribunal enchufa un modelo de lenguaje a su flujo de trabajo, cada PDF puede convertirse en una carga maliciosa.

Eso es lo que hace que este caso sea más interesante que una simple historia de abogados que se portan mal. Nadie tuvo que hackear nada. El «exploit» fue un párrafo. La única barrera entre una frase oculta y un resumen sesgado es lo que hayan construido los diseñadores del modelo para resistirla.

El STJ asegura que su sistema, STJ Logos, tiene capas de seguridad para impedir que se ejecuten órdenes maliciosas. Lo damos por bueno, y además observamos lo que implica: el tribunal espera que alguien lo intente. La defensa en profundidad es la postura correcta. Pero también es admitir que el filtro no es toda la respuesta, porque los filtros contra los trucos en lenguaje natural son famosos por tener fugas.

Sancionar es la respuesta inicial correcta, porque lo que cuenta es la intención

Habrá quien diga que la multa es excesiva si la defensa funcionó. No estamos de acuerdo. Intentar sobornar a un árbitro es punible aunque el árbitro te ignore. Escribir instrucciones ocultas para orientar las herramientas de un tribunal es un intento de corromper el proceso, y el sistema jurídico ya tiene un nombre para eso. Calificarlo de afrenta a la dignidad de la Justicia encaja.

También hay una razón práctica. Las defensas técnicas son una carrera armamentística que el atacante puede correr gratis, mientras que una multa cambia las cuentas del abogado. R$ 20 mil no arruinan a nadie, pero sospechamos que lo que de verdad temerán los abogados es que se avise al colegio profesional y a los fiscales. La disuasión es reputacional y profesional, que es donde debe estar.

Pero castigar a quien envía no arregla a quien lee

Aquí va nuestra salvedad. Las sanciones responden a «quién tiene la culpa». No responden a «qué puede hacer la IA del tribunal con lo que lee». Son preguntas distintas, y es en la segunda donde hace falta una política.

A nuestro juicio, los tribunales que usan IA deberían tener normas escritas y públicas que cubran al menos tres cosas. Primera, para qué sirve el sistema: resumir, clasificar, ayudar a redactar, nunca decidir. Segunda, cómo trata el texto aportado por las partes: como datos que analizar, nunca como instrucciones que seguir. Tercera, quién revisa el resultado y cómo se detectan y registran las anomalías. Sin eso, puede que la próxima orden oculta no la pille un funcionario con buen ojo, y la siguiente sanción llegaría cuando un resultado sesgado ya hubiera influido en un caso.

También conviene ser honestos sobre lo que no sabemos. La documentación de la que disponemos no dice cómo se ocultaron las órdenes, qué decían ni si cambiaron algo. Algunas páginas web secundarias describen el caso de otra manera, y las hemos dejado de lado. Sería un error levantar una gran teoría sobre una multa y un comunicado de prensa.

Nuestro veredicto

Multadlos, y seguid multando. Pero tomad las multas como la jugada inicial, no como la estrategia. Si la IA de un tribunal puede desviarse con una frase en un escrito, el fallo está en el sistema, y una sanción al remitente no lo arreglará. Los tribunales deberían publicar sus políticas de lectura con IA, dar por hecho que todo documento presentado es adversarial y mantener a una persona responsable de cada resultado. Los abogados deberían asumir que la máquina está mirando, y que tiene colegas en la fiscalía.