La multa brasiliana per prompt injection è giusta, ma le sanzioni da sole non bastano

Che succede quando il lettore del tuo atto non è soltanto un essere umano? Alcuni avvocati in Brasile hanno evidentemente concluso che la risposta fosse scrivere anche alla macchina. E il tribunale se n'è accorto.

Ecco cosa sappiamo. Secondo il comunicato dello stesso STJ, la Prima Sezione del Superior Tribunal de Justiça ha multato un gruppo di avvocati per R$ 20 mil (20.000 real) dopo aver trovato comandi rivolti a sistemi di IA nascosti in un ricorso speciale (recurso especial). La decisione è del 20 ottobre 2026, con il giudice Paulo Sérgio Domingues come relatore. Il collegio l'ha trattato come un atto contro la dignità della Giustizia, e il caso è stato trasmesso all'ordine degli avvocati e alla procura federale.

Il titolo parla di «nuovo caso», e conta. Terra riferisce che i tribunali brasiliani, tra cui STF e STJ, stanno multando avvocati e avvisando l'ordine professionale per comandi nascosti negli atti. La tattica, a quanto pare, punta all'IA della magistratura e anche a quella della controparte. Un caso di grado inferiore a Santa Catarina si è chiuso con la condanna di un'azienda per lite temeraria. È uno schema, non un episodio isolato.

L'atto giudiziario è ormai una superficie d'attacco, ed era inevitabile

Chi si occupa di sicurezza ha una regola semplice: tutto ciò che un sistema acquisisce è un input, e qualsiasi input può essere ostile. Per decenni i tribunali hanno trattato gli atti come testo inerte, scritto per occhi umani. Nel momento in cui un tribunale collega un modello linguistico al proprio flusso di lavoro, ogni PDF diventa un possibile carico malevolo.

È questo che rende il caso più interessante di una storia di avvocati che si comportano male. Nessuno ha dovuto hackerare nulla. L'«exploit» era un paragrafo. L'unica barriera tra una frase nascosta e un riassunto distorto è ciò che i progettisti del modello hanno costruito per resistervi.

Lo STJ dice che il suo sistema, STJ Logos, ha livelli di sicurezza pensati per impedire l'esecuzione di comandi malevoli. Lo prendiamo per buono, e notiamo anche cosa implica: il tribunale si aspetta che qualcuno ci provi. La difesa in profondità è l'approccio giusto. Ma è anche un'ammissione che il filtro non è l'unica risposta, perché i filtri contro i trucchi in linguaggio naturale sono notoriamente permeabili.

Sanzionare è la prima risposta giusta, perché conta l'intenzione

Qualcuno dirà che la multa è eccessiva se la difesa ha funzionato. Non siamo d'accordo. Provare a corrompere un arbitro è punibile anche se l'arbitro ti ignora. Scrivere istruzioni nascoste per orientare gli strumenti di un tribunale è un tentativo di corrompere il procedimento, e il sistema giuridico ha già un nome per questo. Definirlo un affronto alla dignità della Giustizia è coerente.

C'è anche una ragione pratica. Le difese tecniche sono una corsa agli armamenti che l'attaccante può correre gratis, mentre una multa cambia i conti dell'avvocato. R$ 20 mil non rovinano nessuno, ma sospettiamo che a spaventare davvero gli avvocati sarà la segnalazione all'ordine e alla procura. La deterrenza è reputazionale e professionale, ed è giusto che sia così.

Ma punire chi invia non ripara chi legge

Ecco la nostra precisazione. Le sanzioni rispondono a «di chi è la colpa». Non rispondono a «cosa può fare l'IA del tribunale con ciò che legge». Sono domande diverse, ed è alla seconda che serve una policy.

A nostro avviso, i tribunali che usano l'IA dovrebbero avere regole scritte e pubbliche che coprano almeno tre punti. Primo, a cosa serve il sistema: riassumere, smistare, aiutare nella redazione, mai decidere. Secondo, come tratta il testo depositato dalle parti: come dati da analizzare, mai come istruzioni da seguire. Terzo, chi controlla i risultati e come le anomalie vengono segnalate e registrate. Senza questo, il prossimo comando nascosto potrebbe sfuggire a un cancelliere dall'occhio attento, e la prossima sanzione arriverebbe solo dopo che un risultato distorto ha già influenzato un caso.

Dobbiamo anche essere onesti su ciò che non sappiamo. La documentazione che abbiamo non dice come fossero nascosti i comandi, cosa dicessero o se abbiano cambiato qualcosa. Alcune pagine web secondarie descrivono il caso in modo diverso, e le abbiamo messe da parte. Sarebbe un errore costruire una grande teoria su una multa e un comunicato stampa.

Il nostro verdetto

Multateli, e continuate a farlo. Ma considerate le multe la mossa d'apertura, non la strategia. Se l'IA di un tribunale può essere orientata da una frase in un atto, il difetto è nel sistema, e una sanzione a chi invia non lo ripara. I tribunali dovrebbero pubblicare le proprie policy di lettura con l'IA, presumere che ogni documento depositato sia ostile e mantenere un essere umano responsabile di ogni risultato. Gli avvocati dovrebbero dare per scontato che la macchina guardi, e che abbia colleghi in procura.