La Decisions API di OpenAI vende verdetti, non chat: chiedi prima le tracce di audit

Che cosa succede quando l'azienda di IA più famosa smette di venderti una conversazione e comincia a venderti un numero? Succede che nasce la Decisions API, un prodotto che a nostro avviso conta più dell'ennesimo aggiornamento di un chatbot, proprio perché è così noioso.

Riepilogo veloce. OpenAI ha annunciato la disponibilità generale della Decisions API, basata su GPT-6 Luna. Definisci una domanda e le risposte ammesse, fornisci testo, immagini o JSON e ricevi una tra tre risposte tipizzate: una probabilità che una condizione sia vera, una scelta dalla tua lista o un punteggio rispetto a una rubrica. OpenAI afferma che è fino a 10 volte più veloce di Luna tramite la Responses API, con fino a 400 domande per richiesta e un prezzo di 0,10 dollari per milione di token in ingresso, senza costi per i token in uscita.

Il chatbot era la demo; questo è il prodotto

Guarda gli esempi che fa la stessa OpenAI: classificare un input, instradare una richiesta, decidere se un agente debba proseguire, riprovare o chiedere chiarimenti. Niente di tutto ciò è conversazione. È flusso di controllo, gli if del software, ora affidati a un modello. I team dell'azienda lo usano per categorizzare transazioni e classificare la copertura stampa, aiutando a individuare ciò che "merita un esame più attento".

È questo il cambiamento. Un assistente parla con una persona, che si accorge quando qualcosa suona strano. Un endpoint decisionale parla con il codice, e il codice non alza un sopracciglio. Una probabilità entra in un ramo e qualcosa accade. Pensiamo che qui finirà gran parte del peso economico reale dell'IA: non nella finestra della chat, ma in migliaia di microgiudizi invisibili al minuto.

Il progetto è intelligente, va riconosciuto. Eliminare il ciclo di prompt, parsing e nuovo tentativo toglie di mezzo un'intera classe di bug di formattazione, e la documentazione chiarisce che è la tua applicazione a eseguire le azioni selezionate dalle risposte. È la giusta divisione dei compiti.

Una probabilità non è una garanzia, e la parola "confidenza" ha un bel daffare

Ecco la nostra preoccupazione. Un numero sembra più rigoroso di un paragrafo. Non è detto che lo sia. Un'analisi di Firecrawl cita un commentatore di Hacker News che osserva con acume come questo tipo di vincolo garantisca il formato, non la correttezza. Condividiamo lo spirito dell'obiezione, anche se circoscrivere lo spazio delle risposte è un vero guadagno di efficienza.

La questione chiave è la calibrazione: quando il modello dice 0,90, ha ragione il 90% delle volte sui tuoi dati? Nel materiale che abbiamo esaminato nulla risponde a questa domanda. Il confronto di CometAPI osserva che i numeri del fornitore non stabiliscono un vincitore in termini di accuratezza rispetto al rivale Jev, e avverte di non trattare un campo API chiamato confidenza come una probabilità calibrata senza verificarne la definizione. Per la velocità vale lo stesso: confronta il modello di OpenAI con sé stesso, non con il mercato.

La lettura sensata, dunque, è che il fattore 10x sia vero marketing e probabilmente vera ingegneria, mentre l'affidabilità sui tuoi ticket, le tue foto e i tuoi rimborsi resta una questione empirica aperta che solo tu puoi chiudere.

Che cosa dovrebbero chiedere gli sviluppatori prima di collegarlo a qualcosa di importante

Primo, tieni l'autorità nel tuo codice. Un modello può dire che un ticket sembra un doppio addebito; solo un servizio autorizzato o una persona dovrebbe emettere il rimborso. Un punteggio alto non deve mai concedere un permesso che il sistema non aveva già.

Secondo, registra tutto: il testo della domanda, le opzioni di risposta, l'identificativo del modello, le prove in ingresso e le probabilità restituite. Versiona la rubrica come versioni il codice, perché cambiare le opzioni cambia il significato dei risultati storici. Se una decisione venisse contestata, dovresti poterla riprodurre.

Terzo, misura prima di fidarti. Etichetta un campione di traffico reale, verifica la calibrazione, fissa le soglie di revisione a partire da quei dati e manda i casi incerti alle persone. Il prezzo basso per token è allettante, ma il costo vero è quello che un instradamento sbagliato o un'approvazione automatica errata comporta a valle.

Quarto, ed è la nostra richiesta a OpenAI: date agli sviluppatori più di un numero. L'endpoint è progettato per non restituire alcuna spiegazione, ed è esattamente per questo che è veloce, ed esattamente per questo che è difficile da verificare. Va bene per classificare i temi della copertura; molto meno per qualsiasi cosa tocchi denaro, sicurezza o l'accesso delle persone ai servizi.

Il nostro verdetto

Usala. Per l'instradamento ad alto volume e basso rischio sembra una vittoria netta, e la concorrenza di modelli specializzati come Jev dovrebbe tenere onesti i prezzi. Ma trattala come un consulente veloce e fallibile tenuto al guinzaglio da regole deterministiche, con una traccia documentale che controlli tu. L'era dell'IA come infrastruttura decisionale è arrivata; le abitudini di audit devono arrivare con lei, e nessuno te le consegnerà già pronte.