Gli agenti IA possono ordinare la cena, ma i numeri dicono che nessuno si fida a lasciarglielo fare

Ordinare la cena è la dimostrazione perfetta per un agente IA: un obiettivo chiaro, un'app familiare, un soddisfacente «fatto» alla fine. Allora perché quasi nessuno lo fa davvero?

I numeri sono netti. Nella conference call sui risultati del terzo trimestre, il CEO di DoorDash Tony Xu ha detto, nelle parole riportate da Ars Technica, che «gli agenti IA stanno generando diverse centinaia di ordini [su DoorDash] nel tempo in cui sono attivi». Lo ha definito un «caso d'uso molto basso» per un'azienda che nel trimestre ha gestito poco meno di 1 miliardo di ordini. Pochi giorni dopo, TechCrunch ha riferito che Uber ha contato solo quattro corse ordinate tramite un agente IA, più circa 500 ordini di Uber Eats effettuati da agenti nella settimana di Halloween, in cui l'azienda ha gestito circa 320 milioni tra corse e ordini.

Sono errori di arrotondamento. E arrivano mentre le startup di agenti personali raccolgono denari a valutazioni da capogiro e Meta dice che la sua app Muse ha superato i 10 milioni di utenti.

I modelli non sono il collo di bottiglia

La lettura facile è che gli agenti non siano ancora abbastanza bravi. Non ci convince. Ordinare cibo è tra i compiti più semplici che si possano affidare a un agente: scegliere un ristorante, scegliere i piatti, pagare. Se il problema fosse la capacità, ci aspetteremmo fallimenti su lavori più difficili, non un'assenza quasi totale su quello facile.

La spiegazione più convincente è la comodità. Il CEO di Uber, Dara Khosrowshahi, ha fatto notare che prenotare una corsa nell'app richiede in media circa 50 secondi, e riordinare un piatto preferito circa 90 secondi. Un agente deve battere questi tempi, ma va anche istruito, supervisionato e ricontrollato. Risparmiare un minuto è difficile quando se ne spende uno a spiegare cosa si vuole. Per un compito così di routine, l'app è già la scorciatoia.

La fiducia è un ostacolo più grande di quanto sembri

Il cibo è una scelta in cui le persone tengono a piccoli dettagli personali: niente coriandolo, quel posto di nuovo no, a quel prezzo no. Affidarla a un bot significa accettare che spenderà i tuoi soldi e a volte sbaglierà, senza un ovvio pulsante per annullare. È un problema di controllo, non di intelligenza.

Il contesto più ampio non aiuta. Il nuovo rapporto sulle minacce della società di sicurezza Elastic, di cui scrive ITWire, avverte che un agente con credenziali e accesso a internet è una nuova superficie di attacco e che, quando dietro c'è un aggressore, la sua attività appare identica a quella del dipendente che lo ha installato. Si parla di strumenti aziendali, non di app per il cibo, ma l'istinto si trasferisce. Un agente con i tuoi dati di pagamento e il tuo account è tanta autorità da delegare per un burrito.

Va aggiunta anche una cautela: i dati sono scarsi. Un commentatore di Hacker News ha sostenuto che il titolo è fuorviante perché l'integrazione non è comunque disponibile quasi per nessuno. Un articolo di Winzheng sul caso DoorDash descrive il connettore come ancora limitato a un piccolo numero di «partner della beta iniziale», usato soprattutto per ordini di pranzi aziendali. È un'obiezione valida, e significa che il basso utilizzo riflette in parte un accesso limitato. Ma smorza anche l'entusiasmo: se l'infrastruttura non è aperta, «gli agenti sostituiranno le app» è ancora lontanissimo.

Le piattaforme non hanno alcuna fretta

C'è un terzo fattore che non ha niente a che vedere con gli utenti. Come osserva The Verge, piattaforme come Uber e DoorDash hanno pochi incentivi a lasciare che gli agenti irrompano e si sostituiscano ai loro clienti. Uber dice che collaborerà con terze parti, ma scommette che i suoi servizi diretti saranno i più «piacevoli e facili», e sta sviluppando i propri strumenti di IA, tra cui un Cart Assistant per Uber Eats.

È razionale. Se un agente possiede il cliente, l'app di consegna diventa un back-end intercambiabile. Ci aspettiamo cooperazione a parole e attrito nei fatti.

Cosa ne ricaviamo

La lezione non è che gli agenti siano un fiasco, ma che «sa fare il compito?» è il test sbagliato. Quelli giusti sono: le persone gli lasceranno spendere i loro soldi? Possono vedere e annullare ciò che ha fatto? È davvero più veloce di ciò che già fanno in 90 secondi?

Finché un agente non supera queste tre prove, le demo continueranno a correre più dei comportamenti reali. Se sviluppi o acquisti agenti, ci concentreremmo su azioni circoscritte, reversibili e confermate in modo chiaro, più che su promesse del tipo «fa tutto». E se sei un investitore o un dirigente, prendi la cena come metro: qualche centinaio di ordini contro quasi un miliardo è il tabellone onesto, e per ora a vincere sembra essere la fiducia.