Agentes de IA podem pedir seu jantar, mas os números mostram que ninguém confia neles para isso

Pedir o jantar é a demonstração perfeita para um agente de IA: um objetivo claro, um aplicativo conhecido e um satisfatório "pronto" no final. Então por que quase ninguém faz isso de verdade?

Os números são duros. Na teleconferência de resultados do terceiro trimestre, o CEO da DoorDash, Tony Xu, disse, nas palavras que o Ars Technica cita, que "os agentes de IA estão gerando várias centenas de pedidos [na DoorDash] durante o tempo em que estão em funcionamento". Ele chamou isso de "caso de uso muito baixo" para uma empresa que processou quase 1 bilhão de pedidos no trimestre. Dias depois, o TechCrunch informou que a Uber contabilizou apenas quatro corridas pedidas por meio de um agente de IA, além de cerca de 500 pedidos do Uber Eats feitos por agentes na semana do Halloween, quando a empresa processou aproximadamente 320 milhões de viagens e pedidos.

São erros de arredondamento. E eles aparecem justamente quando startups de agentes pessoais levantam dinheiro com valuations astronômicos e a Meta afirma que seu aplicativo Muse passou de 10 milhões de usuários.

Os modelos não são o gargalo

A leitura fácil é que os agentes ainda não são bons o bastante. Não nos convence. Pedir comida está entre as tarefas mais simples que se pode dar a um agente: escolher um restaurante, escolher os itens, pagar. Se a capacidade fosse o problema, esperaríamos falhas em trabalhos mais difíceis, não uma ausência quase total no mais fácil.

A explicação mais convincente é a conveniência. O CEO da Uber, Dara Khosrowshahi, destacou que pedir uma corrida no aplicativo leva cerca de 50 segundos em média, e repetir um pedido favorito leva cerca de 90 segundos. O agente precisa superar isso, e ainda é preciso orientá-lo, supervisioná-lo e conferir o que ele fez. É difícil economizar um minuto quando se gasta um explicando o que você quer. Para uma tarefa tão rotineira, o aplicativo já é o atalho.

A confiança é um obstáculo maior do que parece

Comida é uma decisão em que as pessoas se importam com pequenos detalhes pessoais: sem coentro, aquele lugar de novo não, nesse preço não. Entregar isso a um bot significa aceitar que ele vai gastar seu dinheiro e às vezes errar, sem um botão óbvio de desfazer. Isso é um problema de controle, não de inteligência.

O ambiente mais amplo não ajuda. O novo relatório de ameaças da empresa de segurança Elastic, noticiado pelo ITWire, alerta que um agente com credenciais e acesso à internet é uma nova superfície de ataque, e que, quando há um invasor por trás, a atividade dele parece exatamente a do funcionário que o instalou. O assunto são ferramentas corporativas, não aplicativos de comida, mas o instinto se aplica. Um agente com seus dados de pagamento e sua conta é muita autoridade para delegar por causa de um burrito.

Também vale uma ressalva: há poucos dados. Um comentarista do Hacker News argumentou que a manchete engana porque a integração não está disponível para quase ninguém. Um texto da Winzheng sobre o caso da DoorDash descreve o conector como ainda restrito a um pequeno número de "parceiros do beta inicial", usado principalmente em pedidos de almoço corporativo. É um bom argumento, e significa que o baixo uso reflete em parte o acesso reduzido. Mas ele também desfavorece o hype: se a infraestrutura não está aberta, "os agentes vão substituir os aplicativos" ainda está muito longe.

As plataformas não têm motivo para pressa

Há um terceiro fator que nada tem a ver com os usuários. Como observa o The Verge, plataformas como Uber e DoorDash têm pouco incentivo para deixar agentes invadirem e tomarem seus próprios clientes. A Uber diz que vai trabalhar com terceiros, mas aposta que seus serviços diretos serão os mais "agradáveis e fáceis", e desenvolve suas próprias ferramentas de IA, incluindo um Cart Assistant para o Uber Eats.

Isso é racional. Se um agente é dono do cliente, o aplicativo de entrega vira um back-end commodity. Esperamos cooperação nas palavras e atrito na prática.

O que tiramos disso

A lição não é que os agentes sejam um fracasso, mas que "ele consegue fazer a tarefa?" é o teste errado. Os certos são: as pessoas vão deixá-lo gastar seu dinheiro? Elas conseguem ver e reverter o que ele fez? E ele é realmente mais rápido do que aquilo que já fazem em 90 segundos?

Até que um agente passe nesses três testes, as demonstrações continuarão à frente do comportamento real. Se você desenvolve ou compra agentes, focaríamos em ações restritas, reversíveis e claramente confirmadas, em vez de promessas de "faz tudo". E se você é investidor ou executivo, use o jantar como referência: algumas centenas de pedidos contra quase um bilhão é o placar honesto, e por ora a confiança parece estar vencendo.