L’API Decisions d’OpenAI vend des verdicts, pas du chat : exigez d’abord des pistes d’audit

Que se passe-t-il quand l’entreprise d’IA la plus célèbre cesse de vous vendre une conversation et se met à vous vendre un chiffre ? On obtient l’API Decisions, un produit qui, à notre avis, compte davantage qu’une énième mise à jour de chatbot, précisément parce qu’il est si banal.

Petit rappel. OpenAI a annoncé la disponibilité générale de l’API Decisions, fondée sur GPT-6 Luna. On définit une question et ses réponses autorisées, on fournit du texte, des images ou du JSON, et l’on reçoit l’une de trois réponses typées: une probabilité qu’une condition soit vraie, un choix dans votre liste ou un score selon une grille. OpenAI affirme qu’elle est jusqu’à 10 fois plus rapide que Luna via la Responses API, avec jusqu’à 400 questions par requête et un tarif de 0,10 dollar par million de jetons en entrée, sans facturation des jetons en sortie.

Le chatbot était la démonstration; voici le produit

Regardez les exemples donnés par OpenAI elle-même: classer une entrée, aiguiller une demande, décider si un agent doit continuer, réessayer ou demander des précisions. Rien de tout cela n’est de la conversation. C’est du flux de contrôle, les if du logiciel, désormais confiés à un modèle. Les équipes de l’entreprise l’utilisent pour catégoriser des transactions et classer des articles de presse, afin de repérer ce qui « justifie un examen plus approfondi ».

C’est là que tout bascule. Un assistant parle à une personne, qui remarque quand quelque chose sonne faux. Un point d’accès de décision parle à du code, et le code ne hausse pas un sourcil. Une probabilité alimente une branche et quelque chose se produit. Nous pensons qu’une grande part du poids économique réel de l’IA finira ici: pas dans la fenêtre de chat, mais dans des milliers de micro-jugements invisibles par minute.

La conception est astucieuse, il faut le reconnaître. Supprimer la boucle prompt, analyse et nouvel essai élimine toute une catégorie de bogues de format, et la documentation précise que c’est votre application qui exécute les actions choisies par les réponses. C’est la bonne répartition des rôles.

Une probabilité n’est pas une garantie, et le mot « confiance » porte beaucoup

Voici ce qui nous inquiète. Un chiffre paraît plus rigoureux qu’un paragraphe. Ce n’est pas forcément le cas. Une analyse de Firecrawl cite un commentateur de Hacker News qui souligne avec justesse que ce type de contrainte garantit le format, pas l’exactitude. Nous partageons l’esprit de cette objection, même si borner l’espace des réponses représente un vrai gain d’efficacité.

La question clé est celle de la calibration: quand le modèle annonce 0,90, a-t-il raison 90 % du temps sur vos données ? Rien dans les documents que nous avons consultés n’y répond. La comparaison de CometAPI note que les chiffres du fournisseur n’établissent pas de vainqueur en précision face au concurrent Jev, et met en garde contre le fait de traiter un champ d’API nommé confiance comme une probabilité calibrée sans vérifier sa définition. L’argument de vitesse est comparable: il compare le modèle d’OpenAI à lui-même, pas au marché.

La lecture raisonnable est donc que le facteur 10 relève bien du marketing et probablement de l’ingénierie, tandis que la fiabilité sur vos tickets, vos photos et vos remboursements reste une question empirique ouverte que vous seuls pouvez trancher.

Ce que les développeurs devraient exiger avant de brancher cela sur quoi que ce soit d’important

Premièrement, gardez l’autorité dans votre code. Un modèle peut dire qu’un ticket ressemble à un double prélèvement; seul un service autorisé ou un humain devrait émettre le remboursement. Un score élevé ne doit jamais accorder une permission que le système ne détenait pas déjà.

Deuxièmement, tout journaliser: le texte de la question, les options de réponse, l’identifiant du modèle, les éléments d’entrée et les probabilités renvoyées. Versionnez la grille comme vous versionnez le code, car modifier les options change la signification des résultats passés. Si une décision est un jour contestée, vous devez pouvoir la rejouer.

Troisièmement, mesurer avant de faire confiance. Étiquetez un échantillon de trafic réel, vérifiez la calibration, fixez des seuils de revue à partir de ces données et envoyez les cas incertains à des personnes. Le tarif bas par jeton est tentant, mais le vrai coût, c’est ce que coûte en aval une erreur d’aiguillage ou une validation automatique à tort.

Quatrièmement, et c’est notre demande à OpenAI: donnez aux développeurs plus qu’un chiffre. Le point d’accès est conçu pour ne renvoyer aucune explication, ce qui explique sa rapidité, et aussi la difficulté de l’auditer. Cela convient pour classer des thèmes de presse; beaucoup moins pour tout ce qui touche à l’argent, à la sécurité ou à l’accès des personnes à des services.

Notre verdict

Utilisez-la. Pour de l’aiguillage à fort volume et à faible enjeu, elle semble un net progrès, et la concurrence de modèles spécialisés comme Jev devrait garder les prix honnêtes. Mais traitez-la comme un conseiller rapide et faillible tenu en laisse par des règles déterministes, avec une trace écrite que vous maîtrisez. L’ère de l’IA comme infrastructure de décision est arrivée; les réflexes d’audit doivent arriver avec elle, et personne ne vous les livrera.