Decisions, l’API d’OpenAI qui s’intègre désormais à la voix avec GPT-Live

Pour automatiser de petits choix dans un projet web, l’API Decisions d’OpenAI repose sur un principe simple : on pose une question fermée, on indique les réponses permises, et l’application récupère une valeur typée, jamais un texte rédigé. D’après le Blog du Modérateur, tous les développeurs peuvent désormais y accéder, à la suite d’une bêta publique et d’une première présentation, le 29 septembre, pendant le DevDay d’OpenAI.

Comment fonctionne un modèle de décision

Le développeur rédige sa question, définit les réponses acceptées et apporte le contexte, qu’il soit textuel ou visuel. L’API retourne un résultat que l’application utilise pour lancer l’étape suivante de son workflow. OpenAI décrit ainsi son point de départ : « Les applications et les agents prennent de nombreuses petites décisions tout au long d’un workflow. Individuellement, elles sont simples. À grande échelle, leur latence et leur coût s’additionnent. »

Une seule requête peut contenir jusqu’à 400 questions, ce qui double la limite de la bêta. Ces questions s’appuient sur un contenu identique mais chacune est traitée séparément : lorsqu’une question dépend du résultat d’une autre, il faut envoyer une requête à part.

Trois formats de réponse, trois usages

Ce qu’il y a sous le capot

OpenAI n’a pas entraîné de modèle spécifique. Le service s’appuie sur GPT-6 Luna, dont la configuration a été modifiée pour rendre l’inférence plus rapide. D’après l’entreprise, les décisions sortent jusqu’à 10 fois plus vite qu’avec Luna appelé par l’API Responses.

Depuis la bêta, plusieurs fonctions se sont ajoutées :

• des données d’entrée en JSON natif, ainsi que des images placées directement dans les consignes d’une question ;
• le prompt caching, qui permet de recycler la portion identique d’une requête, par exemple un document de référence ;
• la possibilité d’exécuter l’inférence sur le sol américain ou dans l’Union européenne, en plus du Zero Data Retention pour les clients éligibles, moyennant un éventuel surcoût ;
• une intégration native à GPT-Live, le modèle vocal d’OpenAI : un agent de support peut décider en pleine conversation de poser une question de clarification ou de passer la main à un humain.

Les tarifs face à Jev

La facturation ignore les tokens générés en sortie, mais l’écriture en cache, pour 30 minutes ou 12 heures, fait l’objet d’un tarif distinct. L’API Decisions revient ainsi à plus du double du prix de Jev, le modèle de TypeSafe AI, qui ne facture lui aussi que les tokens d’entrée.

Les deux services se ressemblent beaucoup : on retrouve les trois mêmes familles de questions, et le « predicate » chez OpenAI équivaut au « Noul » chez Jev. Leur différence se situe dans la méthode. TypeSafe AI a bâti une architecture et un entraînement spécifiques, tandis qu’OpenAI part d’un modèle de langage déjà disponible. Les images ne permettent pas de les distinguer, car TypeSafe AI les a intégrées à Jev dans sa version la plus récente.

Dans les classements AIM System One Index et Artificial Analysis Decision Index, la proposition d’OpenAI arriverait après Jev. D1 Ultra, de Liquid, et Elephant-1, de Base Lab, occupent le haut des deux tableaux. Ces informations viennent d’une unique source, et aucun chiffre n’indique ce que gagnerait une petite entreprise.

Essayer avant de s’engager

OpenAI invite à tester l’API sur des exemples d’usages réels dans son Decisions Playground, et met la documentation à disposition des développeurs. C’est le moyen de vérifier, sur ses propres contenus, si le format de réponse convient. Pour des questions qui s’enchaînent et dépendent les unes des autres, le fonctionnement par requête indépendante impose en revanche d’en prévoir plusieurs. Un agent d’entreprise piloté par objectif relève d’une autre logique, détaillée dans un article sur les agents d’IA.

Photo : Daniil Komov / Pexels