Artificial Analysis, société indépendante de benchmarking IA, a lancé le Decision Index pour évaluer les modèles de décision sur trois critères : précision, rapidité et coût. Ces modèles, qui effectuent des choix à partir d’options prédéfinies, affichent une latence médiane d’environ 148 ms pour un coût d’environ 0,11 dollar par 1 000 requêtes. Ils peuvent être de 60 à 400 fois moins coûteux que les grands modèles de langage pour des tâches comparables, tout en étant moins performants sur les tâches nécessitant des connaissances générales ou un raisonnement complexe. Parmi les fournisseurs figuraient TypeSafe AI avec Jev, Cloudflare avec Clef, Perplexity avec pplx-decider, ainsi que l’API Decisions d’OpenAI. Pour les entreprises utilisant l’intelligence artificielle à grande échelle, ces modèles pourraient constituer une alternative économique pour les tâches répétitives et délimitées, tandis que les grands modèles de langage resteraient réservés aux travaux nécessitant des capacités de raisonnement.
Source: Lire l’article original
