Inception, startup d’intelligence artificielle, a lancé Mercury 2.5, un grand modèle de langage basé sur la technologie de diffusion, offrant une amélioration de 40% de l’intelligence par rapport à son prédécesseur. Le modèle traite 1 107 jetons par seconde sur des GPU NVIDIA standard, avec une fenêtre de contexte de 260 000 jetons et un tarif de 0,20 dollar par million de jetons d’entrée en tarification standard. L’entreprise a levé 50 millions de dollars en financement, mené par Menlo Ventures et soutenu par Andrew Ng et Andrej Karpathy. Le modèle est accessible via une API compatible OpenAI, avec une réduction de 80% pendant la phase de lancement ramenant les coûts à 0,04 dollar par million de jetons d’entrée. OpenCall, utilisateur précoce, a rapporté des latences médianes inférieures à 200 millisecondes pour les interactions vocales.
Source: Lire l’article original
