Une étude menée par le groupe Hazy Research de l’Université Stanford révèle que l’efficacité de l’intelligence artificielle locale, mesurée en intelligence par joule, a été multipliée par 18 en l’espace de seize mois, passant de mi-2024 à fin 2025. Cette progression résulte d’une combinaison de facteurs : les améliorations architecturales des modèles ont contribué à un gain d’environ 3,1x, tandis que les avancées matérielles ont permis un bond de 5,9x. Les tests effectués sur différentes puces, notamment le NVIDIA B200 et le SambaNova SN40L, ont démontré que les accélérateurs dédiés à l’intelligence artificielle surpassent nettement les puces grand public en termes d’efficacité. L’adoption d’une approche hybride combinant traitement local et cloud pourrait réduire la consommation d’énergie et les coûts de 60 à 80% par rapport à une infrastructure entièrement déportée. L’intelligence artificielle locale atteint désormais une précision d’environ 88,7% sur les tâches de conversation et de raisonnement.
Source: Lire l’article original
