L'après-transformers a commencé : ce que cela change pour votre feuille de route IA
- il y a 21 heures
- 6 min de lecture
Depuis 2017, toute l'industrie de l'intelligence artificielle repose sur une seule idée d'architecture : le transformer et son mécanisme d'attention. Neuf ans plus tard, cette idée est devenue si dominante qu'on a fini par confondre « intelligence artificielle générative » et « transformer », comme on a longtemps confondu « base de données » et « relationnel ».
Le 10 août 2026, MIT Technology Review a publié un état des lieux : plusieurs jeunes pousses financées et outillées travaillent aujourd'hui à remplacer l'attention par autre chose, et certaines commencent à publier des résultats intéressants, avec des impacts possibles sur la feuille de route IA des entreprises.
Pourquoi le transformer est devenu son propre goulot d'étranglement
Le mécanisme d'attention compare chaque élément d'une séquence à tous les autres. Cette exhaustivité fait sa puissance, et elle fait aussi son coût : à mesure que le contexte s'allonge, la charge de calcul croît de façon quadratique. Concrètement, plus vous demandez à un modèle de raisonner sur des documents longs, sur un historique de conversation étendu ou sur un corpus métier volumineux, plus chaque token supplémentaire coûte cher, en calcul, en mémoire, en latence et en euros.
Les laboratoires ont repoussé cette limite par la force brute (plus de puces, plus d'énergie, plus de capitaux), mais la contrainte n'a pas disparu, elle a été financée. C'est exactement le genre de situation où une innovation d'architecture, et non d'échelle, finit par s'imposer.
Ce que proposent les deux acteurs les plus commentés
MIT Technology Review met en avant deux trajectoires. Subquadratic, dont le nom est un programme (sortir de la complexité quadratique), affirme avoir trouvé une réponse structurelle au goulot d'étranglement et annonce sans détour que « plus personne ne construira sur des transformers dans quelques années ». Le pari divise : certains observateurs y voient la plus grande avancée depuis le transformer lui-même, d'autres évoquent un « Theranos de l'IA ».
Pathway, de son côté, a construit un modèle baptisé Dragon Hatchling qui remplace l'attention par une structure mathématique d'espace d'états, laquelle compresse l'information dans une représentation plus abstraite. Son résultat le plus frappant porte sur un jeu de plus de 250 000 grilles de sudoku : le modèle en résout plus de 97 %, là où plusieurs grands modèles de référence n'en résolvent aucune.
Ces travaux ne sortent pas de nulle part. Ils s'inscrivent dans un mouvement de fond largement documenté depuis dix-huit mois.
Mamba-3, publié en mars 2026 par des équipes de Carnegie Mellon, Princeton, Cartesia et Together AI, propose une inférence en temps linéaire dont le coût unitaire décroît quand le contexte s'allonge, exactement l'inverse du comportement d'un transformer.
Cartesia, fondée par des chercheurs issus du Stanford AI Lab, industrialise les modèles à espace d'états pour les usages temps réel où la latence est un critère de conception.
Liquid AI développe une famille de modèles fondée sur des opérateurs linéaires structurés, déjà déployés sur des terminaux mobiles via sa plateforme embarquée.
RWKV reformule l'attention linéaire en réseau récurrent parallélisable et livre depuis 2025 des modèles multilingues à 14 et 32 milliards de paramètres.
Une autre famille encore, les modèles de langage à diffusion, abandonne la génération token par token au profit d'un débruitage itératif parallèle.
Personne ne sait quelle architecture va s'imposer, et parier sur un vainqueur semble inutile. Ce qui compte, c'est que des architectures alternatives sont déjà en production chez IBM, AI21, Mistral, Liquid AI, Zyphra et dans un nombre croissant de projets open source.
Autrement dit, la couche modèle, que beaucoup d'organisations ont traitée comme un socle stable sur lequel on empile des cas d'usage, est en train de redevenir un espace de choix. Or une couche qui redevient un espace de choix redevient mécaniquement un espace de risque, de dépendance et d'arbitrage. Elle relève donc de la gouvernance, pas seulement de la direction technique.
Ce que cela révèle de la fragilité de beaucoup de feuilles de route
Dans le cadre Meridian, nous imposons une lecture panoramique sur cinq référentiels indissociables : capacités métier, processus, systèmes, données, organisation. La première cause d'échec des transformations que nous observons est l'angle mort systémique, c'est-à-dire agir sur un référentiel sans voir les autres.
Un changement d'architecture de modèle touche simultanément le référentiel Systèmes (votre pile d'inférence, votre supervision, vos coûts) et le référentiel Données (vos corpus, vos formats de contexte, vos stratégies de mémoire).
Une organisation qui a industrialisé ses cas d'usage autour d'une fenêtre de contexte de transformer, avec un RAG calibré pour compenser ses limites, découvrira que la moitié de son ingénierie de contournement devient sans objet le jour où une architecture à espace d'états rend le contexte long économiquement trivial. C'est un actif à préparer.
La question de la réversibilité
Nous structurons le diagnostic de souveraineté en trois axes actionnables :
Infrastructure (où vivent physiquement et juridiquement vos données et vos traitements),
Licence & Code (votre niveau réel de réversibilité vis-à-vis du fournisseur),
Maîtrise (la compétence interne à opérer ce que vous exploitez).
L'arrivée d'architectures non transformer met le deuxième axe sous tension. Posez la question sans détour à vos équipes : combien de temps, et à quel coût, pour remplacer le modèle qui sert votre cas d'usage le plus critique par un modèle d'une autre famille architecturale ? Si la réponse se compte en trimestres, votre réversibilité est théorique. Si personne ne sait répondre, c'est que la question n'a jamais été posée, ce qui est le cas le plus fréquent, et le plus coûteux à traiter tardivement.
L'angle FinOps
Le coût d'inférence est devenu, chez la plupart de nos clients, la ligne budgétaire IA qui croît le plus vite, et la moins bien anticipée. La promesse des architectures linéaires est précisément là : un coût qui cesse d'exploser avec la longueur du contexte. Si cette promesse tient, même partiellement, elle déplace la frontière économique entre ce qui est industrialisable et ce qui ne l'est pas. Des cas d'usage aujourd'hui écartés parce que le coût par requête ne passait pas le business case (analyse exhaustive de dossiers longs, mémoire agentique persistante, supervision continue de corpus documentaires) redeviennent défendables. Nous recommandons donc de ne pas fermer définitivement les business cases rejetés pour raison de coût d'inférence : archivez-les avec leurs hypothèses, et prévoyez une revue quand les hypothèses bougent.
La souveraineté cognitive
Au-delà des trois axes classiques, nous ajoutons pour l'IA une quatrième dimension, la souveraineté cognitive : la capacité d'une organisation à comprendre, questionner et arbitrer les systèmes qui produisent ses raisonnements. Une monoculture architecturale l'affaiblit mécaniquement. Quand tous vos systèmes reposent sur la même famille de modèles, ils partagent les mêmes biais, les mêmes modes de défaillance et les mêmes angles morts, sans qu'aucun dispositif de contrôle ne puisse les révéler par comparaison.
La diversification architecturale n'est pas seulement une couverture de risque fournisseur, c'est un instrument de qualité : deux familles de modèles qui échouent différemment sur la même tâche vous apprennent quelque chose que deux modèles identiques ne vous apprendront jamais.
Ce que nous conseillons de faire dès maintenant
Éviter, d'abord de rejouer la pile technique parce qu'une jeune pousse a publié un résultat spectaculaire sur des sudokus.
Faire, ensuite, trois choses simples.
Inscrire une veille architecturale explicite dans votre gouvernance IA, avec un responsable nommé et un point trimestriel au niveau du pilotage de programme, pas seulement dans les équipes techniques.
Mesurer votre réversibilité réelle sur un cas d'usage critique, par un exercice de portabilité limité dans le temps, dont le livrable est un chiffre et non une opinion.
Exiger que toute nouvelle brique agentique passe par une couche d'abstraction du modèle, afin que le choix d'architecture reste un paramètre et non une fondation coulée.
La règle de maturité qui s'applique ici comme ailleurs. Le diagnostic GAME repose sur une règle d'or que nous répétons à chaque engagement : le niveau de maturité global d'une organisation est déterminé par sa dimension la plus faible, jamais par la moyenne. Une organisation qui suit de près l'état de l'art architectural mais qui n'a ni registre de ses modèles en production, ni capacité à mesurer la dépendance de ses processus critiques à un fournisseur donné, n'est pas une organisation en avance. C'est une organisation exposée, qui a simplement une meilleure vue sur l'endroit d'où viendra le choc. L'après-transformers, s'il advient au rythme que ces jeunes pousses annoncent, ne récompensera pas les organisations qui auront deviné la bonne architecture, mais celles qui auront construit la capacité d'en changer.



