nvidia vient de faire $20B pour acquérir une entreprise proposant une alternative aux puces TPU de Google

beaucoup à déballer ici mais la principale conclusion est que Google a touché une corde sensible, ils ont quelque chose avec Asics, ce qui signifie que la domination du marché de Nvidia n’est pas ce qu’elle semble être malgré la longueur d’avance d’une décennie

si les GPU de Nvidia sont en fait trop surévalués et que les ASIC à faible latence peuvent spécifiquement conquérir un marché dans l’inférence, alors Google, Amazon et les startups plus petites représentent une menace.

je crois qu’à terme, l’inférence sera une demande plus importante pour la puissance de calcul que la formation. 2025 a été un signal clair à ce sujet avec des modèles plus intelligents déverrouillés après la formation.

tokens moins chers, latence plus faible, puces plus petites.