nvidia just blew $20B to acquire a company’s alternative to Google’s TPU chips

багато що потрібно розібрати, але головне — Google зачепили за живе, вони щось роблять з Asics, що означає, що домінування Nvidia на ринку не таке вже й очевидне, незважаючи на десятирічний перевагу

якщо GPU Nvidia дійсно переоцінені, а ASIC з низькою затримкою можуть зайняти нішу в inference, тоді Google, Amazon і менші стартапи становлять загрозу.

я вірю, що в кінцевому підсумку inference стане більшою потребою для обчислень, ніж тренування. 2025 рік чітко це показує, з більш розумними моделями, що відкриваються після тренування.

дешевші токени, нижча затримка, менші чипи.