kini resmi menggunakan (TPU) dalam tahap produksi melalui mesin inferensi SGLang versi native . Langkah ini memperkuat integrasi chip AI kustom Google dengan framework buatan Meta untuk efisiensi operasional.
Direktur Rekayasa PyTorch Meta, Jana van Greunen, mengungkap kolaborasi pengembangan TorchTPU bersama Google. Selain SGLang, vLLM versi native PyTorch juga dirilis sebagai open source, menggantikan ketergantungan sebelumnya pada framework JAX milik Google.
Performa chip Ironwood generasi ketujuh terbukti unggul dengan 700 token per detik pada model Kimi K3, melampaui Nvidia GB200. RadixArk pun menargetkan dukungan penuh TPU untuk model terbuka baru pada kuartal pertama 2027 guna mempercepat adopsi teknologi.