OpenAI Rilis Chip Jalapeno, Lampaui NVIDIA GB300

Chip ASIC Jalapeno OpenAI tawarkan performa 3,6x lebih cepat dan efisiensi daya tinggi dibanding NVIDIA GB300 berkat memori HBM4 terbaru.

OpenAI resmi memperkenalkan chip ASIC Jalapeno yang dipadukan dengan bahasa pemrograman kernel Gluon. Chip ini dibangun menggunakan node N3P TSMC untuk die komputasi, chiplet I/O N3E, serta memori HBM4 yang suguhkan bandwidth memori hingga 15,4 TB/s per paket.

Jalapeno mengusung arsitektur Single-Token Prediction dengan mesin matriks systolic array. Chip ini memiliki core skalar 64-bit Out-of-Order dan core vektor FP32/INT32. Dengan TDP 700W, konsumsi daya aktifnya efisien, biasanya tetap berada di angka 550W saja.

Performa Jalapeno sangat impresif, mencapai 13,4 PFLOPs MXFP4. Pada benchmark InferenceX, chip ini 1,5x hingga 1,9x lebih hemat daya dan 1,7x hingga 3,6x lebih cepat latensinya dibanding NVIDIA GB200/GB300 yang masih menggunakan teknologi memori HBM3E saat ini.


Berita terkait

Privasi Data AI: Anthropic dan OpenAI Disorot