OpenAI Bikin GPT-5.6 Sol 14x Lebih Cepat, Tapi Pakai Chip Cerebras — Bukan Nvidia

Rabu lalu (13 Agustus), OpenAI mengumumkan pratinjau terbatas mode baru bernama Ultrafast untuk GPT-5.6 Sol, model paling canggih di lini produknya saat ini. Klaimnya berani: kecepatan hingga 750 token output per detik, 14 kali lipat dari mode Standard, dengan tingkat kecerdasan yang diklaim identik (OpenAI). Yang membuat pengumuman ini lebih menarik dari sekadar angka benchmark adalah siapa yang berada di baliknya: bukan Nvidia, mitra chip utama OpenAI selama ini, melainkan Cerebras — perusahaan silikon asal Sunnyvale yang selama ini dikenal sebagai penantang, bukan pemasok utama, raksasa AI sebesar OpenAI.

Ini bukan sekadar rilis fitur biasa. Ini sinyal bahwa perlombaan AI generatif mulai bergeser dari "siapa yang punya model paling pintar" ke "siapa yang bisa menjalankan model pintar itu secepat mungkin" — dan bahwa OpenAI rela mendiversifikasi tumpuan chip-nya demi memenangkan pertarungan itu.

14 Kali Lipat, Diukur di 750 Token per Detik

Cerebras membangun reputasinya di atas Wafer-Scale Engine — chip raksasa seukuran piring makan yang dirancang khusus untuk inferensi AI, alih-alih chip serbaguna seperti GPU Nvidia. Untuk Ultrafast, Cerebras menjalankan GPT-5.6 Sol di atas arsitektur itu dan mengklaim hasil 750 token per detik, sekitar 14 kali lipat dari kecepatan mode Standard OpenAI yang biasanya berada di kisaran puluhan token per detik (GlobeNewswire — rilis resmi Cerebras).

"GPT-5.6 Sol di Ultrafast adalah bukti bahwa kecepatan dan kecerdasan tidak lagi saling meniadakan," kata Andrew Feldman, CEO sekaligus salah satu pendiri Cerebras, dalam pernyataan resmi peluncuran (GlobeNewswire). Klaim itu penting karena selama ini trade-off antara model besar-dan-pintar versus model kecil-dan-cepat dianggap hampir tak terhindarkan — makin besar model, makin lambat ia menjawab. Cerebras dan OpenAI mengklaim Ultrafast menjalankan bobot model yang persis sama dengan versi Standard, hanya dipercepat lewat hardware, bukan lewat memangkas kemampuan model (The Decoder).

Cerebras turut membandingkan performanya dengan kompetitor: Ultrafast diklaim lima kali lebih cepat dari Claude Opus 4.8 dalam mode Fast, dan sebelas kali lebih cepat dari Claude Fable 5 (GlobeNewswire). Klaim semacam ini tentu perlu dibaca dengan kadar skeptis wajar — angka datang dari pihak yang punya kepentingan komersial jelas — tapi arah persaingannya cukup jelas: kecepatan inferensi jadi medan pertarungan baru, bukan cuma skor benchmark kecerdasan.

Kenapa Bukan Nvidia, dan Kenapa Sekarang

Nvidia masih menjadi tulang punggung infrastruktur komputasi OpenAI untuk pelatihan dan sebagian besar inferensi model-model utamanya — komitmen kemitraan mereka bernilai puluhan miliar dolar dan sudah berjalan bertahun-tahun. Tapi arsitektur GPU serbaguna Nvidia, sekuat apa pun, tetap punya batas kecepatan untuk kasus penggunaan yang butuh respons real-time, seperti agen suara, asisten coding interaktif, atau alat riset multi-langkah yang perlu berpikir dan menjawab nyaris seketika. Cerebras, dengan chip yang dirancang dari nol khusus untuk inferensi, punya keunggulan spesifik di titik itu — meski dengan biaya hardware yang jauh lebih mahal per chip dan skala produksi yang jauh lebih kecil dari Nvidia (TheNextWeb).

OpenAI sendiri membingkai Ultrafast sebagai jawaban atas kebutuhan produk yang selama ini terjebak trade-off itu — model yang cukup pintar untuk pekerjaan berisiko tinggi, tapi juga cukup cepat untuk dipakai selagi pekerjaan itu masih berlangsung, bukan sesudahnya (Cryptopolitan). Untuk sekarang, akses masih dibatasi lewat daftar tunggu ke sejumlah pelanggan API terpilih, tanpa tanggal ketersediaan umum maupun informasi harga resmi — sesuatu yang wajar mengingat menjalankan model terbesar OpenAI di atas hardware spesialis nyaris pasti berbiaya premium dibanding Standard (Cryptopolitan).

Langkah ini juga jadi kemenangan simbolis besar bagi Cerebras, yang selama ini kesulitan menembus lingkaran mitra chip utama lab-lab AI raksasa yang didominasi Nvidia. Mendapat kepercayaan OpenAI — bahkan untuk model paling andalannya — adalah validasi pasar yang sulit dibeli lewat cara lain.

Apa Artinya untuk Developer

Bagi developer yang membangun produk berbasis LLM, kecepatan token bukan sekadar angka vanity — ia menentukan jenis produk apa yang mungkin dibangun sama sekali. Agen suara real-time, misalnya, butuh latensi rendah agar percakapan terasa alami; alat coding interaktif butuh respons instan agar tak memutus alur kerja developer. Selama ini, batasan kecepatan model besar sering memaksa tim produk memilih model yang lebih kecil dan kurang mumpuni demi pengalaman yang terasa responsif.

Data perbandingan independen menunjukkan gambaran yang lebih nuansa dari sekadar klaim pemasaran: pada pengukuran mode standar (bukan Ultrafast), GPT-5.6 Sol versi "high" tercatat punya waktu ke token pertama sekitar 10,5 detik, jauh lebih cepat dari Claude Opus 4.8 mode Adaptive Reasoning Max Effort yang berada di kisaran 25,8 detik — meski setelah generasi dimulai, kecepatan berkelanjutan keduanya relatif sebanding (ArtificialAnalysis). Ultrafast, jika klaim 14x-nya terbukti konsisten di luar demo terkontrol, akan memperlebar jarak itu secara signifikan — tapi baru bisa dinilai betul begitu akses meluas melewati fase daftar tunggu.

Takeaway

Ultrafast bukan cuma soal OpenAI mempercepat satu model — ia sinyal bahwa laboratorium AI besar mulai menganggap kecepatan inferensi sepenting kecerdasan mentah, dan bersedia mendiversifikasi mitra chip di luar Nvidia untuk mengejarnya. Bagi Cerebras, ini validasi besar setelah bertahun-tahun berjuang menembus lingkaran mitra utama lab AI raksasa. Tapi sampai harga resmi diumumkan dan akses dibuka lebih luas dari daftar tunggu saat ini, klaim 750 token per detik tetap sebatas janji terkontrol — pertanyaan sesungguhnya adalah apakah kecepatan itu bertahan konsisten begitu dipakai ribuan developer sekaligus di dunia nyata.

---

Sumber gambar: Vishnu Mohanan di Unsplash Sumber gambar: Ales Nesetril di Unsplash Sumber gambar: Florian Olivo di Unsplash