Cerebras Introduction

Teknologi Cerebras berpusat pada Wafer Scale Engine (WSE) dan sistem CS-nya, yang mengintegrasikan komputasi, memori, dan jaringan interkoneksi ke dalam satu chip besar. Berbeda dengan GPU tradisional yang kesulitan memindahkan data antara memori dan inti komputasi, arsitektur Cerebras menyimpan semua lapisan model langsung di chip, memungkinkan pemrosesan yang jauh lebih cepat. Chip WSE-3 terbaru memberikan 125 petaflops daya komputasi dan memiliki 44GB memori SRAM on-chip dengan bandwidth 21 PB/s. Melalui layanan Inferensi Cerebras mereka, mereka menawarkan akses ke teknologi mereka melalui API, memungkinkan pengembang menjalankan model AI seperti LLaMA 3.1 dari Meta dengan kecepatan hingga 2.100 token per detik - jauh lebih cepat dibandingkan solusi berbasis GPU.