Cerebras 介紹

WebsiteContact for PricingAI Data Mining AI Code Generator AI DevOps Assistant

Cerebras Systems 是一家先驅性的人工智能計算公司，建造了世界上最大和最快的 AI 處理器 - 晶圓級引擎（WSE），旨在加速 AI 訓練和推理工作負載。

什麼是Cerebras

Cerebras Systems 成立於 2015 年，是一家總部位於森尼韋爾的美國人工智能公司，在聖地亞哥、多倫多和班加羅爾設有辦公室。該公司專門開發革命性的晶圓級計算芯片和 AI 系統，用於複雜的深度學習應用。他們的旗艦產品 Cerebras 晶圓級引擎（WSE）是有史以來最大的計算芯片，大約有一個餐盤的大小，包含超過 1.2 兆個晶體管。該公司最近已申請 IPO，估值超過 40 億美元，標誌著其在 AI 硬件市場中的重要地位。

Cerebras 如何運作？

Cerebras 的技術核心是其晶圓級引擎（WSE）和 CS 系統，這些系統將計算、存儲和互連結構集成到一個巨大的芯片中。與傳統 GPU 在存儲和計算核心之間移動數據時的困難不同，Cerebras 的架構將所有模型層直接存儲在芯片上，實現了更快的處理速度。最新的 WSE-3 芯片提供 125 艾次浮點運算能力，並具有 44GB 的片上 SRAM 存儲器，帶寬為 21 PB/s。通過他們的 Cerebras 推理服務，他們通過 API 提供技術訪問，使開發者能夠以高達每秒 2,100 個令牌的速度運行 AI 模型，如 Meta 的 LLaMA 3.1 - 顯著快於基於 GPU 的解決方案。

Cerebras 的優點

Cerebras 的解決方案提供了幾個關鍵優勢：它的性能比基於 GPU 的替代方案快達 20 倍，同時僅消耗其六分之一的電力；它通過在 16 位域中進行推理來保持最先進的準確性；它消除了分布式計算的複雜性，因為整個模型可以裝在一個芯片上；它提供了成本效益的解決方案，推理成本據報為傳統雲平台的三分之一。這些優勢使其特別適合從事實時或高容量 AI 應用的開發者，特別是在醫療保健、能源和科學計算等領域。