Cerebras 소개
Cerebras Systems는 세계에서 가장 크고 빠른 AI 프로세서인 Wafer Scale Engine (WSE)을 구축하는 선도적인 AI 컴퓨팅 회사로, AI 교육 및 추론 작업을 가속화하도록 설계되었습니다.
더 보기Cerebras이란 무엇인가요
2015년에 설립된 Cerebras Systems는 샌니벨에 본사를 두고 있으며 샌디에이고, 토론토 및 방갈로르에 사무소를 둔 미국 인공지능 회사입니다. 이 회사는 복잡한 딥 러닝 애플리케이션을 위한 혁신적인 웨이퍼 스케일 컴퓨터 칩 및 AI 시스템 개발을 전문으로 합니다. 그들의 플래그십 제품인 Cerebras Wafer Scale Engine (WSE)은 지금까지 제작된 가장 큰 컴퓨터 칩으로, 저녁 접시 크기와 비슷하며 1.2조 개 이상의 트랜지스터를 포함하고 있습니다. 이 회사는 최근 IPO를 신청했으며 40억 달러 이상의 가치를 지니고 있어 AI 하드웨어 시장에서 중요한 위치를 차지하고 있습니다.
{aiToolName}은 어떻게 작동하나요?
Cerebras의 기술은 컴퓨팅, 메모리 및 상호 연결 패브릭을 단일 대형 칩으로 통합하는 Wafer Scale Engine (WSE) 및 CS 시스템을 중심으로 합니다. 메모리와 컴퓨트 코어 간의 데이터 이동에 어려움을 겪는 전통적인 GPU와는 달리, Cerebras의 아키텍처는 모든 모델 레이어를 칩에 직접 저장하여 훨씬 더 빠른 처리를 가능하게 합니다. 최신 WSE-3 칩은 125 페타플롭의 컴퓨팅 파워를 제공하며 21 PB/s 대역폭을 가진 44GB의 온칩 SRAM 메모리를 특징으로 합니다. Cerebras 추론 서비스를 통해 API를 통해 그들의 기술에 접근할 수 있으며, 개발자들은 Meta의 LLaMA 3.1과 같은 AI 모델을 초당 최대 2,100 토큰의 속도로 실행할 수 있습니다 - GPU 기반 솔루션보다 훨씬 빠릅니다.
Cerebras의 이점
Cerebras의 솔루션은 여러 가지 주요 이점을 제공합니다: GPU 기반 대안보다 최대 20배 더 빠른 성능을 제공하면서 전력 소비는 1/6에 불과합니다; 추론을 위해 16비트 도메인에 머물러 최첨단 정확도를 유지합니다; 전체 모델이 하나의 칩에 맞기 때문에 분산 컴퓨팅의 복잡성을 제거합니다; 그리고 전통적인 클라우드 플랫폼에 비해 추론 비용이 1/3로 보고되는 비용 효율적인 솔루션을 제공합니다. 이러한 이점은 특히 의료, 에너지 및 과학 컴퓨팅과 같은 분야에서 실시간 또는 대량 AI 애플리케이션 작업을 하는 개발자에게 매력적입니다.
더 보기