FuriosaAI
FuriosaAI adalah perusahaan semikonduktor yang mengembangkan akselerator AI berkinerja tinggi dan efisien energi yang dirancang khusus untuk penyebaran LLM dan multimodal di pusat data.
Kunjungi Situs Web
https://furiosa.ai/
Informasi Produk
Diperbarui:24/10/2024
Apa itu FuriosaAI
FuriosaAI adalah perusahaan teknologi yang mengkhususkan diri dalam pengembangan chip akselerator AI, dengan produk unggulannya adalah akselerator pusat data Furiosa RNGD Gen 2. Perusahaan ini fokus pada penciptaan solusi inferensi AI yang kuat dan efisien untuk lingkungan perusahaan dan cloud. Teknologinya dibangun di atas proses manufaktur semikonduktor yang canggih menggunakan teknologi TSMC 5nm, menawarkan spesifikasi yang kompetitif dengan pemimpin industri seperti NVIDIA sambil mempertahankan konsumsi daya yang jauh lebih rendah.
Fitur Utama FuriosaAI
FuriosaAI adalah perusahaan semikonduktor yang mengembangkan chip akselerator AI canggih, dengan produk unggulan mereka Furiosa RNGD - akselerator pusat data Gen 2. Teknologi mereka dibangun di atas arsitektur Tensor Contraction Processor (TCP) yang unik yang secara efisien menangani operasi tensor untuk pembelajaran mendalam, menawarkan kinerja-per-watt yang lebih baik dibandingkan dengan pesaing seperti H100 dan L40S dari NVIDIA. Perusahaan ini menyediakan solusi perangkat lunak komprehensif untuk penerapan AI, termasuk kompresi model, kerangka penyajian, dan alat optimisasi runtime.
Arsitektur Tensor Contraction Processor: Arsitektur milik yang dirancang khusus untuk operasi tensor yang efisien, memberikan kinerja yang lebih baik daripada pendekatan perkalian matriks tradisional
Desain Efisien Energi: Desain TDP 150W yang memberikan rasio kinerja-per-watt tinggi untuk inferensi LLM, jauh lebih rendah daripada konsumsi daya pesaing
Tumpukan Perangkat Lunak Komprehensif: Toolkit lengkap termasuk kompilator, profiler, debugger, dan API untuk mengoptimalkan dan menerapkan model bahasa besar
Manajemen Memori Fleksibel: Optimisasi sumber daya memori yang canggih berdasarkan bentuk tensor dengan kapasitas 48GB dan bandwidth 1,5 TB/s
Kasus Penggunaan FuriosaAI
Penerapan AI Perusahaan: Penerapan model bahasa besar yang efisien di pusat data perusahaan dengan pengurangan konsumsi daya dan kebutuhan pendinginan
Layanan Komputasi Awan: Inferensi AI berkinerja tinggi untuk penyedia layanan awan yang memerlukan solusi yang dapat diskalakan dan efisien energi
Media dan Hiburan: Pemrosesan khusus untuk beban kerja kreatif dan aplikasi AI video dengan varian RNGDS
Kelebihan
Efisiensi energi yang superior dibandingkan dengan pesaing
Ekosistem perangkat lunak yang komprehensif untuk penerapan
Biaya total kepemilikan yang lebih rendah karena pengurangan kebutuhan daya dan pendinginan
Kekurangan
Kinerja mentah yang lebih rendah dibandingkan dengan NVIDIA H100
Pemain yang relatif baru di pasar dengan ekosistem yang kurang mapan
Cara Menggunakan FuriosaAI
Daftar untuk Program Akses Awal: Hubungi [email protected] untuk mendaftar ke Program Akses Awal (EAP) dan setujui Perjanjian Lisensi Pengguna Akhir (EULA)
Atur Autentikasi: Setelah pendaftaran, masuk ke FuriosaAI IAM dan buat kunci API baru yang akan diperlukan untuk mengakses layanan FuriosaAI
Konfigurasi Repositori APT: Atur repositori APT FuriosaAI di Ubuntu/Debian dengan mendaftarkan kunci tanda tangan publik dan mengonfigurasi autentikasi kunci API
Instal Paket yang Diperlukan: Instal driver kernel, firmware, dan pustaka runtime melalui manajer paket APT menggunakan repositori yang telah dikonfigurasi
Instal SDK: Instal Furiosa SDK menggunakan pip, yang mencakup kompiler, profiler, dan alat pengembangan lainnya
Instal Model Zoo: Instal paket furiosa-models untuk mengakses model yang telah dilatih sebelumnya dan yang telah dikuantisasi untuk NPUs FuriosaAI
Pengembangan: Gunakan SDK Python/C, pustaka runtime, dan alat baris perintah untuk mengembangkan aplikasi AI yang memanfaatkan perangkat keras NPU FuriosaAI
Penyebaran Model: Sebarkan model menggunakan paket furiosa-serving dan manfaatkan API yang disediakan untuk inferensi pada perangkat keras FuriosaAI
FAQ FuriosaAI
FuriosaAI adalah perusahaan rintisan chip AI yang didirikan pada tahun 2017 yang menciptakan produk NPU (Neural Processing Unit) generasi berikutnya untuk penerapan AI, dengan produk terbaru mereka adalah akselerator pusat data Furiosa RNGD.
Postingan Resmi
Memuat...Artikel Populer
OpenAI Resmi Meluncurkan Mesin Pencari ChatGPT: Penantang Google
Nov 1, 2024
Red Panda: Model Pembangkit Gambar AI Baru Muncul
Oct 31, 2024
Red Panda Dirilis sebagai Model Pembangkit Gambar Recraft V3
Oct 31, 2024
Meta Memperkenalkan NotebookLlama: Alternatif Open-Source untuk NotebookLM Google
Oct 30, 2024
Analitik Situs Web FuriosaAI
Lalu Lintas & Peringkat FuriosaAI
8.5K
Kunjungan Bulanan
#2785544
Peringkat Global
#2088
Peringkat Kategori
Tren Lalu Lintas: Jul 2024-Sep 2024
Wawasan Pengguna FuriosaAI
00:00:46
Rata-rata Durasi Kunjungan
1.93
Halaman Per Kunjungan
37.53%
Tingkat Pentalan Pengguna
Wilayah Teratas FuriosaAI
KR: 69.82%
US: 20.46%
TH: 7.92%
DE: 1.8%
Others: NAN%