FuriosaAI Cách sử dụng
FuriosaAI là một công ty bán dẫn phát triển các bộ tăng tốc AI hiệu suất cao, tiết kiệm năng lượng được thiết kế đặc biệt cho việc triển khai LLM và đa phương thức trong các trung tâm dữ liệu.
Xem thêmCách sử dụng FuriosaAI
Đăng ký chương trình truy cập sớm: Liên hệ [email protected] để đăng ký chương trình truy cập sớm (EAP) và đồng ý với Thỏa thuận cấp phép người dùng cuối (EULA)
Thiết lập xác thực: Sau khi đăng ký, đăng nhập vào FuriosaAI IAM và tạo một khóa API mới sẽ cần thiết để truy cập các dịch vụ của FuriosaAI
Cấu hình kho APT: Thiết lập kho APT của FuriosaAI trên Ubuntu/Debian bằng cách đăng ký khóa ký công khai và cấu hình xác thực khóa API
Cài đặt các gói cần thiết: Cài đặt trình điều khiển kernel, firmware và thư viện runtime thông qua trình quản lý gói APT sử dụng kho đã được cấu hình
Cài đặt SDK: Cài đặt Furiosa SDK bằng pip, bao gồm trình biên dịch, profiler và các công cụ phát triển khác
Cài đặt Model Zoo: Cài đặt gói furiosa-models để truy cập các mô hình đã được huấn luyện trước và đã được định lượng trước được tối ưu hóa cho NPUs của FuriosaAI
Phát triển: Sử dụng SDK Python/C, thư viện runtime và các công cụ dòng lệnh để phát triển các ứng dụng AI tận dụng phần cứng NPU của FuriosaAI
Triển khai mô hình: Triển khai các mô hình bằng cách sử dụng gói furiosa-serving và sử dụng các API được cung cấp để suy diễn trên phần cứng của FuriosaAI
Câu hỏi thường gặp về FuriosaAI
FuriosaAI là một công ty khởi nghiệp chip AI được thành lập vào năm 2017, chuyên tạo ra các sản phẩm NPU (Bộ xử lý thần kinh) thế hệ tiếp theo cho việc triển khai AI, với sản phẩm mới nhất là bộ tăng tốc trung tâm dữ liệu Furiosa RNGD.
Bài viết phổ biến
OpenAI Chính Thức Ra Mắt Công Cụ Tìm Kiếm ChatGPT: Đối Thủ Cạnh Tranh với Google
Nov 1, 2024
Red Panda: Một Mô Hình Tạo Ảnh AI Mới Xuất Hiện
Oct 31, 2024
Red Panda được phát hành như Mô hình Tạo Hình ảnh Recraft V3
Oct 31, 2024
Meta ra mắt NotebookLlama: Một giải pháp mã nguồn mở thay thế cho NotebookLM của Google
Oct 30, 2024
Xem thêm