FuriosaAI Как использовать
FuriosaAI — это полупроводниковая компания, разрабатывающая высокопроизводительные и энергоэффективные ускорители ИИ, специально предназначенные для развертывания LLM и мультимодальных моделей в центрах обработки данных.
Посмотреть большеКак использовать FuriosaAI
Зарегистрироваться в Программе раннего доступа: Свяжитесь с [email protected], чтобы зарегистрироваться в Программе раннего доступа (EAP) и согласиться с Лицензионным соглашением конечного пользователя (EULA)
Настроить аутентификацию: После регистрации войдите в FuriosaAI IAM и создайте новый API-ключ, который будет необходим для доступа к услугам FuriosaAI
Настроить APT-репозиторий: Настройте APT-репозиторий FuriosaAI на Ubuntu/Debian, зарегистрировав публичный ключ подписи и настроив аутентификацию API-ключом
Установить необходимые пакеты: Установите драйверы ядра, прошивку и библиотеку выполнения с помощью диспетчера пакетов APT с использованием настроенного репозитория
Установить SDK: Установите SDK Furiosa с помощью pip, которое включает компилятор, профилировщик и другие инструменты разработки
Установить Model Zoo: Установите пакет furiosa-models для доступа к предобученным и предварительно квантованным моделям, оптимизированным для NPUs FuriosaAI
Разработка: Используйте Python/C SDK, библиотеки выполнения и командные инструменты для разработки приложений ИИ с использованием аппаратного обеспечения NPU FuriosaAI
Развертывание модели: Развертывайте модели с помощью пакета furiosa-serving и используйте предоставленные API для инференса на аппаратном обеспечении FuriosaAI
Часто задаваемые вопросы о FuriosaAI
FuriosaAI – компания, основанная в 2017 году, которая создаёт продукты следующего поколения NPU (Neural Processing Unit) для развертывания AI, с последним продуктом бывшим данным центра обработки данных RNGD.
Популярные статьи
OpenAI официально запускает поисковую систему ChatGPT: вызов Google
Nov 1, 2024
Red Panda: Появляется новая модель генерации изображений с помощью ИИ
Oct 31, 2024
Red Panda выпущен как модель генерации изображений Recraft V3
Oct 31, 2024
Meta представляет NotebookLlama: альтернативу NotebookLM от Google с открытым исходным кодом
Oct 30, 2024
Показать больше