Cerebras 使用方法
Cerebras Systems 是一家开创性的人工智能计算公司,构建了世界上最大和最快的 AI 处理器 - 晶圆级引擎(WSE),旨在加速 AI 训练和推理工作负载。
查看更多如何使用Cerebras
注册 Cerebras API 访问: 访问 cerebras.ai 并申请其推理 API 服务的访问权限。一旦获得批准,您将收到 API 密钥。
选择您的模型: 根据您的需求和预算选择可用的模型,如 Llama 3.1-8B 或 Llama 3.1-70B。8B 模型的价格为每百万 token 10 美分,70B 模型的价格为每百万 token 60 美分。
集成 API: 使用熟悉的 OpenAI Chat Completions 格式 - 只需替换 API 密钥即可将 Cerebras 的推理功能集成到您的应用程序中。
访问文档: 访问 docs.cerebras.ai 获取详细的 API 文档、教程和使用 Cerebras SDK 将 LLM 集成到您的应用程序中的指南。
可选:使用 Model Studio Builder: 对于自定义模型训练,使用 Model Studio Builder 访问 Cerebras 晶圆级集群和模型库,以进一步自定义您的模型。
可选:框架集成: 如果使用 TensorFlow 或 PyTorch,集成 Cerebras 软件平台以将您的模型带到 CS-2 系统。
监控使用情况: 通过平台仪表板跟踪您的 token 使用情况和成本,以管理您的推理工作负载。
Cerebras 常见问题解答
Cerebras Systems Inc. 是一家成立于 2015 年的美国人工智能(AI)公司,专门开发用于复杂 AI 深度学习应用的计算机系统。他们在 Sunnyvale、San Diego、Toronto 和印度的 Bangalore 设有办事处。
查看更多