一场巨大的事件刚刚震撼了AI社区—DeepSeek 全球范围内迅速走红!得益于其免费开源的性质和与OpenAI的O1模型相媲美的输出质量,它已经获得了大量粉丝。看看GitHub就知道了—它的星标数已经飙升至60K以上,上次我们检查时只有16K。这太疯狂了!
DeepSeek-R1 是一个先进的开源 AI 推理模型，在数学、代码和推理任务中实现了与 OpenAI 的 o1 相当的性能，采用了创新的强化学习技术，并提供了多种精简版本以提高可访问性。
访问网站
然而,我们注意到DeepSeek的在线版本有时会遇到服务器过载的问题,导致难以访问。因此,今天我们为您带来如何在本地和离线运行DeepSeek R1的详细教程。让我们马上开始吧!
步骤1:安装Ollama
首先,我们需要安装一个允许本地执行的运行环境。我们推荐Ollama,它支持免费运行所有版本的DeepSeek R1模型。
前往官方网站,点击下载按钮,选择与您的电脑兼容的版本。在这个例子中,我们将使用Windows PC。文件大小约为700MB。下载完成后,双击安装。安装完成后,您会在系统托盘中看到它—这意味着一切准备就绪!
- 点击模型,您会看到根据您的电脑VRAM容量的不同版本。
- 如果您不确定选择哪个版本,这里有一些建议:VRAM较低?选择较小的模型。
- 推理速度较慢?降级到较低版本。
- 在这个教程中,我们将使用7B版本,这是最常用的版本。
- 点击旁边的复制按钮—这将复制我们需要自动下载模型的命令。
步骤2:打开Windows PowerShell
现在,让我们安装模型:
- 在系统搜索栏中找到Windows PowerShell并打开它。(或者按WIN + R,输入cmd,然后按Enter打开命令提示符。)
- 粘贴您之前复制的命令,然后按Enter。
- Ollama现在会自动为您下载并安装DeepSeek R1。
- 安装完成后,您就可以直接开始提问了!
- 尝试输入一个问题并按Enter—您应该会看到“Think”字样,这意味着DeepSeek R1正在处理您的查询。
然而,我们理解这个命令行界面对于初学者来说可能不太友好。因此,如果您更喜欢一个干净直观的UI—类似于ChatGPT—让我们进入下一步。
步骤3:使用Page Assist扩展程序运行DeepSeek R1
为了提升您的体验,让我们设置一个基于浏览器的界面:
- 打开Chrome网上应用店,搜索“Page Assist”。
- 点击“添加到Chrome”。—第一个结果就是您需要的。
- 安装完成后,在左上角找到Page Assist图标。打开它,您会看到它已经链接到我们刚刚设置的模型和Ollama。
- 选择您之前安装的模型。在使用之前,我们需要调整一些基本设置。
- 点击右上角的设置图标,启用“RAG设置”,并在“嵌入模型”下选择您的模型。
- 保存您的更改,现在您就可以开始提问了!
“昨天的前一天是哪一天?”
Boom!答案立即出现。
此外,您还可以在左下角启用互联网搜索功能,以询问最新新闻。非常简单,对吧?如果您安装了其他模型,还可以在它们之间切换!
AIPURE是一个综合平台，通过易于使用的搜索界面帮助用户发现和探索2024年最佳AI工具和服务。
访问网站
DeepSeek的最后感想
这就是如何使用Ollama和Page Assist扩展程序在本地和离线运行DeepSeek R1的方法。如果您有任何问题,请在AIPURE YouTube上留言!别忘了点赞、订阅并开启我们的频道通知,以免错过未来的教程。
