如何在本地離線運行 DeepSeek

透過這份全面的逐步指南,學習如何在本地離線運行 DeepSeek R1。通過 Ollama 設置運行環境、安裝 DeepSeek 模型,並使用 Page Assist 瀏覽器擴展程序實現用戶友好的界面,避免服務器過載並享受順暢的使用體驗。這是尋求可靠離線 AI 模型執行的 AI 愛好者的完美指南。

Rock Smith
更新時間:2025年02月10日
目錄

    一場巨大的事件剛剛震撼了AI界—DeepSeek 已經風靡全球!多虧了它的免費和開源性質,以及輸出質量堪比OpenAI的O1模型,它獲得了巨大的追隨者。看看GitHub就知道了—它的星標數量已經飆升到超過60K,上次檢查時只有16K。這真是太瘋狂了!

    DeepSeek-R1
    DeepSeek-R1
    DeepSeek-R1 是一個先進的開源 AI 推理模型,在數學、編碼和推理任務中表現與 OpenAI 的 o1 相當,採用了創新的強化學習技術,並有多種精簡版本以提高可訪問性。
    訪問網站

    然而,我們注意到DeepSeek的線上版本有時候會遇到伺服器過載的情況,使得難以訪問。所以今天,我們將為您帶來如何在本地和離線環境下運行DeepSeek R1的步驟教程。讓我們開始吧!

    如何運行Deepseek

    步驟1:安裝Ollama

    首先,我們需要安裝一個允許本地執行的運行環境。我們推薦Ollama,它支持免費運行所有版本的DeepSeek R1模型。

    前往官方網站,點擊下載按鈕,並選擇與您的電腦兼容的版本。在這個例子中,我們將使用Windows PC。文件大小約為700MB。下載後,雙擊安裝。安裝完成後,您會在系統托盤中看到它—這意味著一切就緒!

    Ollama

    步驟2:複製DeepSeek R1模型代碼

    現在,讓我們獲取DeepSeek R1模型:

    • 返回Ollama的官方網站,點擊左上角的"模型"選項卡。
    • 您應該會看到第一個選項是DeepSeek R1—沒錯,它已經集成進去了!

    Ollama

    • 點擊模型,您會看到根據您的電腦VRAM容量的不同版本。
    • 如果您不確定選擇哪個版本,這裡有一個通用的建議:VRAM較低?選擇較小的模型。
    • 推理速度較慢?降級到較低版本。
    • 在本教程中,我們將使用7B版本,這是最常用的版本。
    • 點擊旁邊的複製按鈕—這將自動複製我們需要的下載模型的命令。

    DeepSeek R1

    步驟3:打開Windows PowerShell

    現在,讓我們安裝模型:

    • 在系統的搜索欄中找到Windows PowerShell並打開它。(或者按 WIN + R,輸入cmd,並按Enter打開命令提示符。)

    Windows PowerShell

    • 粘貼您之前複製的命令,然後按Enter。

    Deepseek

    • Ollama現在將自動為您下載並安裝DeepSeek R1。
    • 安裝完成後,您可以直接開始提問!
    • 嘗試輸入一個問題並按Enter—您應該會看到"Think"出現,這意味著DeepSeek R1正在處理您的查詢。

    然而,我們理解這個命令行界面對於初學者來說可能不太友好。因此,如果您喜歡乾淨且直觀的UI—類似於ChatGPT—讓我們進入下一步。

    Deepseek

    步驟4:使用Page Assist擴展運行DeepSeek R1

    為了增強您的體驗,讓我們設置一個基於瀏覽器的界面:

    • 打開Chrome網上應用店並搜索"Page Assist."

    Page Assist

    • 點擊"添加到Chrome."—第一個結果就是您想要的。
    • 安裝完成後,找到左上角的Page Assist圖標。打開它,您會看到它已經與我們剛才設置的模型和Ollama連接。
    • 選擇您之前安裝的模型。在使用之前,我們需要調整一些基本設置。
    • 點擊右上角的設置圖標,啟用"RAG設置,"並在"嵌入模型"下選擇您的模型。

    DeepSeek R1

    • 保存您的更改,一切就緒!現在,嘗試提問一個示例問題:
    "昨天的前一天是哪一天?"

    Boom!答案立即出現。

    DeepSeek R1

    此外,您還可以啟用左下角的網際網路搜索功能來提問最新新聞。很簡單,對吧?如果您安裝了其他模型,還可以切換使用!

    AIPURE
    AIPURE
    AIPURE是一個全面的平台,通過易於使用的搜索界面幫助用戶發現和探索2024年最佳的AI工具和服務。
    訪問網站

    DeepSeek的最後想法

    這就是如何使用Ollama和Page Assist擴展在本地和離線環境下運行DeepSeek R1。如果您有任何問題,請在AIPURE YouTube上留言!別忘了點贊、訂閱並開啟通知,這樣您就不會錯過我們未來的教程。

    輕鬆找到最適合您的AI 工具
    立即查詢
    產品資訊完整
    多元選擇
    豐富詳盡