fullmoon 介紹

WebsiteAppFreeAI Chatbot Large Language Models (LLMs)

Fullmoon 是一款 iOS 應用，使用戶能夠在 Apple 設備上直接與私有和本地大型語言模型 (LLMs) 聊天，針對 Apple 芯片進行了優化，完全離線運行。

什麼是 fullmoon

Fullmoon 是一款免費、開源的應用程序，旨在將大型語言模型的強大功能直接帶到用戶的 Apple 設備上。該應用支持 iOS、iPadOS、macOS 和 visionOS 平台，允許用戶在本地與 LLMs（如 Llama-3.2 模型）互動，無需互聯網連接。它提供了一個簡單直觀的界面，用於與 AI 模型聊天，同時保持對話的完全隱私。

fullmoon 如何運作？

Fullmoon 通過使用 Apple 的 Metal 3 圖形框架和 Swift MLX 陣列框架在設備上直接運行優化的語言模型。它目前支持兩種主要模型：Llama-3.2-1B-Instruct-4bit (0.7GB) 和 Llama-3.2-3B-Instruct-4bit (1.8GB)，這些模型被壓縮到 4 位精度，以實現高效的設備運行。用戶可以通過可調節的主題、字體和系統提示來個性化他們的體驗。該應用還與 Apple Shortcuts 集成，允許從本地模型獲取的輸出用於其他動作。

fullmoon 的好處

Fullmoon 的主要優點包括完全隱私，因為所有處理都在設備本地進行，無需互聯網連接，且與 Apple 生態系統無縫集成。用戶可以與 AI 模型聊天，無需擔心數據隱私或伺服器連接問題。該應用的開源性質確保了透明度，而針對 Apple 芯片的優化則提供了高效的性能。自定義選項和 Shortcuts 集成使其在不同使用場景中更加靈活，而免費提供則使先進的 AI 技術對所有 Apple 設備用戶都可及。