fullmoon 介绍

Fullmoon 是一款 iOS 应用,使用户能够在完全离线的情况下直接在其 Apple 设备上与私有和本地的大语言模型 (LLMs) 聊天,针对 Apple 芯片进行了优化。
查看更多

什么是 fullmoon

Fullmoon 是一款免费的开源应用,旨在将大语言模型的强大力量直接带到用户的 Apple 设备上。该应用支持 iOS、iPadOS、macOS 和 visionOS 平台,允许用户在本地与 LLMs(如 Llama-3.2 模型)互动,无需互联网连接。它提供了一个简单直观的界面,用于与 AI 模型聊天,同时确保对话的完全隐私。

fullmoon 是如何工作的?

Fullmoon 通过使用 Apple 的 Metal 3 图形框架和 Swift MLX 数组框架直接在设备上运行优化的语言模型来工作。目前支持两个主要模型:Llama-3.2-1B-Instruct-4bit (0.7GB) 和 Llama-3.2-3B-Instruct-4bit (1.8GB),这些模型被压缩到 4 位精度以实现高效的设备上运行。用户可以通过可调整的主题、字体和系统提示来定制他们的体验。该应用还与 Apple Shortcuts 集成,允许从本地模型获取的输出用于其他动作。

fullmoon 的优势

Fullmoon 的主要优势包括完全隐私,因为所有处理都在设备上本地进行,无需互联网连接,且与 Apple 的生态系统无缝集成。用户可以与 AI 模型聊天,无需担心数据隐私或服务器连接问题。该应用的开源性质确保了透明度,而对 Apple 芯片的优化则提供了高效的性能。自定义选项和 Shortcuts 集成使其适用于不同的使用场景,而免费提供则使高级 AI 技术对所有 Apple 设备用户都触手可及。

与 fullmoon 类似的最新 AI 工具

2000+ ChatGPT Mega-Prompts Bundle
2000+ ChatGPT Mega-Prompts Bundle
一个全面的集合,包含8个类别(营销、业务、个人创业者、写作、生产力、教育、SEO和销售)中的2,000多个手工制作的超级提示,旨在解锁ChatGPT、Claude和Gemini等AI聊天机器人的全部潜力。
Folderr
Folderr
Folderr 是一个全面的 AI 平台,允许用户通过上传无限文件、集成多个语言模型并通过用户友好的界面自动化工作流来创建自定义 AI 助手。
Peache.ai
Peache.ai
Peache.ai is an AI character chat playground that enables users to engage in flirty, witty, and daring conversations with diverse AI personalities through real-time interactions.
TalkPersona
TalkPersona
TalkPersona 是一个由AI驱动的视频聊天机器人,通过具有自然语音和唇同步功能的虚拟说话面孔提供实时类似人类的对话。