Offline Chat: Private AI 紹介

Offline Chatは、ユーザーのクエリに応答するためにデバイス上のAIモデルを利用し、外部サーバーにデータを送信することはありません。アプリは、Tiny（Microsoft Phi 2に基づく）、Small、およびMedium（どちらもMistral 7B 0.2に基づき、それぞれ3ビットおよび4ビットに量子化）という3つのモデルサイズを提供します。ユーザーは一般的な質問を入力したり、分析のためにプライベート文書（現在PDFおよびプレーンテキストファイルをサポート）を読み込んだりできます。AIはこれらの入力をローカルで処理し、読み込まれた情報に基づいて応答と洞察を提供します。アプリの機能はデバイスの能力によって異なり、MacやiPad Proのような高性能デバイスではより高度な機能が利用可能です。