Aguru AI 使い方
Aguru AIは、行動追跡、異常検出、パフォーマンス最適化などの機能を備えたLLMベースのアプリケーションの包括的な監視、セキュリティ、および最適化ツールを提供するオンプレミスソフトウェアソリューションです。
もっと見るAguru AIの使い方
Aguru Safeguardパッケージをダウンロード: Aguruのウェブサイトにサインアップして、フルパッケージをダウンロードします。早期採用者は無料アクセスを得ることができます。
ソフトウェアをインストール: データプライバシーとセキュリティを確保するために、Aguru Safeguardをローカルにインストールします。
インフラを構成: README.mdの指示に従って、LLMトラフィックをリバースプロキシ経由でルーティングするようにインフラを構成します。アプリケーションコードの変更は必要ありません。
インターフェースにアクセス: http://localhost:5000に移動して、Aguru Safeguardインターフェースにアクセスします。
LLMトラフィックを監視: セットアップが完了すると、Aguru Safeguardは自動的にLLMトラフィックを監視し、異常を検出し始めます。
アラートを設定: 潜在的な異常を監視するために、好みのアラートシステム(SplunkやDataDogなど)に転送されるようにアラートを構成します。
プレイグラウンドを使用: プレイグラウンドで特定のプロンプトを試して、システムが異常を検出する方法を観察し、その洞察を使用してAIアプリケーションを強化します。
オプション:LLMルーターを有効化: 必要に応じて、最もコスト効率の良いモデルにプロンプトを自動的に誘導するLLMルーター機能を有効化します。最適なパフォーマンスを維持しながら。
Aguru AIのよくある質問
Aguru Safeguardは、LLMの動作、パフォーマンス、およびセキュリティを監視するオンプレミスソフトウェアです。データがローカルインストールを通じてプライベートで安全に保たれる一方で、LLMの運用における重要な側面に関する実用的な洞察を提供します。
もっと見る