UsageGuard 사용법
UsageGuard는 내장된 안전 장치, 조정 및 비용 통제 기능을 갖춘 여러 LLM 공급자에 대한 통합 API 액세스를 제공하는 안전한 AI 플랫폼입니다.
더 보기UsageGuard 사용 방법
계정 등록: accounts.usageguard.com/sign-up으로 이동하여 계정을 생성합니다. 필요에 따라 Standard(무료) 또는 Professional 플랜 중에서 선택합니다.
구성 설정: 플랫폼을 통해 사용하려는 다양한 사용 사례, 애플리케이션 또는 모델에 대한 별도의 구성을 만듭니다.
정책 구성: 사용 사례에 대한 콘텐츠 필터링, PII 수정, 단어 차단, 시스템 프롬프트, 토큰 제한 및 문자 제한을 포함한 요청 정책을 설정합니다.
지출 통제 설정: 비용을 통제하기 위해 모델 추론에 대한 연결당 일일/주간/월간 지출 한도를 설정합니다.
모델 접근 관리: 사용하려는 특정 AI 모델에 대한 접근을 활성화하고, 성능 및 비용을 평가하기 위해 다양한 모델을 테스트합니다.
API 엔드포인트 업데이트: 기존 코드를 업데이트하여 LLM 공급자를 직접 호출하는 대신 UsageGuard의 API 엔드포인트를 가리키도록 합니다.
인증 추가: 인증을 위해 추론 요청에 UsageGuard API 키와 연결 ID를 포함합니다.
사용 모니터링: 디버깅 및 감사를 위해 추적 ID, 타임스탬프, 최종 사용자 추적 및 연결 세부정보와 함께 상호 작용을 추적하기 위해 플랫폼을 사용합니다.
UsageGuard 자주 묻는 질문
UsageGuard는 애플리케이션과 LLM 간의 중개자로 작용하며, API 호출을 처리하고, 보안 정책을 적용하며, 데이터 흐름을 관리하여 AI 언어 모델의 안전하고 효율적인 사용을 보장합니다.
더 보기