Langtrace.ai 사용법

Langtrace에 가입하기: https://langtrace.ai/signup로 이동하여 계정을 생성하고 프로젝트를 위한 API 키를 생성합니다.

Langtrace SDK 설치하기: Python의 경우 pip install langtrace-python-sdk를 사용하거나 JavaScript의 경우 npm install langtrace-js-sdk를 사용하여 프로젝트에 Langtrace SDK를 설치합니다.

코드에서 Langtrace 초기화하기: 스크립트의 시작 부분에서 LLM 모듈 가져오기 전에 Langtrace를 가져오고 초기화합니다: from langtrace_python_sdk import langtrace; langtrace.init(api_key='<LANGTRACE_API_KEY>')

LLM 애플리케이션과 통합하기: Langtrace는 초기화되면 LLM, VectorDB 및 프레임워크 수준의 요청을 자동으로 추적합니다. 기본 추적을 위해 추가 코드 변경이 필요하지 않습니다.

대시보드에서 추적 보기: Langtrace 웹 대시보드에 로그인하여 LLM 애플리케이션에 대해 자동으로 생성된 추적 및 메트릭을 보고 분석합니다.

주석 및 평가하기: 대시보드를 사용하여 추적에 수동으로 주석을 달고, 골든 데이터 세트를 생성하며, LLM 출력에 대한 자동 평가를 실행합니다.

지속적인 모니터링 설정하기: 알림 및 지속적인 평가를 구성하여 LLM 애플리케이션의 성능을 지속적으로 모니터링하고 개선합니다.