Paritok
Paritok은 AI 코딩 에이전트를 위한 드롭인 방식의 비파괴 컨텍스트 압축 게이트웨이로, 도구 스키마, 파일 읽기 및 대화 기록을 의미론적으로 압축하여 더 긴 세션을 가능하게 하고 토큰 비용을 크게 절감합니다.
https://www.paritok.com/?ref=producthunt&utm_source=aipure
제품 정보
업데이트됨:Aug 11, 2026
Paritok이란?
Paritok은 코딩 에이전트(예: Claude Code, Cursor, Codex, OpenHands 또는 모든 OpenAI/Anthropic 호환 클라이언트)와 업스트림 LLM API 사이에 위치하는 오픈 소스(Apache-2.0) 미들웨어 계층입니다. 그 목적은 에이전트가 매 턴마다 재전송하는 도구 스키마, 파일 내용, 로그 및 누적된 기록과 같은 대량의 반복 입력 데이터를 압축하여 '컨텍스트 비대화'를 방지하는 것입니다. 이를 통해 에이전트는 동일한 컨텍스트 창 내에서 더 많은 턴을 실행하고 더 낮은 비용으로 작동할 수 있습니다. 이 솔루션은 수만 개의 실제 코딩 에이전트 궤적을 기반으로 종단 간 훈련된 코드 네이티브 4B 압축 모델(PEFT/LoRA가 적용된 Qwen3-4B-Instruct 기반)로 구동되며, 자체 호스팅하거나 호스팅된 GPU 엔드포인트를 통해 사용할 수 있습니다.
Paritok의 주요 기능
Paritok은 AI 코딩 에이전트(예: Claude Code, Cursor, Codex, OpenHands)와 업스트림 LLM API(Anthropic/OpenAI 호환) 사이에 위치하는 드롭인 방식의 비파괴 압축 게이트웨이입니다. 모든 요청에서 도구 스키마의 불필요한 부분을 제거하고, 파일 읽기 및 도구 출력을 의미론적으로 압축하며, 오래된 대화 기록을 요약하여 세션을 고정된 컨텍스트 예산 내에서 유지합니다. 이를 통해 토큰 사용량을 줄이고(초기 턴에서 25%, 길고 포화된 세션에서는 85% 이상) 동일한 컨텍스트 창에서 약 3배 더 많은 턴을 가능하게 합니다. 압축은 "전송 중에는 손실이 있지만 복구 가능"하며, 에이전트가 recall(예: read_original)을 통해 필요에 따라 정확한 원본 바이트를 가져올 수 있도록 하는 동시에 업스트림 모델의 응답은 변경되지 않고 통과합니다.
하나의 환경 변수를 통한 드롭인 프록시: 에이전트의 BASE_URL(예: ANTHROPIC_BASE_URL)을 Paritok으로 지정하여 미들웨어 계층으로 통합되며, 최소한의 설정으로 OpenAI/Anthropic 스타일 API와 호환됩니다.
도구 스키마 필터링 및 스터빙: 관련 도구 스키마만 전체로 유지하고 나머지는 스터빙하여 매 턴 반복되는 도구 JSON 오버헤드(종종 수만 개의 토큰)를 줄입니다. 도구 블록은 캐시 안정성을 위해 대화당 고정될 수 있습니다.
파일 및 도구 결과의 의미론적 압축: 실제 코딩 에이전트 궤적을 기반으로 훈련된 오픈 소스, 코드 네이티브 4B 모델을 사용하여 식별자, 경로, 함수 시그니처 및 오류 세부 정보를 보존하면서 파일 읽기, 로그 및 명령 출력을 압축합니다.
예산 내에서 오래된 기록 요약: 구성된 컨텍스트 예산이 채워지면 오래된 턴을 요약하여 최근 턴을 그대로 유지하고 긴 다단계 디버깅 또는 리팩토링 세션 중 컨텍스트 창 오버플로를 방지합니다.
원본의 비파괴적 리콜: 영구적으로 버려지는 것은 없습니다. 압축된 세그먼트는 태그가 지정되어 에이전트가 고정밀 세부 정보가 필요할 때 로컬에서 정확한 원본 콘텐츠(예: read_original(ref))를 요청할 수 있습니다.
유연한 배포: 자체 호스팅 또는 호스팅된 GPU: 자체 호스팅을 위한 Apache-2.0 오픈 스택(게이트웨이 + 4B 모델)으로 제공되며, 하드웨어 소유 없이 더 빠른 압축을 위한 관리형 호스팅 GPU 옵션도 제공됩니다.
Paritok의 사용 사례
엔터프라이즈 소프트웨어 엔지니어링 코파일럿: 특히 많은 도구가 있는 MCP 중심 환경에서 대용량 파일을 자주 읽고, 테스트를 실행하고, 로그를 붙여넣는 내부 코딩 어시스턴트의 LLM 입력 비용을 줄이고 세션 길이를 늘립니다.
장기 실행 디버깅 및 인시던트 대응: 반복되는 로그, 스택 추적 및 도구 출력을 압축하고 오래된 기록을 요약하여 프로덕션 인시던트 중 컨텍스트 오버플로를 방지함으로써 다중 턴 문제 해결 세션을 안정적으로 유지합니다.
대규모 코드베이스 탐색 및 PR 자동화: 리포지토리 인식 에이전트가 컨텍스트를 늘리지 않고 디렉토리를 탐색하고, 많은 파일을 읽고, PR을 생성할 수 있도록 하여 자동화된 리팩토링 및 코드 검토 워크플로우를 더욱 실용적으로 만듭니다.
비용 제어 에이전트 플랫폼 및 IDE 통합: IDE 어시스턴트 또는 에이전트 런타임을 구축하는 공급업체의 경우 Paritok은 도구 스키마 및 매 턴 전송되는 반복 컨텍스트를 잘라내어 가변 토큰 사용량을 줄이고 안정성을 향상시킬 수 있습니다.
개인 정보 보호를 고려한 온프레미스 개발: 압축기를 자체 호스팅하여 원시 도구 출력 및 파일 내용을 로컬에 유지하면서 더 작고 압축된 프롬프트를 업스트림으로 전송합니다. 이는 민감한 코드를 처리하는 규제 산업에 유용합니다.
장점
더 긴 세션에서 복합적으로 발생하는 상당한 토큰 절약(컨텍스트 포화 실행에서 최대 85% 이상 보고됨) 및 동일한 컨텍스트 창에 약 3배 더 많은 턴을 맞출 수 있습니다.
정확한 원본의 온디맨드 리콜을 통한 비파괴적 설계는 되돌릴 수 없는 잘림/요약에 비해 위험을 줄입니다.
인기 있는 코딩 에이전트 및 OpenAI/Anthropic 호환 API와의 드롭인 호환성; 최소한의 통합 노력.
비용 제어 및 개인 정보 보호를 위한 자체 호스팅 옵션이 있는 오픈 소스(Apache-2.0) 게이트웨이 및 4B 압축 모델.
단점
전달된 프롬프트에서 압축은 본질적으로 손실이 있습니다. 일부 엣지 케이스 세부 정보는 정확한 원본을 복구하기 위해 명시적인 리콜 호출이 필요할 수 있습니다.
인프라에 추가 구성 요소(게이트웨이/프록시)를 추가하여 운영 복잡성과 잠재적인 실패 지점을 증가시킵니다.
유지되는 품질은 높지만 압축되지 않은 기준선에 비해 완벽하지는 않습니다(리콜 없이 벤치마크 설정에서 약 86.5%로 보고됨). 따라서 워크플로우에 따라 결과가 다를 수 있습니다.
Paritok 사용 방법
1) 배포 모드 선택 (자체 호스팅 또는 호스팅된 GPU): Paritok은 코딩 에이전트와 LLM API 사이의 중간 계층입니다. (a) 오픈 소스 게이트웨이 + 4B 압축 모델을 자체 하드웨어에 자체 호스팅하거나, (b) Paritok의 호스팅된 GPU 엔드포인트(사용량 대시보드 포함)를 사용하여 GPU 없이 사용할 수 있습니다.
2) 에이전트와 LLM 공급자 사이에 Paritok 배치: Paritok은 게이트웨이/프록시 역할을 합니다. 에이전트는 일반적인 채팅/메시지 + 도구 스키마 + 도구 결과를 Paritok으로 보내고, Paritok은 이를 압축한 다음 압축된 요청을 업스트림 모델 공급자(Anthropic/OpenAI 호환 업스트림)로 전달합니다. 업스트림 모델의 출력은 변경되지 않습니다.
3) 하나의 환경 변수를 사용하여 에이전트를 Paritok 게이트웨이로 지정: 에이전트의 공급자 기본 URL을 Paritok 게이트웨이로 설정합니다. Anthropic 호환 에이전트의 예: `export ANTHROPIC_BASE_URL=http://127.0.0.1:8080`. 이 설정 후, 에이전트가 보내는 도구/파일/기록은 자동으로 Paritok을 통해 라우팅됩니다.
4) 의미론적 도구 스키마 필터링 활성화 (도구 중심 에이전트에게 가장 큰 이점): 에이전트가 많은 도구(종종 40-70개 이상)를 보내는 경우, Paritok의 도구 검색을 구성하여 관련성이 높은 몇 가지 도구 스키마만 전체로 유지하고 나머지는 스텁 처리합니다. `tool_discovery.strategy: embedding`을 사용합니다. 이는 턴당 도구 스키마 블록을 상당히 줄일 수 있습니다(예: 예시에서 턴당 약 29K → 약 8K 토큰).
5) Paritok이 파일 읽기 및 도구 출력을 태그된 세그먼트로 압축하도록 허용: Paritok은 코딩 에이전트 트래픽(파일 읽기, 도구 결과, 로그)을 위해 설계되었습니다. 압축하려는 내용을 세그먼트 태그로 묶어 압축기가 무엇인지 알 수 있도록 합니다. 예시 패턴: `[SEG id=1 kind=file_read] ... [/SEG]` (도구 결과/로그 출력도 유사). Paritok의 4B 모델은 식별자, 경로 및 오류를 보존하면서 이러한 세그먼트를 압축합니다.
6) 오픈 소스 Paritok 4B 압축 모델 직접 사용 (선택 사항, 로컬/오프라인 압축): Python에서 압축기 모델을 직접 실행하려면 기본 모델과 Paritok 어댑터를 로드한 다음 태그된 세그먼트에서 압축된 텍스트를 생성합니다. 소스 예시: import torch; from peft import PeftModel; from transformers import AutoModelForCausalLM, AutoTokenizer; BASE_MODEL=`Qwen/Qwen3-4B-Instruct-2507`; ADAPTER=`paritok/paritok-4b-v1`; 토크나이저+기본 로드, `PeftModel.from_pretrained`로 어댑터 연결, 그런 다음 `[SEG ...]` 콘텐츠를 포함하는 메시지를 채팅 템플릿과 모델을 통해 전달합니다.
7) 온디맨드 복구 기능을 갖춘 비파괴 압축에 의존: Paritok은 전송 중에는 손실이 있지만 복구 가능합니다. 압축하는 모든 것을 태그하고 필요할 때 정확한 원본 바이트를 다시 가져오는 것을 지원합니다(예: `read_original(ref)` 스타일 검색을 통해). 이는 요청을 작게 유지하면서도 추가 LLM 턴을 사용하지 않고도 로컬에서 완전한 충실도를 복구할 수 있음을 의미합니다.
8) 예산에 도달하면 오래된 기록을 요약하여 더 긴 세션 실행: 대화가 길어지면 Paritok은 설정한 컨텍스트 예산에 도달하면 오래된 턴을 요약하고 최근 턴은 그대로 유지할 수 있습니다. 이는 컨텍스트 창 오버플로를 방지하고 압축 전에 맞는 턴 수를 늘리는 데 도움이 됩니다.
9) 절감 효과 확인 및 설정 반복: 턴별 토큰 감소를 측정합니다(기록이 길어질수록 절감 효과가 커집니다). 도구 중심 설정(70개 이상의 도구) 및 컨텍스트 포화 세션에서 일반적으로 더 높은 절감 효과를 보입니다. 호스팅된 GPU를 사용하는 경우 Paritok 대시보드를 사용하여 토큰/비용 절감 효과를 추적하고 트래픽이 호스팅된 GPU 서버를 통해 전송되는지 확인합니다.
10) 일반적인 코딩 에이전트 환경에서 사용: Paritok은 표준 메시지 형식을 사용하는 인기 있는 코딩 에이전트 도구 및 프레임워크(예: Claude Code, Cursor, Codex, OpenHands 및 OpenAI 호환 업스트림)와 호환되도록 설계되었습니다. 기본 URL이 Paritok을 가리키면 기존 에이전트 워크플로우는 계속 작동하면서 더 적은 입력 컨텍스트를 보냅니다.
Paritok 자주 묻는 질문
Paritok은 에이전트(예: Claude Code, Cursor, Codex, OpenHands 또는 OpenAI 호환 BASE_URL 에이전트)와 업스트림 LLM 사이에 위치하는 AI 코딩 에이전트용 비파괴 압축 게이트웨이입니다. 이 게이트웨이는 도구 스키마의 불필요한 부분을 제거하고, 도구 결과 및 파일 읽기를 압축하며, 오래된 기록을 요약하여 각 요청을 다시 작성한 다음 압축된 요청을 업스트림으로 전달합니다(따라서 더 적은 입력 토큰에 대해 비용이 청구됩니다).
Paritok와(과) 유사한 최신 AI 도구
Gait
Gait는 AI 지원 코드 생성을 버전 관리와 통합하여 팀이 AI 생성 코드 맥락을 효율적으로 추적, 이해 및 공유할 수 있도록 하는 협업 도구입니다.
invoices.dev
invoices.dev는 개발자의 Git 커밋에서 직접 청구서를 생성하는 자동화된 청구 플랫폼으로, GitHub, Slack, Linear 및 Google 서비스와의 통합 기능을 제공합니다.
EasyRFP
EasyRFP는 RFP(제안 요청) 응답을 간소화하고 딥 러닝 기술을 통해 실시간 현장 표현형을 가능하게 하는 AI 기반 엣지 컴퓨팅 툴킷입니다.
Cart.ai
Cart.ai는 코딩, 고객 관계 관리, 비디오 편집, 전자상거래 설정 및 맞춤형 AI 개발을 포함한 종합적인 비즈니스 자동화 솔루션을 제공하는 AI 기반 서비스 플랫폼으로, 24/7 지원을 제공합니다.
Paritok와(과) 유사한 인기 AI 도구
GitHub Copilot Chat
GitHub Copilot Chat은 자연어 상호작용, 실시간 코드 제안 및 지원되는 IDE와 GitHub.com 내에서 직접 제공되는 맥락 지원을 제공하는 AI 기반 코딩 도우미입니다.
CopilotForXcode
CopilotForXcode는 Xcode 내에서 AI 기반 코드 제안, 채팅 지원 및 프롬프트-투-코드 기능을 제공하기 위해 GitHub Copilot, Codeium 및 ChatGPT를 통합한 Xcode 소스 편집기 확장입니다.
BrowserAI
BrowserAI는 서버 인프라 없이 개인 정보 보호에 중점을 둔 AI 기능을 제공하여 WebGPU 가속을 통해 웹 브라우저에서 직접 로컬 대규모 언어 모델(LLM)을 실행할 수 있도록 하는 오픈 소스 라이브러리입니다.
OpenAI Codex CLI
OpenAI Codex CLI는 터미널에서 실행되는 경량 오픈 소스 코딩 에이전트로, 개발자가 자연어를 코드 실행으로 변환하고 코드 실행, 파일 조작, 버전 제어 하에서 반복 작업을 수행할 수 있는 ChatGPT 수준의 추론 기능을 제공합니다.