작동 방식
Claude API에서 토큰을 절약하는 방법
할인은 토큰당 가격을 낮추고, 이 전략들은 토큰 개수를 낮춥니다. 둘이 합쳐지면 청구액이 훨씬 작아집니다.
·
프롬프트 캐싱 사용하기
시스템 프롬프트, 큰 파일, 도구 정의처럼 길고 안정적인 컨텍스트는 캐싱해야 합니다. 캐시 읽기는 새 입력 토큰의 일부 비용이므로 반복되는 컨텍스트가 저렴해집니다.
함께 보기: Claude API 가격은 어떻게 작동하는가
알맞은 모델 고르기
모든 요청을 Opus로 보내지 마세요. 값싸거나 대량인 작업은 Haiku로, 일상 코딩은 Sonnet으로, 진짜 어려운 추론에만 Opus를 아껴 두세요.
컨텍스트 다듬기
- 작업에 실제로 필요한 파일과 이력만 보내세요.
- 긴 스레드는 통째로 다시 보내는 대신 요약하세요.
- max_tokens를 응답에 실제로 필요한 만큼으로 제한하세요.
자주 묻는 질문
가장 큰 토큰 절약 방법 하나는?
크고 반복되는 컨텍스트에 대한 프롬프트 캐싱과, 작업을 해낼 수 있는 가장 저렴한 모델 선택을 결합하는 것입니다.
이 팁들이 할인과 겹쳐지나요?
네. 할인은 토큰당 가격을 낮추고 이 전략들은 토큰 개수를 낮추므로, 절감 효과가 곱해집니다.