AI 에이전트를 오래 쓰다 보면 비용보다 먼저 체감되는 문제가 있습니다. 같은 설명을 반복하고, 같은 파일을 다시 읽히고, 이미 결정한 내용을 또 정리하게 만드는 일입니다. 이 과정에서 토큰은 빠르게 늘어나고, 작업 속도도 느려집니다.
토큰을 절약한다는 말은 단순히 말을 짧게 하자는 뜻이 아닙니다. 필요한 맥락은 정확히 주고, 불필요한 맥락은 줄이며, 에이전트가 스스로 헤매지 않도록 작업 단위를 작게 나누는 습관에 가깝습니다. 특히 코드 수정, 문서 작성, 블로그 포스팅, 서버 점검처럼 여러 단계가 섞인 작업에서는 사용자의 요청 방식이 토큰 사용량을 크게 바꿉니다.
이 글은 AI 에이전트를 사용할 때 토큰을 아끼면서도 결과 품질을 낮추지 않는 실전 습관을 정리합니다.
1. 한 번에 모든 일을 맡기지 않는다
가장 흔한 낭비는 “이 프로젝트를 전부 분석해서 알아서 고쳐 줘” 같은 요청에서 시작됩니다. 에이전트는 목표가 넓을수록 더 많은 파일을 읽고, 더 긴 추론을 하고, 더 많은 가능성을 검토합니다. 이 과정이 필요할 때도 있지만, 대부분의 작업은 그렇게 시작할 필요가 없습니다.
좋은 요청은 다음처럼 범위를 좁힙니다.
나쁜 예:
이 프로젝트 전체를 보고 블로그 자동화 기능을 개선해줘.
좋은 예:
content-publisher 폴더에서 새 글 발행 흐름만 확인하고,
데이터 목록 파일은 수정하지 않는 방식으로 포스트를 생성해줘.두 요청은 비슷해 보이지만 토큰 사용량은 크게 달라집니다. 좋은 요청은 에이전트가 어디를 봐야 하는지, 무엇을 피해야 하는지, 어떤 결과를 내야 하는지 바로 알 수 있게 합니다.
2. 목표, 제약, 완료 기준을 먼저 쓴다
AI 에이전트에게 가장 비싼 문장은 긴 설명이 아니라 모호한 설명입니다. 모호하면 에이전트는 여러 가능성을 동시에 열어 두고 확인해야 합니다. 반대로 목표와 제약이 분명하면 적은 맥락으로도 판단할 수 있습니다.
요청을 시작할 때 아래 세 가지를 먼저 적는 습관이 좋습니다.
| 항목 | 의미 | 예시 |
|---|---|---|
| 목표 | 이번 작업의 최종 결과 | 블로그 글을 작성하고 CMS에 발행 |
| 제약 | 하지 말아야 할 일 | 기존 CSV 컬럼은 손상하지 않기 |
| 완료 기준 | 끝났다고 볼 수 있는 조건 | 공개 URL이 200 OK이고 이미지가 표시됨 |
이 세 가지는 에이전트가 중간에 불필요한 선택지를 줄이는 데 도움을 줍니다. 사람이 보기에는 짧은 문장이지만, 에이전트 입장에서는 전체 작업의 판단 기준이 됩니다.
3. 같은 배경 설명을 매번 붙이지 않는다
사용자가 자주 하는 실수 중 하나는 이전 대화의 긴 배경을 매번 복사해서 붙이는 것입니다. 필요한 경우도 있지만, 대부분은 요약본이 더 좋습니다.
예를 들어 서버 상태를 설명할 때 전체 로그를 다시 붙이는 대신 이렇게 정리할 수 있습니다.
현재 상태:
- 서버: Linux 기반 웹서버와 CMS로 운영 중
- 공개 도메인은 HTTPS로 접속됨
- 광고 인증 파일은 웹 루트에 배치되어 있음
- 사이트맵 URL은 공개되어 있음
이번 요청:
검색엔진 크롤러가 홈, 광고 인증 파일, 사이트맵에 접근 가능한지 확인해줘.이 정도면 에이전트는 필요한 판단을 할 수 있습니다. 전체 로그는 문제가 재현되지 않거나 세부 원인이 필요할 때만 추가하면 됩니다.
4. 파일 이름과 경로를 직접 알려준다
코드 작업에서 토큰을 많이 쓰는 이유는 에이전트가 파일을 찾는 데 시간을 쓰기 때문입니다. 파일을 찾는 과정 자체가 나쁜 것은 아니지만, 사용자가 이미 알고 있는 경로가 있다면 바로 알려주는 편이 좋습니다.
나쁜 예:
발행 스크립트가 어딘가에 있을 거야. 찾아서 고쳐줘.
좋은 예:
scripts/create_post.py와
scripts/publish_post.py를 먼저 확인해줘.경로를 알려주면 탐색 토큰이 줄고, 작업도 빨라집니다. 특히 큰 저장소에서는 “어떤 폴더는 보지 말라”는 말도 효과가 큽니다.
5. 긴 자료는 전체가 아니라 필요한 부분만 준다
PDF, 로그, 회의록, 긴 코드 파일을 통째로 주면 에이전트는 많은 토큰을 읽는 데 사용합니다. 이때 좋은 방법은 먼저 필요한 질문을 정하고, 그 질문에 필요한 부분만 제공하는 것입니다.
예를 들어 로그 분석이라면 전체 로그보다 다음 형식이 좋습니다.
문제: 광고 플랫폼이 인증 파일을 찾지 못한다고 표시함
확인할 부분: HTTP 상태 코드, 리다이렉트, 크롤러 접근
로그 범위: 최근 30분 웹서버 로그 중 인증 파일 요청만작업 목표와 로그 범위를 함께 주면 에이전트는 불필요한 로그를 읽지 않습니다.
6. “수정”과 “검증”을 분리한다
한 번의 요청에 “작성하고, 고치고, 배포하고, 검증하고, 보고서까지 작성해줘”를 모두 넣을 수는 있습니다. 하지만 복잡한 작업에서는 단계가 섞일수록 맥락이 커집니다. 토큰을 줄이려면 단계별로 결과를 고정하는 편이 좋습니다.
블로그 글 쓰기를 예로 했을 때, 좋은 흐름은 다음과 같습니다.
1. 초안 작성
2. 필요한 이미지 생성
3. CMS 업로드
4. 공개 URL 확인
5. 최종 요약
이렇게 나누면 중간 결과를 재사용할 수 있습니다. 또한 실패했을 때 어느 단계에서 실패했는지 바로 알 수 있습니다.
7. 출력 형식을 미리 정한다
출력 형식이 정해져 있지 않으면 에이전트는 설명을 길게 붙이거나 여러 형식을 제안할 수 있습니다. 블로그 글, 체크리스트, 표, JSON, 커밋 메시지처럼 원하는 형식을 먼저 말하면 토큰 낭비가 줄어듭니다.
예를 들어 블로그 글을 요청할 때는 이렇게 말할 수 있습니다.
형식:
- 제목
- 도입 3문단
- H2 6개
- 표 1개
- 실천 체크리스트
- 참고 링크이렇게 하면 에이전트가 구조를 새로 고민하는 데 쓰는 토큰이 줄어듭니다. 결과물도 바로 사용할 수 있는 형태에 가까워집니다.
8. 반복 작업은 “템플릿”으로 만든다
자주 하는 작업은 매번 새로 설명하지 말고 템플릿으로 만들어 두는 것이 좋습니다. 예를 들어 블로그 포스팅을 자주 한다면 다음 항목을 고정할 수 있습니다.
- 글 주제
- 대상 독자
- 금지할 표현
- 필요한 표
- 이미지 스타일
- 발행 전 검증 항목
이 템플릿을 한 번 만들어 두면 다음부터는 주제만 바꿔도 됩니다. 토큰 절약뿐 아니라 결과 품질도 일정해집니다.
9. 에이전트에게 “먼저 확인할 것”을 지정한다
에이전트는 스스로 탐색할 수 있지만, 모든 탐색이 필요한 것은 아닙니다. 사용자가 먼저 확인할 순서를 정해 주면 불필요한 우회가 줄어듭니다.
예를 들어 서버 문제라면 다음처럼 요청할 수 있습니다.
먼저 확인할 순서:
1. curl -I로 외부 응답 확인
2. 웹서버의 실제 문서 루트 확인
3. CMS 루트의 실제 파일 확인
4. 검색엔진 크롤러 User-Agent로 재확인이렇게 하면 에이전트는 가능한 원인을 모두 나열하기보다, 실제 증거를 순서대로 모읍니다.
10. “다시 설명”보다 “요약 업데이트”를 사용한다
긴 작업을 여러 번 이어갈 때는 이전 내용을 반복해서 붙이는 대신, 현재 상태만 짧게 업데이트하는 것이 좋습니다.
현재까지 완료:
- 광고 인증 파일 생성 완료
- 인증 파일 URL 200 OK
- 크롤러가 홈, 인증 파일, 사이트맵에 접근 가능
다음 요청:
광고 심사 재검토 전 체크리스트를 만들어줘.이 방식은 대화가 길어질수록 효과가 큽니다. 에이전트는 이미 해결된 부분을 다시 분석하지 않고, 다음 작업에 집중할 수 있습니다.
11. 토큰 절약과 품질 저하는 다르다
토큰을 아끼겠다고 필요한 맥락까지 빼면 결과가 나빠집니다. 중요한 것은 짧게 말하는 것이 아니라 정확하게 말하는 것입니다.
다음 정보는 아끼지 않는 편이 좋습니다.
- 실제 오류 메시지
- 변경하면 안 되는 파일
- 배포 환경
- 완료 기준
- 사용해야 하는 도구
- 공개 URL
반대로 다음 정보는 줄이는 편이 좋습니다.
- 이미 해결된 과거 로그
- 관련 없는 긴 회의록
- 같은 설명의 반복
- “알아서 잘” 같은 추상 표현
- 필요 없는 전체 파일 목록
토큰 절약은 정보를 숨기는 기술이 아니라 정보를 정리하는 기술입니다.
12. 바로 적용할 수 있는 체크리스트
AI 에이전트에게 요청하기 전 아래 질문을 확인해 보세요.
- 이번 요청의 목표를 한 문장으로 썼는가?
- 반드시 지켜야 할 제약을 적었는가?
- 완료 기준을 확인 가능한 형태로 적었는가?
- 필요한 파일 경로를 알고 있다면 직접 적었는가?
- 전체 로그 대신 필요한 범위를 지정했는가?
- 출력 형식을 미리 정했는가?
- 이전 대화는 긴 복사 대신 현재 상태 요약으로 정리했는가?
이 체크리스트만 지켜도 불필요한 왕복과 탐색이 크게 줄어듭니다.
결론
AI 에이전트의 토큰을 절약하는 가장 좋은 방법은 말을 무조건 줄이는 것이 아닙니다. 목표를 작게 나누고, 필요한 맥락을 정확히 주고, 파일과 검증 기준을 분명히 하는 것입니다.
에이전트는 긴 설명보다 선명한 지시에서 더 잘 작동합니다. 사용자가 작업의 목표와 경계를 정리해 주면 에이전트는 적은 토큰으로도 더 빠르게 판단하고, 더 안정적인 결과를 냅니다.
토큰 절약은 비용 절감만의 문제가 아닙니다. 좋은 요청 습관은 작업 속도, 검증 가능성, 결과 품질까지 함께 개선합니다.