본문 바로가기
카테고리 없음

5시간 한도 2.3배 쓴 코딩 캐시 버그 실험 기록

by 쑈휴 2026. 9. 23.

오늘 새벽 같은 작업을 조건만 바꿔 네 번 돌렸는데, 그중 한쪽 CLI에서만 5시간 한도의 2.3배가 소진됐다. 로그를 뜯어본 끝에 원인은 캐시 규칙 하나였고, 이 글은 그 확인 과정과 실제 숫자, 개발자에게 제보한 뒤 돌아온 답을 원문 그대로 정리한 기록이다. 확인된 사실만 순서대로 적고, 확인되지 않은 부분은 확인되지 않았다고 그대로 남겨둔다. 증상, 원인, 막힌 지점, 실험 수치, 정리, 참고, 자주 묻는 질문 순서로 정리했다.

어떤 증상이 나타났나요?

같은 작업을 시켰는데 한쪽 CLI만 5시간 한도의 2.3배를 먹어버렸다.

오늘 새벽 5턴짜리 과제를 조건을 바꿔가며 네 번 돌린 결과, 두 CLI 중 한쪽에서만 5시간 단위로 주어지는 사용 한도가 2.3배 소진됐다. 같은 작업을 같은 조건에서 반복했는데 이런 차이가 났다는 것이 확인된 사실의 전부다. 조건을 바꿔 네 번 반복하는 동안 이 편차가 계속 재현됐고, 그래서 원인을 따로 확인해야 했다. 확인된 것은 "몇 배 초과됐다"는 결과이지, 그 이상의 배경 설명은 이 시점에서는 갖고 있지 않았다. 작업 자체는 5턴 안에 끝나는 파이썬 파일 분석이었고, 이 부분은 실험 단계에서 다시 확인한다. 조건을 바꾸며 실행한 네 번 모두 이 작업 범위 안에서 이뤄졌다.

원인은 무엇으로 확인됐나요?

매 턴마다 대화 전체를 캐시에 다시 쓰고 있는 것이 원인으로 확인됐다.

범인은 토큰 기록에 그대로 남아 있었다. 문제가 된 쪽은 매 턴마다 대화 전체를 캐시에 다시 쓰고 있었다. 이걸 확인하기 위해 같은 파이썬 파일 분석 작업을 5턴 기준으로, 두 CLI에 각각 2회씩 번갈아 총 네 번 돌리는 실험을 했다. 이 로그를 그대로 개발자 @yeon.gyu.kim 에게 제보했고, 3분 만에 다음과 같은 답이 돌아왔다.

확인했다, 추적 중

제보부터 답변까지 걸린 시간은 정확히 3분이었다. 확인된 사실은 여기까지이고, 이후 수정이 언제 어떻게 반영됐는지는 이 글 작성 시점 기준으로 별도로 확인된 바 없다. 진행 상황은 아래 이슈 링크에서 각자 확인하면 된다. 답변 문구 그대로를 옮기면 "확인했다, 추적 중"이며, 그 이상의 조치 내용은 공개된 정보에 없다. 로그를 그대로 첨부해서 보낸 것과, 답이 3분 만에 왔다는 것, 이 두 가지가 이 단계에서 확인된 전부다.

원인을 찾기까지 어디서 막혔나요?

청구 비용만 봐서는 두 CLI의 차이를 구분하기 어려웠던 지점에서 막혔다.

두 CLI 각각의 청구 비용은 1.39달러, 2.30달러, 3.28달러, 3.03달러로 1.39달러부터 3.28달러 사이에 몰려 있어 겉으로는 큰 차이가 아닌 것처럼 보였다. 이 비용 숫자만 보고 있었다면 어느 쪽에 문제가 있는지 특정하기 어려웠을 것이다. 실제로 문제가 드러난 곳은 청구 금액이 아니라 토큰 기록이었다. 같은 파이썬 파일 분석이라는 같은 작업을, 5턴 기준으로, 두 CLI에 각각 두 번씩 번갈아 돌려 토큰 기록을 나란히 놓고 봐야만 정상 턴과 깨진 턴의 차이가 드러났다. 비용 표만 보고 넘어갔다면 원인을 캐시 쪽으로 좁히지 못했을 것이다. 비용과 토큰 기록이라는 서로 다른 두 지표를 같이 놓고 봐야 했다는 점이, 이번 확인 과정에서 시간이 걸린 부분이었다. 비용 표 하나만 봤다면 네 번의 실행이 서로 비슷한 수준으로 보여 원인을 특정하지 못했을 것이다.

실험에서 확인된 숫자는 무엇인가요?

5턴 기준 API 비용은 1.39달러부터 3.28달러까지 CLI마다 갈렸다.

같은 파이썬 파일을 5턴 동안 분석시키는 작업을, 두 CLI에 각각 두 번씩 번갈아 총 네 번 돌린 결과 API 회계 기준 비용은 아래와 같았다.

Claude Code 1회차 1.39달러
Claude Code 2회차 2.30달러
omon 1회차 3.28달러
omon 2회차 3.03달러

토큰 기록으로 보면 정상 턴과 깨진 턴의 차이는 아래와 같이 확인됐다.

  • 정상 턴: 새 내용만 캐시에 씀 — 1.8k
  • 깨진 턴: 대화 전체를 다시 씀 — 40k+
  • 깨진 턴 하나의 기록: 읽기 16,068 / 쓰기 44,158 / 비용 0.67달러

겉으로 드러난 청구 금액(1.39~3.28달러)만 보면 네 번의 실행이 크게 달라 보이지 않을 수 있는데, 실제로 벌어진 차이는 청구 금액이 아니라 매 턴 새로 써야 했던 토큰량 쪽에 있었다. 정상 턴의 1.8k와 깨진 턴의 40k+를 나란히 놓고 보면, 같은 5턴 작업 안에서도 한 턴 단위로 이만큼 격차가 났다는 뜻이다. 가장 심했던 한 턴의 기록은 읽기 16,068 / 쓰기 44,158 / 0.67달러였고, 이 숫자 세 개가 이번 실험에서 확인된 가장 구체적인 수치다. 실험은 Claude Code와 omon이라는 두 CLI를 대상으로, 같은 작업을 각 2회씩 번갈아 돌리는 방식으로 진행했고, 총 네 번의 실행에서 나온 비용과 토큰 기록이 위에 적은 그대로다. 실행 순서는 두 CLI를 번갈아 배치했고, 대상 파일과 턴 수는 네 번 모두 동일하게 맞췄다. 이 문제는 github.com/code-yeongyu/oh-my-openagent 저장소의 이슈 6981번으로 제보되어 있다.


정리하면 이렇게 갈렸다

구분 확인된 수치
사용 한도 초과 배수 2.3배 (5시간 한도 기준)
실험 반복 횟수 5턴 작업, 두 CLI 각 2회씩 총 4회
제보 후 답변 시간 3분
정상 턴 신규 캐시 기록량 1.8k
깨진 턴 신규 캐시 기록량 40k+
깨진 턴 1건 상세 읽기 16,068 / 쓰기 44,158 / 0.67달러

이 결과가 뜻하는 건 무엇인가요?

같은 작업, 같은 조건에서도 캐시 처리 방식에 따라 소진되는 한도가 달랐다는 것뿐이다.

확인된 사실은 같은 5턴짜리 작업을, 같은 조건으로, 두 CLI에 번갈아 네 번 돌렸을 때 한쪽에서 5시간 한도의 2.3배가 소진됐고, 그 원인이 매 턴 대화 전체를 다시 쓰는 캐시 동작이었다는 것이다. 이 이상으로 다른 작업이나 다른 CLI 조합에서도 항상 같은 배수로 재현되는지, 또는 이 문제가 실제로 수정되었는지는 이 글에서 다루는 자료만으로는 확인할 수 없다. 이번에 확인한 것은 어디까지나 5턴짜리 파이썬 파일 분석이라는 특정 작업, 특정 조건에서 나온 결과다. 확인된 숫자와 개발자의 답변 내용, 그리고 제보된 이슈 번호까지가 이번에 실제로 손에 쥔 정보의 전부다. 그 이상을 단정하지 않는 것이 이 기록의 원칙이다. 확인된 사실과 확인되지 않은 부분을 구분해서 남기는 것이 이 글을 쓴 이유이기도 하다. 확인되지 않은 부분을 확인된 것처럼 적지 않기 위해, 이 글은 위에 적은 숫자와 인용 이외의 해석은 최대한 덧붙이지 않았다. 앞으로 이 문제가 어떻게 처리될지, 다른 조건에서도 같은 배수가 나올지는 이 글이 다루는 범위 밖이며, 여기서는 실제로 관측하고 제보한 사실까지만 남겨둔다.


참고: 프롬프트 캐시란 (일반 지식, 이번 경험과 별개)

아래는 이번에 겪은 일과는 별도로, 일반적으로 알려진 개념을 참고 삼아 붙여둔 설명이다. 여러 LLM API는 이전 턴까지의 대화 내용을 캐시에 저장해두고, 새 턴에서는 새로 추가된 부분만 보내는 방식을 지원한다고 알려져 있다. 이런 방식이 적용되면 매 턴 전체 대화를 다시 보낼 필요가 없어진다는 것이 일반적으로 설명되는 캐시의 목적이다. 이 글에서 다룬 사례는 이 캐시가 매 턴 새로 쓰이는 것으로 관측된 경우이며, 캐시 동작의 일반적인 원리 자체를 이 글이 검증하거나 설명하는 것은 아니다. 위 문단은 배경 이해를 돕기 위한 참고 정보일 뿐, 이번에 확인된 개별 사실과는 구분해서 읽어야 한다. 즉 캐시라는 개념 자체는 일반적으로 알려진 것이고, 이번 사례에서 그 캐시가 매 턴 다시 쓰였다는 관측만이 이 글이 실제로 확인한 부분이다. 캐시가 왜 매 턴 다시 쓰였는지, 그 내부 동작 원리까지는 이 글에서 확인한 범위에 포함되지 않는다. 이 참고 문단에 적은 내용은 이번 실험을 설명하기 위한 배경 지식일 뿐, 이번에 겪은 일 자체를 서술하는 문장이 아니라는 점을 다시 한번 밝혀둔다. 일반 지식과 실제 관측 사실을 섞지 않기 위해 이 문단을 본문과 분리된 참고 섹션으로 따로 두었다.

자주 묻는 질문

Q1. 몇 번의 실행을 비교했나요?

같은 5턴 작업을 두 CLI에 각 2회씩, 번갈아 총 네 번 실행해 비교했다. 대상은 Claude Code와 omon이었다.

Q2. 사용 한도는 얼마나 초과됐나요?

5시간 단위로 주어지는 사용 한도의 2.3배가 소진된 것으로 확인됐다. 대상 작업은 5턴짜리였다.

Q3. 정상 턴과 깨진 턴의 토큰량 차이는 얼마인가요?

정상 턴은 1.8k만 새로 쓰지만 깨진 턴은 40k 이상을 새로 썼다. 격차가 크게 벌어졌다.

Q4. 개발자 제보 후 답변은 얼마 만에 왔나요?

로그를 제보한 지 3분 만에 "확인했다, 추적 중"이라는 답이 왔다. 제보 대상은 개발자 @yeon.gyu.kim이었고, 로그를 함께 첨부해서 보냈다.

Q5. 제보 내용은 어디서 볼 수 있나요?

github.com/code-yeongyu/oh-my-openagent 저장소 이슈 6981번에서 볼 수 있다.

끝으로

확인된 것은 딱 여기까지다. 더 보태거나 줄이지 않고 그대로 적었다. 숫자, 인용, 이슈 번호까지 원문과 로그에 있던 그대로를 옮겨 남긴다. 같은 작업, 같은 조건에서 두 CLI를 번갈아 네 번 돌렸더니 한쪽에서 5시간 한도의 2.3배가 나갔고, 원인은 매 턴 대화 전체를 다시 쓰는 캐시 동작이었으며, 이를 개발자에게 제보하니 3분 만에 "확인했다, 추적 중"이라는 답이 왔다는 것이다. 실제 비용은 5턴 기준 1.39달러에서 3.28달러 사이로 갈렸고, 가장 심했던 한 턴은 읽기 16,068 / 쓰기 44,158 / 0.67달러를 기록했다. 이 이상의 해석이나 예측은 붙이지 않고, 확인된 숫자만 남겨둔다. 증상, 원인, 막힌 지점, 실험 수치, 정리까지 순서대로 다시 훑어봐도 새로 덧붙일 사실은 없다.


이 글은 제가 2026-08-18에 스레드에 올리고 직접 겪은 일을, 빠졌던 맥락과 확인 방법까지 더해 다시 쓴 글입니다. 원문은 여기서 볼 수 있습니다 → 원본 스레드 글


소개 및 문의 · 개인정보처리방침 · 면책조항

© 2026 휠로그