02강 · 토큰 & 컨텍스트Lesson 02 · Tokens & Context
Rule No.2 — 컨텍스트를 지켜라Rule No.2 — Protect the context
강의 요약Summary
분명 처음엔 척척 알아듣던 Claude가, 한 대화를 오래 붙들고 있으면 갑자기 엉뚱한 소리를 하기 시작합니다. 아까 "이 브랜드 리뷰만 보라"고 했는데 다른 브랜드를 끌어오고, 앞에서 정해 준 답장 톤을 슬그머니 잊어버립니다. 머리가 나빠진 걸까요? 아닙니다. 머리는 그대로인데, 책상이 너무 어질러진 겁니다. 이 강의는 그 책상의 정체 — '컨텍스트'를 다룹니다.Claude understands you perfectly at first — then you hold onto one long conversation and it suddenly goes off the rails. You said "only look at this brand's reviews," yet it drags in another brand; the reply tone you fixed earlier quietly gets forgotten. Did it get dumber? No. The brain is unchanged — the desk just got cluttered. This lecture is about that desk, which has a name: context.
먼저 두 단어만 잡고 갑니다. 토큰은 Claude가 글을 읽고 쓰는 최소 단위입니다. 한글로 치면 대략 한두 글자가 토큰 하나예요. 우리가 붙여 넣는 리뷰 100건도, Claude가 써 주는 답장도, 전부 토큰으로 환산됩니다. 컨텍스트는 한 대화에서 Claude가 '지금 동시에 보고 있는' 토큰 전부 — 즉 작업용 책상의 크기입니다. 이 책상은 생각보다 작고, 한 번 올려놓은 건 사라지지 않고 계속 쌓입니다. 리뷰를 잔뜩 붙이고, 매출 표를 올리고, 수정 요청을 스무 번 주고받으면, 책상은 어느새 발 디딜 틈 없이 가득 찹니다.Start with two words. A token is the smallest unit Claude uses to read and write. In English, very roughly, a token is about three-quarters of a word. The 100 reviews you paste in, the reply Claude writes back — all of it converts into tokens. Context is every token Claude is "looking at simultaneously" in one conversation — the size of its working desk. That desk is smaller than you'd think, and once something is placed on it, it doesn't vanish; it keeps piling up. Paste in a pile of reviews, drop in a sales table, exchange twenty rounds of edits, and before long the desk is packed wall to wall.
책상이 가득 차면 두 가지 일이 벌어집니다. 첫째, 새 자료를 더는 못 올립니다(한계). 둘째, 그 전에 이미 품질이 흐려집니다. Claude의 주의력은 책상 위 전체에 얇게 퍼지는데, 잡동사니가 많을수록 정작 중요한 종이 한 장에 쏠리는 주의가 줄거든요. 특히 대화 중간쯤에서 정해 준 지시가 가장 잘 잊힙니다 — 처음과 끝은 또렷한데 가운데가 흐려지는 거죠. 그래서 길고 어질러진 한 대화는 '싸 보여도' 실은 비쌉니다. Claude가 같은 일을 두세 번 반복하거나, 틀린 걸 그럴듯하게 내놓아서 우리가 다시 잡아야 하니까요.When the desk fills up, two things happen. First, you can't add new material (the limit). Second, well before that, quality already blurs. Claude's attention spreads thinly across everything on the desk, so the more clutter there is, the less attention lands on the one sheet that actually matters. Instructions given mid-conversation get forgotten the most — the start and end stay sharp, but the middle goes hazy. So a long, cluttered conversation looks cheap but is actually expensive: Claude redoes the same work two or three times, or hands you something wrong but plausible that you then have to catch and fix.
해법은 토큰을 아끼는 게 아니라 책상을 깨끗하게 지키는 겁니다. 실천은 세 가지뿐입니다. 하나, 일이 바뀌면 대화를 새로 엽니다 — 리뷰 분석을 끝냈으면 발주 메모는 새 창에서. 둘, 한 대화에 모든 자료를 쏟아붓지 말고 이번 일에 필요한 것만 올립니다. 셋, 대화가 길어졌으면 지금까지의 결론을 몇 줄로 압축해 새 대화에 다시 깔고 시작합니다. 도구가 바뀌고 화면이 달라져도 원리는 그대로입니다 — 책상을 좁게, 자료는 필요한 것만, 길어지면 끊고 핵심만 다시. 컨텍스트를 지키는 사람이 결국 더 정확하고 더 싸게 씁니다.The fix isn't to save tokens — it's to keep the desk clean. There are only three habits. One, when the job changes, open a new conversation: finished the review analysis? Do the purchase-order memo in a fresh window. Two, don't dump every document into one chat — put down only what this task needs. Three, when a conversation gets long, compress the conclusions so far into a few lines and lay them back down at the start of a new chat. Tools and screens will change, but the principle holds: keep the desk small, only the material you need, and when it gets long, cut and re-lay just the essentials. The person who protects the context ends up working more accurately — and more cheaply.
핵심 개념 5가지Five key concepts
-
01
토큰 — Claude가 글을 읽고 쓰는 최소 단위The token — Claude's smallest unit of reading and writing
Claude는 글자를 통째로 보지 않고 '토큰'이라는 작은 조각으로 끊어 읽고 씁니다. 한글이면 대략 한두 글자가 토큰 하나예요. 우리가 붙여 넣는 고객 문의, 리뷰 100건, 매출 표도 전부 토큰으로 환산되고, Claude가 써 주는 답장·요약도 토큰입니다. 왜 알아야 하냐면, Claude가 한 번에 다룰 수 있는 양에 '토큰 단위의 한계'가 있기 때문입니다. 글자 수가 아니라 토큰 수가 진짜 그릇의 크기예요. 리뷰를 통째로 1,000건 붙이는 것과 핵심 50건만 추리는 것은, 같은 일처럼 보여도 Claude가 짊어지는 토큰 무게가 완전히 다릅니다.Claude doesn't read text whole — it breaks it into small pieces called tokens, reading and writing piece by piece. In English, very roughly, a token is about three-quarters of a word. The customer inquiries you paste, the 100 reviews, the sales table — all convert into tokens, and so do the replies and summaries Claude writes back. Why does this matter? Because the amount Claude can handle at once has a limit measured in tokens. The real size of the bowl is the token count, not the character count. Pasting 1,000 reviews whole versus narrowing to the 50 that matter may look like the same task, but the token weight Claude carries is completely different.
-
02
컨텍스트 — 한 대화의 '작업용 책상'Context — the 'working desk' of one conversation
컨텍스트는 한 대화에서 Claude가 지금 동시에 보고 있는 토큰 전부입니다. 작업용 책상이라고 생각하세요. 그런데 이 책상은 두 가지 성질이 있습니다. 첫째, 크기가 정해져 있어 무한정 올릴 수 없습니다. 둘째, 한 번 올린 건 사라지지 않고 대화 내내 그대로 쌓여 있습니다 — 처음에 붙인 리뷰도, 중간의 매출 표도, 스무 번 주고받은 수정 요청도 전부요. 그래서 대화가 길어질수록 책상은 점점 좁아집니다. "왜 갑자기 새 자료를 못 읽지?" 싶을 때, 대개는 Claude가 멍청해진 게 아니라 책상이 꽉 찬 겁니다.Context is every token Claude is looking at simultaneously in one conversation. Think of it as a working desk. But this desk has two properties. First, its size is fixed — you can't pile on endlessly. Second, whatever you place on it doesn't disappear; it stays there for the whole conversation — the reviews you pasted at the start, the sales table in the middle, the twenty rounds of edits, all of it. So the longer the conversation runs, the more crowded the desk gets. When you wonder "why can't it read the new material all of a sudden?", usually Claude hasn't gotten dumber — the desk is simply full.
-
03
대화가 길어지면 품질이 흐려진다The longer the chat, the blurrier the quality
책상이 다 차기 한참 전부터 이미 품질이 떨어집니다. Claude의 주의력은 책상 위 전체에 얇게 퍼지는데, 잡동사니가 많을수록 정작 중요한 종이 한 장에 가는 주의가 줄거든요. 특히 대화 '중간쯤'에서 줬던 지시가 가장 잘 잊힙니다 — 맨 처음과 맨 끝은 또렷한데 가운데가 흐려지는 현상이에요. 그래서 긴 대화에서는 아까 "이 브랜드만"이라고 못 박은 게 무시되거나, 정해 준 답장 톤이 슬그머니 바뀝니다. 길고 어질러진 대화는 '한 창에서 다 했으니 효율적'으로 보이지만, 실은 Claude가 같은 일을 반복하거나 틀린 걸 그럴듯하게 내놓아 우리가 다시 잡아야 하므로 더 비쌉니다.Quality drops well before the desk is full. Claude's attention spreads thinly across everything on the desk, so the more clutter there is, the less attention reaches the one sheet that matters. Instructions given around the middle of a conversation get forgotten the most — the very start and the very end stay sharp, but the middle goes hazy. That's why, in a long chat, the "this brand only" you nailed down earlier gets ignored, or the reply tone you set quietly shifts. A long, cluttered conversation looks efficient — "I did it all in one window" — but it's actually more expensive, because Claude repeats work or hands you something wrong-but-plausible that you have to catch and redo.
-
04
일이 바뀌면 새 대화로 끊어 간다When the job changes, cut to a new conversation
가장 쉬운 해법은 '한 가지 일에 한 대화'입니다. 리뷰 분석을 끝냈으면, 그 창에서 곧장 발주 메모를 부탁하지 말고 새 대화를 여세요. 앞 작업의 리뷰 1,000건과 오간 수정들이 책상에 그대로 남아 새 일을 방해하기 때문입니다. 새 대화는 깨끗한 책상에서 시작하는 것과 같아, 앞 일의 잡동사니에 휘둘리지 않고 또렷하게 일합니다. "앞에서 얘기한 게 사라지면 손해 아닌가" 싶겠지만, 새 작업에서는 그게 오히려 장점입니다. 작업이 바뀌는 순간이 바로 대화를 끊을 신호예요 — 고객 문의 답장 → (끊고) 매출 리포트 요약 → (끊고) 경쟁사 모니터링, 이렇게 일 단위로 창을 나누면 매번 깨끗한 책상에서 정확하게 일할 수 있습니다.The easiest fix is "one job, one conversation." Finished the review analysis? Don't ask for the purchase-order memo in that same window — open a new conversation. The previous task's 1,000 reviews and all those edits are still sitting on the desk, getting in the way of the new job. A new conversation is like starting at a clean desk: it works clearly, undistracted by the old clutter. You might think "isn't it a loss if the earlier discussion disappears?" — but for a new task, that's a feature, not a bug. The moment the task changes is your signal to cut: reply to customer inquiry → (cut) summarize the sales report → (cut) competitor monitoring. Splitting windows by job lets you work accurately at a clean desk every time.
-
05
핵심만 압축해 다시 깔고 이어 간다Compress the essentials and re-lay them to continue
한 가지 일이 진짜로 길어졌을 때 — 책상은 이미 꽉 찼는데 작업은 아직 안 끝났을 때는 어떻게 할까요. 처음부터 다시 붙여 넣지 말고, '지금까지의 결론'만 몇 줄로 압축하세요. 정해진 답장 톤, 합의된 환불 기준, 빼기로 한 항목 같은 핵심 결정만 추려 적고, 그걸 새 대화 맨 앞에 다시 깔고 이어 가는 겁니다. 오간 대화 100줄은 버리고 결론 5줄만 들고 가는 거예요. 주의할 점은, 압축은 '손실'을 동반한다는 겁니다 — 큰 결론은 살아남지만 세세한 숫자나 사소한 맥락은 빠질 수 있으니, 꼭 필요한 구체값(주문번호, 정확한 금액 등)은 압축 메모에 직접 적어 두세요. 책상을 좁게, 자료는 필요한 것만, 길어지면 끊고 핵심만 다시 — 이것이 컨텍스트를 지키는 전부입니다.What about when a single job genuinely runs long — the desk is already full but the work isn't done? Don't re-paste everything from the start; compress just "the conclusions so far" into a few lines. Pull out only the key decisions — the agreed reply tone, the settled refund criteria, the items you decided to drop — write them down, and re-lay them at the very top of a new conversation to continue. You throw away the 100 lines of back-and-forth and carry forward just the 5 lines of conclusions. One caution: compression comes with loss — the big conclusions survive, but fine numbers and minor context can drop out. So write any must-keep specifics (order numbers, exact amounts) directly into the compressed note. Keep the desk small, only the material you need, and when it gets long, cut and re-lay just the essentials — that is the whole of protecting context.
실습 예제Exercise
컨텍스트를 '지키는 것'과 '내버려 두는 것'의 차이를 직접 한 번 체감해 보는 연습입니다. 코드도 설정도 필요 없고, Claude 대화창 두 개만 있으면 됩니다. 소재는 매장운영·CS·상품기획에서 매일 하는 일 — 고객 리뷰를 모아 개선점을 뽑는 작업입니다. 먼저 '어질러진 책상' 방식으로 한 대화에 모든 걸 쏟아붓고 결과가 어떻게 흐려지는지 보고, 그다음 '깨끗한 책상' 방식으로 일을 끊고 핵심만 압축해 이어 가며 결과가 어떻게 또렷해지는지 비교합니다. 핵심은 네 가지를 몸으로 익히는 것입니다 — ① 이번 일에 필요한 자료만 올리기 ② 일이 바뀌면 새 대화 ③ 길어지면 결론을 몇 줄로 압축 ④ 꼭 필요한 구체값은 직접 적어 두기.This exercise lets you feel the difference between "protecting" context and "leaving it to pile up." No code, no config — just two Claude chat windows. The subject is something store-operations, CS, and product-planning staff do every day: gathering customer reviews and pulling out improvement points. First you'll do it the "cluttered desk" way — dump everything into one conversation and watch the result blur — then the "clean desk" way — cut the job and carry forward only the compressed essentials — and compare how much sharper the result gets. The point is to internalize four habits: (1) load only the material this task needs, (2) when the job changes, start a new conversation, (3) when it gets long, compress the conclusions into a few lines, (4) write any must-keep specifics down directly.
[새 대화 1 — 깨끗한 책상으로 시작] 너는 우리 매장의 고객 리뷰 분석 도우미야. 지금부터 내가 한 상품의 리뷰 여러 건을 붙여 넣을게. 이번 대화에서는 '이 상품 한 개'의 리뷰만 다루고, 다른 상품 얘기는 끌어오지 마. ## 이번 일 내가 리뷰를 붙여 넣으면, 아래만 정리해서 돌려줘. 1. 불만 TOP 3: 가장 자주 나온 불만을 많이 언급된 순서로 세 가지. 2. 칭찬 TOP 3: 가장 자주 나온 칭찬 세 가지. 3. 한 줄 개선 제안: 당장 매장에서 손볼 수 있는 것 하나. ## 규칙 - 내가 이번에 붙여 넣은 리뷰, 그것만 근거로 삼아. 일반적인 상식이나 다른 상품 경험으로 추측해서 채우지 마. - 리뷰에 근거가 약한 항목은 지어내지 말고 "이 부분은 리뷰만으로는 확인 어려움"이라고 표시해. (여기에 같은 상품 리뷰 15~20건을 붙여 넣는다.)
- 어질러진 책상 만들어 보기: 먼저 일부러 한 대화에 다 쏟아붓는다. 위 지시문으로 리뷰를 분석시킨 뒤, 같은 창에서 끊지 않고 곧바로 "이제 이 결과로 다음 달 발주 메모도 써줘", "경쟁사 A 상품이랑도 비교해줘", "답장 템플릿도 만들어줘"를 계속 이어서 시킨다. 대화가 길어질수록 처음에 정한 '이 상품 한 개만'이 흐려지고, 다른 상품을 끌어오거나 앞 결론을 슬그머니 바꾸는 순간이 보이면 — 그게 책상이 꽉 차 품질이 흐려지는 지점이다.Build a cluttered desk on purpose: First, deliberately dump everything into one conversation. After analyzing the reviews with the instruction above, don't cut the window — keep going in the same chat with "now write next month's purchase-order memo from this," "also compare it with competitor A's product," "and make a reply template too." As the conversation lengthens, watch the original "this one product only" blur — the moment it drags in another product or quietly changes an earlier conclusion is the point where the full desk degrades quality.
- 깨끗한 책상으로 다시 하기: 새 대화를 연다. 위 지시문으로 리뷰 분석 '한 가지'만 시키고, 결과가 나오면 거기서 멈춘다. 발주 메모나 경쟁사 비교는 또 다른 새 대화에서 따로 한다. 같은 자료인데도 새 책상에서 한 분석이 더 또렷하고, 엉뚱한 상품이 끼어들지 않는 걸 1단계 결과와 나란히 비교한다.Redo it with a clean desk: Open a new conversation. Run only the one review analysis with the instruction above, and stop when you get the result. Do the purchase-order memo and the competitor comparison in their own separate new conversations. With the exact same material, notice that the analysis done at a fresh desk is sharper and no stray product creeps in — compare it side by side with the step-1 result.
- 핵심만 압축해 이어 가기: 분석이 길어져 더 깊게 파야 한다면, 처음부터 리뷰를 다시 붙이지 말고 결론만 압축한다. 새 대화 맨 앞에 "앞 분석 요약 — 불만 TOP3: (…), 칭찬 TOP3: (…), 확정 개선안: (…). 대상 상품: OOO(상품코드 1234). 이걸 전제로 이어가자"처럼 5줄로 깔고 시작한다. 이때 상품코드·정확한 수치 같은 구체값은 압축 메모에 직접 적어 둔다(압축하면 세부는 빠질 수 있으므로). 100줄 대화를 5줄로 줄여 새 책상에 다시 깐 것 — 이게 컨텍스트를 지키며 길게 이어 가는 방법이다.Carry forward only the compressed essentials: If the analysis runs long and needs to go deeper, don't re-paste the reviews from scratch — compress just the conclusions. At the top of a new conversation, lay down five lines: "Summary of prior analysis — Top 3 complaints: (...), Top 3 praises: (...), confirmed improvement: (...). Target product: OOO (code 1234). Continue on this basis." Write specifics like the product code and exact figures directly into the compressed note (since compression can drop details). You've cut a 100-line conversation down to 5 and re-laid it at a fresh desk — that's how you continue long while protecting context.