3강 · Claude 해부학 — 강점·약점·한계Lesson 3 · Claude Anatomy — Strengths, Weaknesses, Limits
Rule No.3 — 도구를 알아야 잘 쓴다Rule No.3 — Know the tool to wield it well
강의 요약Summary
분명 똑똑한데, 왜 가끔 당당하게 틀린 답을 내놓을까요. 신상품 입고 일정을 물었더니 있지도 않은 날짜를 딱 잘라 알려주고, 경쟁사 행사 내용을 자신 있게 설명하는데 알고 보니 지어낸 것이고. 이게 고장일까요. 아닙니다. 좋은 매장 직원이 진열대 하중과 동선을 알듯, 좋은 목수가 망치의 무게와 한계를 알듯, Claude도 그 몸을 알아야 제대로 씁니다. 오늘은 Claude를 해부해서, 어디는 믿고 어디는 검증할지를 가르는 경계선을 찾습니다.It's clearly smart, so why does it sometimes hand you a wrong answer with total confidence? You ask about the restock date for a new item and it gives you a clean, specific date that doesn't exist; it confidently describes a competitor's promotion that turns out to be invented. Is this a malfunction? No. Just as a good floor associate knows the load limits of a display rack and the flow of foot traffic, just as a good carpenter knows the weight and limits of a hammer, you have to know Claude's body to wield it well. Today we dissect Claude to find the line that divides where to trust from where to verify.
핵심은 Claude가 답을 만드는 방식입니다. Claude는 어딘가 저장된 정답을 검색해서 꺼내오지 않습니다. "이 자리에 가장 그럴듯한 다음 말"을 확률로 이어붙입니다. 사실 저장고가 아니라 패턴 생성기에 가깝다는 뜻이에요. 이 한 가지만 이해하면 나머지가 줄줄이 풀립니다. 진실이냐 거짓이냐가 아니라 그럴듯하냐로 다음 말을 고르기 때문에, 모르는 부분이 나와도 멈추지 않고 빈칸을 그럴듯하게 메웁니다. 이게 할루시네이션이고, 버그가 아니라 작동 방식의 부산물입니다. 그래서 사실 주장은 언제나 검증합니다. 특히 위험이 커지는 조건이 있어요. 최신 정보, 구체적인 수치·고유명사·인용, 그리고 긴 대화의 후반부입니다. 여기에 들어왔다 싶으면 그때 검증 강도를 확 올리면 됩니다.The heart of it is how Claude builds an answer. Claude doesn't search some database and pull out the correct answer. It strings together "the most plausible next words" by probability. In other words, it's less a fact vault and more a pattern generator. Understand just this one thing and the rest unravels in order. Because it picks the next word by plausibility, not by true-or-false, it doesn't stop when it hits something it doesn't know — it fills the gap plausibly. That's a hallucination, and it's not a bug; it's a byproduct of how the thing works. So you always verify factual claims. There are conditions where the risk spikes: recent information, specific numbers, proper names and quotes, and the late part of a long conversation. Whenever you feel you've entered one of these, that's when you crank the verification up.
Claude의 기억도 무한하지 않습니다. 한 번에 책상 위에 올려둘 수 있는 면적이 정해져 있는데, 이걸 컨텍스트 윈도우라고 합니다. 우리가 나눈 대화, 보여준 자료, 지시가 전부 이 책상 위에 종이처럼 쌓이고, 꽉 차면 오래된 것부터 밀려나 떨어집니다. 게다가 자리가 남아 있어도, 대화가 길어지면 책상 한가운데 놓인 정보에 대한 주의가 흐려지는 경향이 있어요. 사람도 긴 글에서 앞뒤는 잘 기억하고 중간은 가물거리듯 말이죠. 그래서 정말 중요한 지시나 데이터는 맨 앞이나 맨 뒤에 두고, 대화가 너무 길어졌으면 핵심만 정리해 새 대화를 시작하는 게 훨씬 깔끔합니다.Claude's memory isn't infinite either. There's a fixed amount you can lay on the desk at one time — this is called the context window. Everything piles onto this desk like sheets of paper: the conversation, the materials you showed it, the instructions. When it fills up, the oldest sheets get pushed off the edge. And even with room left, as the conversation grows long, attention to whatever sits in the middle of the desk tends to fade — the same way people remember the beginning and end of a long document but go hazy in the middle. So put your truly important instructions or data at the very front or the very end, and when a chat has run too long, summarizing the essentials and starting a fresh chat is far cleaner.
정리하면, 강함과 약함을 가르는 경계선은 딱 하나, 검증 가능성입니다. 구조화·요약·형식 변환·초안 작성처럼 눈앞의 내용으로 결과를 바로 확인할 수 있는 일엔 강하고, 최신 사실·구체 수치·존재 여부 주장처럼 외부 사실에 기대는 일엔 약합니다. 그러니 일을 맡기기 전에 다섯 가지만 점검하세요. 내가 결과를 검증할 수 있나, 최신·외부 사실에 의존하나, 필요한 맥락을 줬나, 대화가 너무 길지 않나, 그리고 일의 난이도에 맞는 모델을 골랐나. Claude는 자율주행차가 아니라 운전 보조 장치입니다. 한계를 모르면 같은 약점이 함정이 되지만, 한계를 알면 그게 바로 사용설명서가 됩니다. 사실은 검증하고, 구조는 신뢰한다 — 그것이 Rule No.3입니다.To sum up, the line dividing strong from weak is just one thing: verifiability. It's strong on work where the result can be checked immediately against material right in front of you — structuring, summarizing, converting formats, drafting — and weak on work that leans on external facts, like recent facts, specific numbers, or claims about whether something exists. So before you hand off a task, check just five things: can I verify the result, does it depend on recent or external facts, did I give the context it needs, has the chat run too long, and did I pick a model that fits the difficulty of the job. Claude isn't a self-driving car; it's driver assist. If you don't know the limits, the same weaknesses become traps — but if you do know them, they become the user manual. Verify the facts, trust the structure — that is Rule No.3.
핵심 개념 5가지Five key concepts
-
01
Claude는 '안다'가 아니라 다음 말을 '확률로 잇는다'Claude doesn't 'know' — it predicts the next words by probability
Claude가 답을 만드는 방식은 생각보다 단순합니다. "우리 매장의 베스트셀러는"까지 입력이 들어오면, 다음에 올 말의 후보들을 확률로 따져 가장 그럴듯한 것을 하나 고르고, 다시 그 뒤를 예측하고, 이렇게 한 마디씩 계속 이어붙입니다. 중요한 건 Claude가 어딘가 저장된 정답을 검색해서 꺼내오는 게 아니라는 점입니다. 그저 "가장 그럴듯한 다음 말"을 확률로 잇는 거예요. 그래서 Claude는 사실 저장고가 아니라 패턴 생성기에 가깝습니다. 똑똑해 보이는 건 맞지만, 정답을 보관하고 있다가 꺼내주는 사전이 아니라는 것 — 이 한 가지만 기억해도 오늘의 절반은 이해한 겁니다.The way Claude builds an answer is simpler than you'd think. Once the input "our store's best seller is" comes in, it weighs the candidate next-words by probability, picks the most plausible one, then predicts what follows, and keeps stringing words together one at a time. The key point is that Claude isn't searching some database and pulling out the correct answer. It's just stringing together "the most plausible next words" by probability. So Claude is less a fact vault and more a pattern generator. It does look smart — but it isn't a dictionary that stores the right answer and hands it back. Remember just this one thing and you've understood half of today's session.
-
02
할루시네이션 — 모르면 멈추지 않고 그럴듯하게 채운다Hallucination — when it doesn't know, it fills the gap plausibly
앞의 작동 방식에서 곧장 따라 나오는 게 할루시네이션입니다. Claude는 진실이냐 거짓이냐를 따져 말을 고르는 게 아니라 "이 자리에 제일 그럴듯한 게 뭐지?"로 고르기 때문에, 모르는 부분이 나와도 멈추지 않고 빈칸을 그럴듯하게 메워버립니다. 신상품 입고일을 물으면 있지도 않은 날짜를 자신 있게 대고, 경쟁사 행사를 지어내 설명하는 식이죠. 이건 고장이 아니라 확률 예측이라는 작동 방식의 부산물입니다. 그러니 결론은 하나 — 사실 주장은 언제나 검증합니다. 특히 위험이 커지는 조건이 있어요. 학습한 적 없는 최신 정보, 구체적인 수치·고유명사·인용, 그리고 긴 대화의 후반부. 이 조건에 들어왔다 싶으면 그때 검증 강도를 확 올리면 됩니다.Hallucination follows directly from that mechanism. Because Claude picks words by asking "what's the most plausible thing here?" rather than judging true or false, it doesn't stop when it hits something it doesn't know — it fills the gap plausibly. Ask for a new item's restock date and it confidently states a date that doesn't exist; ask about a competitor's promotion and it invents one and explains it. This isn't a malfunction — it's a byproduct of how probability prediction works. So the takeaway is one line: always verify factual claims. There are conditions where the risk spikes: recent information it never learned, specific numbers, proper names and quotes, and the late part of a long conversation. Whenever you feel you've entered one of these, that's when you crank the verification up.
-
03
컨텍스트 윈도우 — 기억의 '책상'에는 크기가 있다The context window — the memory 'desk' has a fixed size
Claude의 기억을 책상에 비유해 볼게요. 컨텍스트 윈도우란 한 번에 책상 위에 올려둘 수 있는 면적입니다. 우리가 나눈 대화, 붙여 넣은 자료, 지시사항이 전부 이 책상 위에 종이처럼 쌓여요. 그런데 이 책상에는 정해진 크기가 있어서, 꽉 차면 가장 오래된 종이부터 가장자리로 밀려나 떨어집니다. 한 시간 동안 이런저런 자료를 잔뜩 보여준 뒤 맨 처음에 준 지침을 Claude가 슬그머니 놓치는 게 그래서입니다. 정확한 상한값은 모델마다 다르고 숫자도 빠르게 바뀌니 외울 필요는 없습니다. 중요한 건 한계가 있다는 사실 자체예요. 그래야 무엇을 책상에서 덜어내고 무엇을 남길지 판단할 수 있습니다.Let me use a desk as a metaphor for Claude's memory. The context window is how much you can lay on the desk at one time. Everything piles onto this desk like sheets of paper: the conversation, the materials you pasted in, the instructions. But this desk has a fixed size, so when it fills up, the oldest sheets get pushed off the edge first. That's why, after you've shown it piles of material for an hour, Claude quietly loses the instruction you gave at the very start. The exact ceiling differs by model and the numbers change fast, so there's no need to memorize them. What matters is the fact that a limit exists — because that's what lets you decide what to clear off the desk and what to keep.
-
04
긴 대화의 집중력 저하 — 중간이 흐려진다Attention fade in long chats — the middle gets foggy
책상에 자리가 남아 있어도 또 다른 함정이 있습니다. 대화가 길어지면 책상 한가운데 놓인 정보에 대한 주의가 흐려지는 경향이 있어요. 사람도 긴 글에서 맨 앞과 맨 뒤는 잘 기억하는데 중간은 가물거리잖아요. 그것과 비슷합니다. 흔히 '중간 함몰'이나 '컨텍스트 로트'라고 부르고, 모델마다 정도 차이는 있습니다. 실전 요령은 간단합니다. 정말 중요한 지시나 데이터는 맨 앞이나 맨 뒤에 두세요. 한 대화에서 상품 리스트, 재고표, CS 응대 가이드를 차례로 길게 붙였다면, 가장 지키게 하고 싶은 규칙은 끝에 한 번 더 짚어주는 식이죠. 그리고 대화가 너무 길어졌다 싶으면, 핵심만 요약해 새 대화를 시작하는 게 훨씬 깔끔합니다.Even with room left on the desk, there's another trap. As a conversation grows long, attention to whatever sits in the middle of the desk tends to fade. People are like this too — with a long document, we remember the very beginning and the very end well, but the middle gets hazy. It's similar. This is often called "lost in the middle" or "context rot," and it varies by model. The practical tip is simple: put your truly important instructions or data at the very front or the very end. If, in one chat, you've pasted in a long product list, then a stock table, then a CS-response guide, restate the rule you most want followed once more at the end. And when a conversation has gotten too long, summarizing the essentials and starting a fresh chat is far cleaner.
-
05
강·약의 경계는 검증 가능성, 그리고 일에 맞는 모델The strong/weak line is verifiability — plus the right model for the job
지금까지 본 걸 한 장으로 묶으면, 강함과 약함을 가르는 경계선은 딱 하나, 검증 가능성입니다. 구조화·정리, 요약, 형식 변환, 초안 작성처럼 눈앞의 내용으로 결과를 바로 확인할 수 있는 일엔 정말 강합니다. 반대로 최신 사실, 구체적인 수치, 무언가가 존재하느냐는 주장, "내가 확인해 봤다"는 자기 검증 주장처럼 외부 사실에 기대는 일엔 약합니다. 그래서 검증할 수 있으면 맡기고, 외부 사실이면 확인합니다. 한 가지 더 — Claude는 한 종류가 아니라 권투처럼 체급이 나뉩니다. 가장 깊이 생각하지만 느리고 비싼 모델(Opus), 대부분의 실무에 맞는 균형형(Sonnet), 빠르고 저렴해 단순 반복에 좋은 모델(Haiku). 구체적인 이름과 가격은 빠르게 바뀌니 외우지 말고, 일의 난이도에 맞는 체급을 고르는 것 자체가 도구를 아는 일입니다.If we put everything we've seen onto one page, the line dividing strong from weak is just one thing: verifiability. It's genuinely strong on work where you can check the result immediately against material right in front of you — structuring and organizing, summarizing, converting formats, drafting. By contrast, it's weak on work that leans on external facts: recent facts, specific numbers, claims about whether something exists, and self-checking claims like "I verified it." So if you can verify it, hand it off; if it's an external fact, check it. One more thing — Claude isn't one model but, like boxing, comes in weight classes: the deepest thinker that's slow and costly (Opus), the balanced one that fits most real work (Sonnet), and the fast, cheap one good for simple repetitive chores (Haiku). The specific names and prices change fast, so don't memorize them — picking the weight class that fits the difficulty of the job is itself part of knowing your tool.
실습 예제Exercise
오늘 배운 해부학을 직접 눈으로 확인해 봅니다. 코드도 설정도 필요 없어요 — Claude 대화창에 아래 지시문을 그대로 붙여 넣으면, Claude가 한 가지 일을 두 가지 방식으로 처리하면서 자기 강점과 약점을 스스로 드러내 줍니다. 매장 운영·MD·CS·마케팅이라면 누구나 매일 마주치는 일, '상품 설명 초안 잡기'가 소재입니다. 핵심은 같은 일이라도 검증 가능한 부분과 외부 사실에 기대는 부분을 갈라 보는 눈입니다 — ① 눈앞의 내용으로 다듬는 일(강함) ② 최신·외부 사실에 기대는 일(약함, 반드시 검증). 이 경계선만 보이면, 어떤 업무든 어디까지 Claude에 맡기고 어디부터 내가 확인할지가 또렷해집니다.Let's see today's anatomy with your own eyes. No code, no setup — just paste the instruction below straight into a Claude chat, and Claude will handle one task in two different ways, surfacing its own strengths and weaknesses for you. The subject is something anyone in store operations, merchandising, CS, or marketing faces every day: drafting a product description. The point is the eye to separate, within the same task, what's verifiable from what leans on external facts — (1) work done by polishing material in front of you (strong) and (2) work that leans on recent or external facts (weak, always verify). Once you can see this line, it becomes clear for any task how far to hand off to Claude and where you need to start checking yourself.
지금부터 내가 주는 상품 정보로 온라인 상세페이지용 상품 설명 초안을 잡아 줘. 단, 두 부분으로 나눠서 작업해 줘.From now on, draft a product description for an online detail page using the product info I give you. But split the work into two parts.
## A. 내가 준 내용만으로 쓰는 부분 (다듬기)## A. The part written only from what I gave you (polishing)
아래 [상품 정보]에 적힌 사실만 가지고, 고객이 읽기 좋게 정리해 줘.Using only the facts written in [product info] below, organize it so it reads well for customers.
- 제품명, 용량/사이즈, 핵심 특징 3가지를 매력적인 한 문단으로.Product name, capacity/size, and three key features in one appealing paragraph.
- 같은 내용을 짧은 카드뉴스용 3줄 버전으로도.The same content also as a short three-line version for a card-news post.
이 부분은 내가 준 정보를 보기 좋게 바꾸는 일이니까, 내용을 새로 지어내지는 말고 표현만 다듬어 줘.This part is about reshaping the info I gave you to look good, so don't invent new content — just polish the wording.
## B. 외부 사실이 필요한 부분 (검증 표시)## B. The part that needs external facts (mark for verification)
상세페이지에 들어가면 좋지만 내가 준 정보에는 없는 것들이 있어. 예를 들면 이런 거야 — 유사 상품의 일반적인 시장 가격대, 이 성분/소재에 대한 공식 인증이나 규정, 경쟁사 동일 카테고리 베스트셀러, 최신 트렌드 통계. 이런 항목은 절대 그럴듯하게 지어내지 마. 대신 '확인 필요' 목록으로 따로 빼서, 각 항목 옆에 '누가/어디서 확인해야 하는지'를 한 줄로 적어 줘. 숫자나 인증명이 필요하면 '[수치 확인 필요]'처럼 빈칸으로 표시해.There are things that would be good on the detail page but aren't in the info I gave — for example: the typical market price range for similar products, official certifications or regulations for this ingredient/material, a competitor's best seller in the same category, the latest trend statistics. Never invent these plausibly. Instead, pull them into a separate "needs confirmation" list, and next to each item write in one line "who/where should check this." If a number or certification name is needed, mark it as a blank like "[number needs confirmation]."
## 규칙## Rules
- A 부분과 B 부분을 절대 섞지 마. A에는 검증 없이 써도 되는 것만, B에는 내가 외부에서 확인해야 하는 것만.Never mix part A and part B. A holds only what's safe to write without verification; B holds only what I have to confirm externally.
- [상품 정보]에 없는 사실을 A 본문에 슬쩍 끼워 넣지 마.Don't slip any fact not in [product info] into the body of A.
[상품 정보][Product info]
(여기에 실제 상품 정보를 붙여 넣으세요. 예: 제품명, 용량, 주요 특징, 가격 등 — 내가 확실히 아는 사실만.)(Paste the actual product info here. e.g., product name, capacity, key features, price — only facts you're sure of.)
- 붙여 넣고 돌려 보기: Claude 대화창을 열고 위 지시문을 붙여 넣은 뒤, [상품 정보] 자리에 실제로 다루는 상품 하나의 정보(제품명·용량·핵심 특징 정도, 내가 확실히 아는 사실만)를 채워 보낸다. A(다듬기)와 B(확인 필요)가 또렷이 나뉘어 나오는지 본다.Paste and run it: Open a Claude chat, paste the instruction above, and fill the [product info] slot with the details of one real item you handle (product name, size, key features — only facts you're sure of), then send. Check that section A (polishing) and section B (needs confirmation) come out clearly separated.
- 강점 확인 — A 부분: A에 나온 상품 설명 초안을, 내가 준 [상품 정보]와 한 줄씩 대조한다. 내가 준 사실만으로 표현을 매력적으로 다듬었으면 이게 바로 Claude의 강점 영역(검증 가능·눈앞의 내용)이다. 만약 A 본문에 내가 주지 않은 수치나 효능, 인증 같은 게 슬쩍 들어가 있으면 빨간펜으로 표시한다 — 그게 할루시네이션이 새어 든 지점이다.Confirm the strength — section A: Compare the draft description in A line by line against the [product info] you gave. If it polished your given facts into appealing copy without adding anything, that's exactly Claude's strong zone (verifiable, material in front of it). If a number, benefit, or certification you never provided has slipped into A, mark it in red pen — that's where a hallucination leaked in.
- 약점 확인 — B 부분: B의 '확인 필요' 목록을 본다. Claude가 가격대·인증·경쟁사 정보 같은 외부 사실을 지어내지 않고 '[수치 확인 필요]'로 비워 두고 '누가/어디서 확인'을 적었으면, 약점을 정직하게 드러낸 것이다. 이 목록이 바로 오늘 배운 '검증해야 하는 것들'이다. 마지막으로 B 항목 중 한두 개를 실제로 직접 확인해, 사실은 검증하고 구조는 신뢰한다는 오늘의 원칙을 손으로 마무리한다.Confirm the weakness — section B: Look at the "needs confirmation" list in B. If Claude left external facts like price ranges, certifications, or competitor info blank as "[number needs confirmation]" with a note on who/where to check, rather than inventing them, it honestly surfaced its weakness. This list is precisely the "things you must verify" from today. Finally, actually go verify one or two of the B items yourself — finishing the day's principle by hand: verify the facts, trust the structure.