[AI 입문 2편] "토큰"과 "컨텍스트 윈도우", 3분 만에 이해하기
작성자: potatto.dev · 게시판: AI 입문 · 2026-11-11 10:43 · 추천 0 · 댓글 1
👈 이전 편: [AI 입문 1편] 답변 품질이 확 달라지는 질문 습관 5가지
토큰: AI가 글을 읽는 단위예요. 단어보다 조금 잘게 쪼갠 조각이라고 보면 됩니다. 한국어는 영어보다 같은 내용에 토큰이 더 드는 편이에요. API 요금도 토큰 기준으로 나옵니다.
컨텍스트 윈도우: AI가 한 번에 기억하며 볼 수 있는 분량(토큰 수)입니다. 대화가 길어지면 앞부분이 밀려나거나 흐려질 수 있어요.
실전 팁
대화가 너무 길어져 답이 이상해지면 → 핵심만 정리해서 새 대화로 시작하세요.
긴 문서를 넣을 땐 → 질문을 문서 뒤에 다시 한 번 명확히 적어주면 정확도가 올라갑니다.
"아까 말한 거"보다 → 필요한 내용을 다시 짧게 붙여주는 게 확실합니다.
📎 긴 문서 다룰 땐 이 템플릿도 같이 써보세요 → 긴 문서 요약 템플릿 (회의록·보고서·논문 공용)
대화가 길어져서 답이 갑자기 이상해진 경험 있으신가요? 어떻게 해결하셨는지 댓글로 들려주세요!