30초 답변
Prompt Engineering이 모델에게 주는 지시문의 표현과 구조를 설계하는 일이라면, Context Engineering은 지시문뿐 아니라 Tool 정의, 검색 문서, 대화 이력, 메모리, 중간 결과 중 이번 추론에 무엇을 넣고 뺄지 관리하는 일이다.
좋은 문장을 쓰는 것만으로 해결되지 않는 Agent 문제에서는 Context Engineering이 더 큰 운영 단위가 된다. 그러나 둘은 경쟁 개념이 아니다. 명확한 prompt는 잘 설계된 context 안에 포함된다.
이 글의 핵심
- Prompt는 context의 한 부분이다.
- Context를 많이 넣는다고 항상 좋아지지 않는다.
- Agent는 매 단계마다 필요한 정보가 달라져 context를 동적으로 구성해야 한다.
한눈에 보는 차이
| 구분 | Prompt Engineering | Context Engineering |
|---|---|---|
| 주 질문 | 어떻게 지시할까 | 이번 추론에 무엇을 보여줄까 |
| 대상 | system·developer·user 지침, 예시 | prompt, Tool, 검색 결과, 이력, 메모리, 상태 |
| 변경 시점 | 주로 설계·배포 시 | 매 요청·매 단계에서 동적 |
| 대표 실패 | 모호한 역할, 형식 불일치 | 관련 없는 문서, 오래된 Tool 결과, 이력 오염 |
| 평가 | 지시 준수, 출력 품질 | task success, 정보 선택, 비용, 장기 일관성 |
Context에는 무엇이 들어갈까
- 시스템 역할과 정책
- 사용자의 현재 요청
- 좋은 출력 예시
- 사용 가능한 Tool 이름·설명·schema
- RAG가 가져온 문서
- 최근 대화
- 장기 메모리에서 선택한 정보
- 이전 Tool 결과
- 현재 작업 계획과 checkpoint
Anthropic은 Context Engineering을 모델 추론 시 사용할 전체 정보 구성을 관리하는 작업으로 설명하고, 가능한 한 적은 고신호 token으로 목표 행동 가능성을 높이는 것을 중심 원칙으로 제시한다.
왜 많이 넣으면 안 될까
Context window가 크다고 모든 문서를 넣는 방식이 안전한 것은 아니다.
- 관련 없는 내용이 판단을 흐린다.
- 오래된 결과가 최신 정책과 충돌한다.
- Tool 설명이 너무 많아 선택 오류가 늘어난다.
- 비용과 지연이 증가한다.
- 민감정보가 불필요하게 모델에 전달된다.
핵심은 최대한 많이가 아니라 현재 단계에 필요한 최소 충분 정보다.
실무 예시
“지난달 미결 주문을 정리해 팀장에게 보낼 보고서를 만들어줘”라는 요청을 보자.
Prompt Engineering은 보고서 형식, 금지된 추측, 확인이 필요한 행동을 지시한다.
Context Engineering은 다음을 결정한다.
- 사용자의 팀과 조회 권한
- 지난달의 정확한 기간
- 주문 조회 Tool의 관련 schema만 노출
- 조회 결과 중 필요한 열만 전달
- 회사 보고서 템플릿 검색
- 이전 대화에서 합의한 수신자는 유지하되 오래된 임시 메모는 제외
- 전송 단계에서는 사람 승인을 추가
문장이 좋아도 잘못된 권한·오래된 데이터·과도한 Tool이 들어오면 결과는 흔들린다.
Context Engineering의 네 가지 동작
선택
관련 문서, Tool, 메모리만 고른다.
정리
제목·출처·시간·권한 같은 metadata를 보존하고 모델이 구분할 수 있게 배치한다.
압축
긴 이력과 중간 결과를 요약하되 원본 위치와 결정 사항을 잃지 않는다.
폐기
오래된 상태, 중복 결과, 민감정보, 이번 단계와 무관한 Tool을 제거한다.
언제 Prompt를 먼저 고치고 언제 Context를 볼까
- 같은 정보에서 형식만 자주 틀리면 prompt와 schema를 본다.
- 필요한 문서가 없거나 잘못 들어오면 retrieval과 context를 본다.
- 대화가 길어질수록 성능이 나빠지면 이력·압축·메모리를 본다.
- Tool을 자주 잘못 고르면 Tool 설명, 노출 수, context를 본다.
- 최신 정책과 충돌하면 데이터 버전과 cache 무효화를 본다.
자주 묻는 질문
Context Engineering이 Prompt Engineering을 대체하나?
아니다. Prompt는 context의 중요한 구성요소다. Context Engineering은 그보다 넓은 시스템 설계 범위다.
Context window가 커지면 이 문제가 사라지나?
아니다. 넣을 수 있는 양은 늘지만 관련성, 최신성, 권한, 비용, 정보 충돌 문제는 남는다.
RAG가 곧 Context Engineering인가?
RAG는 필요한 외부 정보를 가져오는 한 방법이다. 대화 이력, Tool, 메모리, 상태, 압축까지 포함하는 Context Engineering이 더 넓다.