MCP와 Function Calling은 무엇이 다르고 어떻게 함께 쓰나
Function Calling은 모델이 schema에 맞는 Tool 호출을 제안하는 모델 API 기능이고, MCP는 AI 애플리케이션과 외부 시스템 사이에서 Tool·Resource·Prompt를 발견하고 연결하는 표준 프로토콜이다. MCP Host가 서버의 Tool schema를 읽어 모델의 Function Calling 형식으로 전달하는 식으로 함께 사용된다.
Tech Notes
헷갈리는 AI 개념을 짧고 명확하게 비교합니다
Prompt, RAG, fine-tuning, 인용, Structured Output, MCP 등 실무에서 자주 혼동하는 개념을 정리합니다.
14 ARTICLES
Tech Notes 글
발행일이 최신인 글부터 확인할 수 있습니다.
글 읽기
Prompt, RAG, Fine-tuning 중 무엇을 선택해야 할까
최신 사내 지식을 답하게 하려면 RAG, 출력 형식·역할·제약을 바꾸려면 Prompt와 Structured Output, 반복되는 행동 패턴을 안정적으로 학습시키려면 충분한 평가 데이터와 함께 Fine-tuning을 검토한다. 세 방법은 대체재가 아니라 서로 다른 문제를 해결한다.
Context Engineering은 Prompt Engineering과 무엇이 다른가
Prompt Engineering이 모델에게 주는 지시문의 표현과 구조를 설계하는 일이라면 Context Engineering은 지시문뿐 아니라 Tool 정의, 검색 문서, 대화 이력, 메모리, 중간 결과 중 이번 추론에 어떤 정보를 넣고 뺄지 관리하는 일이다.
Token과 비용, 응답 속도의 관계
LLM 기반 시스템에서 token이 비용과 응답 속도를 어떻게 결정하는지, RAG 운영에서 토큰 관리가 왜 중요한지 정리합니다.
Structured Output과 JSON mode는 무엇이 다른가
JSON mode는 문법적으로 유효한 JSON 출력을 목표로 하지만 필요한 필드·타입·enum까지 보장하지 않는다. Structured Output은 지원되는 모델·API에서 strict: true를 사용하고 refusal이 없으며 응답이 중도 종료되지 않았을 때 제공한 JSON Schema 일치를 보장하지만, 값의 사실성·업무 규칙·권한은 서버에서 별도로 검증해야 한다.
Context Window와 RAG 설계의 한계
Context Window가 무엇이며 RAG 설계에서 많은 문서를 넣는 것보다 필요한 정보를 선별하는 것이 중요한 이유를 정리합니다.
Corpus, Chunking, Embedding의 관계
RAG 시스템의 기본 흐름인 corpus, chunking, embedding의 관계와 검색 품질 문제가 앞단 설계에서 발생하는 이유를 정리합니다.
AI 답변의 출처 인용과 Grounding UX는 어떻게 신뢰를 만드는가
출처 배지는 답변 끝에 문서 목록만 붙이는 것이 아니라 주장 가까이에 연결하고 문서 제목·발행일·해당 구절·권한·최신성을 확인할 수 있게 해야 한다. 근거가 없거나 서로 충돌하면 확신형 답변 대신 무응답·범위 축소·사람 확인 경로를 제공해야 한다.
Vector DB와 Top-k 검색의 의미
Vector DB가 문서의 의미 벡터를 저장하고 Top-k가 가까운 벡터를 몇 개 가져올지 결정하는 값이라는 점을 정리합니다.
System Prompt와 User Prompt의 역할 차이
User Prompt와 System Prompt의 차이, 기업용 AI에서 System Prompt가 품질 통제에 중요한 이유를 정리합니다.
Temperature와 Top-p의 차이와 사용 기준
Temperature와 Top-p가 다음 단어 선택에 어떤 영향을 주는지, 기업 환경에서 운영 정책 값으로 다뤄야 하는 이유를 정리합니다.
AI Agent의 정의와 기본 구성
AI Agent를 단순 텍스트 생성 모델이 아니라 판단하고 행동하는 시스템으로 정의하고 기본 구성 흐름을 정리합니다.
Tool Calling과 Multi-step Reasoning
Tool Calling과 Multi-step Reasoning이 기업용 AI Agent 설계에서 어떻게 연결되는지, 판단 실행 검증 흐름을 정리합니다.
Latency, Cost, Caching의 기본 관계
LLM 시스템에서 latency와 cost가 토큰, RAG 호출, caching과 어떻게 연결되는지 정리합니다.
KMWorks AI Tech Lab은 설계 이유와 운영 트레이드오프를 근거와 함께 기록합니다.
AI 프로젝트 문의