MCP와 Function Calling은 무엇이 다르고 어떻게 함께 쓰나
Function Calling은 모델이 스키마에 맞는 도구 호출을 제안하는 모델 API 기능입니다. MCP는 AI 애플리케이션과 외부 시스템 사이에서 Tool·Resource·Prompt를 발견하고 연결하는 표준 프로토콜입니다. 두 기능은 MCP Host가 서버의 Tool 스키마를 읽어 모델의 Function Calling 형식으로 전달하는 방식으로 함께 쓰입니다.
프롬프트, RAG, Fine-tuning, 출처 인용, Structured Output, MCP처럼 실무에서 자주 혼동하는 개념을 정리합니다.
발행일이 최신인 글부터 확인할 수 있습니다.
Function Calling은 모델이 스키마에 맞는 도구 호출을 제안하는 모델 API 기능입니다. MCP는 AI 애플리케이션과 외부 시스템 사이에서 Tool·Resource·Prompt를 발견하고 연결하는 표준 프로토콜입니다. 두 기능은 MCP Host가 서버의 Tool 스키마를 읽어 모델의 Function Calling 형식으로 전달하는 방식으로 함께 쓰입니다.
최신 사내 지식으로 답하게 하려면 RAG를, 출력 형식·역할·제약을 조정하려면 프롬프트와 Structured Output을 검토합니다. 반복되는 행동 패턴을 안정적으로 학습시켜야 할 때는 충분한 평가 데이터를 갖추고 Fine-tuning을 검토합니다. 세 방법은 해결하는 문제가 서로 다릅니다.
Prompt Engineering은 모델에 주는 지시문의 표현과 구조를 설계하는 일입니다. Context Engineering은 지시문과 함께 도구 정의, 검색 문서, 대화 이력, 메모리, 중간 결과 가운데 이번 추론에 어떤 정보를 포함하고 제외할지 관리하는 일입니다.
LLM 기반 시스템에서 토큰이 비용과 응답 속도를 어떻게 결정하는지, RAG 운영에서 토큰 관리가 왜 중요한지 정리합니다.
JSON mode는 문법적으로 유효한 JSON 출력을 목표로 하지만 필요한 필드·타입·enum까지 보장하지는 않습니다. Structured Output은 지원되는 모델·API에서 strict: true를 사용하고, refusal이 없고 응답이 중간에 끊기지 않았을 때 제공한 JSON Schema 일치를 보장합니다. 값의 사실성·업무 규칙·권한은 서버에서 별도로 검증해야 합니다.
컨텍스트 윈도의 개념과, RAG 설계에서 문서를 많이 포함하기보다 필요한 정보를 선별해야 하는 이유를 정리합니다.
RAG 시스템의 기본 흐름인 문서 집합, 청킹, 임베딩의 관계와, 검색 품질 문제가 앞단 설계에서 생기는 이유를 정리합니다.
출처 배지는 답변 끝에 문서 목록으로 모아 두기보다 주장 가까이에 연결하고, 문서 제목·발행일·해당 구절·권한·최신성을 확인할 수 있게 합니다. 근거가 없거나 서로 충돌하면 확신형 답변 대신 무응답·범위 축소·사람 확인 경로를 제공합니다.
Vector DB는 문서의 의미 벡터를 저장하고, Top-k는 가까운 벡터를 몇 개 가져올지 정하는 값이라는 점을 정리합니다.
User Prompt와 System Prompt의 차이와, 기업용 AI에서 System Prompt가 품질 관리의 기준이 되는 이유를 정리합니다.
Temperature와 Top-p가 다음 단어 선택에 미치는 영향과, 기업 환경에서 두 값을 운영 정책으로 관리해야 하는 이유를 정리합니다.
AI 에이전트를 판단하고 행동하는 시스템으로 정의하고, 텍스트 생성 모델과 무엇이 다른지 기본 구성 흐름으로 정리합니다.
Tool Calling과 다단계 추론(Multi-step Reasoning)이 기업용 AI 에이전트 설계에서 어떻게 연결되는지 판단·실행·검증 흐름으로 정리합니다.
LLM 시스템에서 응답 시간과 비용이 토큰, RAG 호출, 캐싱과 어떻게 연결되는지 정리합니다.
KMWORKS AI Tech Lab은 설계 이유와 운영 트레이드오프를 근거와 함께 기록합니다.
AI 프로젝트 문의