Architecture

운영 가능한 기업 AI 시스템의 경계를 설계합니다

AI Gateway, 구조화 출력, 보안 경계, 중단 후 재개 가능한 실행(durable execution), 데이터 거버넌스를 포함한 참조 아키텍처를 다룹니다.

6 ARTICLES

Architecture 글

발행일이 최신인 글부터 확인할 수 있습니다.

기업용 생성형 AI 데이터 거버넌스와 개인정보 보호 설계

AI 데이터 거버넌스는 데이터 등급과 허용 목적을 사용 사례별로 정하고, 원천 데이터부터 프롬프트·임베딩·모델 공급자·도구·로그·백업·삭제까지 데이터 흐름을 목록화하는 데서 시작합니다. 처리 지점마다 최소 수집·보존 기한·마스킹·지역과 업체 정책을 적용합니다. 공급자 약관과 기능별 보존 차이는 증거로 관리하고, 사용자가 조회·수정·삭제 결과를 확인할 수 있게 합니다.

글 읽기

장시간 실행 AI 에이전트의 재시작·보상·멱등성 설계

장시간 실행 에이전트는 채팅 요청 하나로 보지 말고 영속 상태 머신으로 모델링합니다. 외부 부작용마다 안정적인 멱등성 키를 부여하고, 완료된 단계의 결과와 체크포인트를 저장합니다. 재시도는 일시 오류에만 제한적으로 하고 취소는 협력적으로 전파합니다. 되돌릴 수 없는 단계 전에는 승인을 받고, 부분 완료는 도메인별 보상과 수동 복구 경로로 처리합니다.

글 읽기

Structured Output과 JSON Schema로 AI 시스템 계약을 만드는 법

Structured Output은 필드·타입·필수값 같은 구조를 안정화하지만, 추출값의 사실성·업무 규칙·권한·최신성까지 보장하지는 않습니다. 공급자 종료 상태를 먼저 처리하고, JSON Schema 검증 뒤 도메인 불변식·근거 대조·권한 검사를 거칩니다. 스키마 버전과 실패 상태를 명시하고, 형식 테스트와 의미 평가를 분리합니다.

글 읽기

기업용 AI Gateway와 멀티 모델 라우팅 참조 구조

AI Gateway는 정책 집행 지점입니다. 요청의 업무 유형·데이터 등급·필요 기능을 판별해 허용된 모델 후보 안에서 라우팅합니다. 실패하면 전체 응답 기한 안에서만 제한적으로 재시도·폴백하고, 공급자·모델·리전별 서킷 브레이커와 출력 검증을 적용합니다.

글 읽기

Prompt Injection과 데이터 유출을 막는 기업 AI 신뢰 경계 설계

외부 문서와 도구 결과는 지시가 아닌 비신뢰 데이터로, 모델 출력은 실행 명령이 아닌 제안으로 취급합니다. 최소 권한, 도구 허용 목록(allowlist), 읽기·쓰기 분리, 고위험 승인을 적용합니다. 여기에 구조화된 중간 표현, 서버 측 권한·출력 검증, 외부 전송 통제를 겹쳐야 간접 Prompt Injection의 피해 범위를 줄일 수 있습니다.

글 읽기

KMWORKS AI Tech Lab은 설계 이유와 운영 트레이드오프를 근거와 함께 기록합니다.

AI 프로젝트 문의