상담봇이 모르는 질문에 “담당자에게 연결해 드리겠습니다”라고 답했습니다. 그런데 담당자가 그 문의를 볼 화면도, 응대 순서도 없다면 고객은 다시 문의해야 합니다. 답변 문장만 준비한 상태에서는 상담이 이어지지 않습니다.
AI 상담봇을 공개하기 전에는 답할 질문뿐 아니라 답하지 못한 문의가 도착할 곳도 정해야 합니다. 자동 응답과 사람의 업무를 한 흐름으로 연결하는 일이 운영 준비의 출발점입니다.
어떤 답변을 자동으로 내보낼지 구분합니다
공개된 제품 사용법을 안내하는 일과 고객의 계약 조건을 바꾸는 일은 같은 수준으로 다룰 수 없습니다. 설명만 제공할 업무, 담당자에게 초안을 보여줄 업무, 사람이 직접 판단할 업무를 나누세요.
분류 기준은 모델이 얼마나 자신 있게 답하는지가 아닙니다. 근거가 최신인지, 본인 확인이 필요한지, 잘못 처리했을 때 어떤 영향이 생기는지를 살펴봐야 합니다. 질문에 답하는 기능과 주문 취소 같은 실행 기능도 따로 구분해야 합니다. OWASP는 AI에 불필요한 기능·권한·자율성을 부여하는 위험을 설명하고 있습니다. Excessive Agency 안내
이관할 때는 고객의 설명이 끊기지 않게 합니다
상담원이 확인할 화면에는 고객이 질문한 내용, 봇이 안내한 내용, 해결되지 않은 이유가 필요합니다. 봇이 요약한 문장은 원문과 구분해서 보여주고 담당자가 확인할 수 있어야 합니다. 불필요한 개인정보를 요약에 더하지 않도록 범위도 제한합니다.
예를 들어 반품 접수 방법을 안내한 뒤 고객이 특정 주문의 처리 상태를 물었다면, 단순한 이용 안내에서 본인 확인이 필요한 업무로 바뀐 것입니다. 이 상황은 실제 고객 사례가 아닌 운영 설계 예시입니다. 봇은 허용된 조회 절차를 따르거나 담당자에게 넘겨야 하고, 확인되지 않은 처리 상태를 만들어 답해서는 안 됩니다.
상담 시간 밖에 들어온 문의도 생각해야 합니다. 접수됐다는 사실과 예상 응대 기준을 알리고, 다음 근무자가 확인할 목록에 남겨야 합니다. 사람이 응대할 수 없는 시간에 즉시 연결을 약속하지 않는 것이 좋습니다.
운영자가 바꾸는 문서도 배포 대상입니다
환불 기준이나 제품 안내가 바뀌면 원본 문서만 수정해서는 충분하지 않을 수 있습니다. 검색에 사용하는 자료에도 변경이 반영됐는지 확인해야 합니다. 이전 규정과 새 규정이 함께 검색되면 답변이 달라질 수 있습니다.
누가 문서를 수정하고 승인하는지, 언제부터 적용하는지, 잘못된 안내가 확인되면 무엇을 중단할지를 정해두세요. 중요한 안내가 바뀐 날에는 관련 질문으로 답변을 다시 확인하는 절차가 필요합니다.
고객 정보와 상담 로그는 필요한 범위만 사용하고 접근 권한을 구분해야 합니다. ‘민감정보를 말하지 말라’는 프롬프트만으로 보호를 끝낼 수는 없습니다. OWASP의 정보 노출 위험 안내도 애플리케이션 차원의 접근 통제를 함께 다룹니다.
대화 수보다 해결되지 않은 이유를 먼저 봅니다
운영 초기에 확인할 항목을 너무 많이 늘릴 필요는 없습니다. 다음 네 가지부터 살펴보면 개선할 일을 나누기 좋습니다.
- 어떤 질문을 해결하지 못했는가: 자료가 없는지, 검색이 안 됐는지, 권한 문제인지 구분합니다.
- 이관된 문의가 처리됐는가: 이관 버튼 클릭과 담당자의 처리 완료는 따로 집계합니다.
- 고객이 같은 문제로 다시 문의했는가: 대화가 끝난 것과 문제가 해결된 것을 구분합니다.
- 잘못된 안내가 확인됐을 때 어디까지 고쳐야 하는가: 문서·검색·응답 규칙 중 수정할 대상을 찾습니다.
모델이나 검색 구성을 바꾼 뒤에는 기존에 잘 처리하던 질문도 다시 확인해야 합니다. 문제가 생겼을 때 이전 설정으로 돌아가거나 사람 상담으로 전환할 방법도 준비합니다.
케이엠웍스의 AI Agent 데모에서는 문서 검색과 답변 흐름을 살펴볼 수 있습니다. 샘플 데이터를 사용한 KMWORKS 자체 제작 Reference Demo이며 고객 납품 실적이나 실제 고객 데이터 기반 성능을 의미하지 않습니다. 자동화할 상담과 사람이 계속 맡아야 할 업무를 AI 도입 문의에 남겨주시면 구축 범위를 함께 검토하겠습니다.