[人터뷰] 일하는 AI의 탄생 (2) — 보이지 않는 판단까지 믿게 만드는 AI 상담 설계

고객이 채팅창에 메시지를 보내는 순간, 그 뒤에서는 수많은 판단이 동시에 일어납니다. 어떤 지식을 꺼낼지, 어떤 말투로 답할지, 지금이 상담사가 개입해야 하는 순간인지. AI는 이 모든 결정을 순식간에 처리하죠.

하지만 빠른 판단만으로는 충분하지 않습니다. 사용자가 그 답을 신뢰하고, 기업이 그 판단을 믿고 운영을 맡길 수 있어야 합니다. 그때 비로소 AI는 대답하는 존재를 넘어 ‘일하는 AI’가 됩니다.

그래서 프로젝트 아이비팀은 질문했습니다.
“AI를 신뢰하게 만드는 경험은 어떻게 설계되는가”

이번 편에서는 UX, 서비스기획, 운영 — 각 영역에서 이 질문을 어떻게 풀어냈는지, 그 고민의 과정을 직접 들어봤습니다.

AI의 속마음 보여주기

불안을 확신으로 바꾸는 AI 설계

Q. AI에 대한 불안감은 누구나 갖고 있는 감정이잖아요. 고객들이 새로운 AI 기능을 쉽게 인지하고 받아들일 수 있도록 UX 설계에서 가장 신경 쓴 부분이 무엇이었나요?

제나(UX 디자인 리드) : AI 서비스들은 대체로 완벽해 보이는 결과를 강조합니다. 하지만 사용자가 가장 불안해하는 지점은 AI가 도대체 무슨 근거로 이 답을 냈는지, 이 답변을 믿어도 되는지 확신할 수 없다는 거예요.

그래서 저희는 에이전트가 정보를 확인하고, 맥락을 해석하고, 답변을 구성하는 일련의 과정들을 최소한으로 요약해 시각적으로 표현했습니다. AI가 사용자의 질문에 답하기 위해 현재 어떤 사고 과정(Quality Thought)을 거치고 있는지 — 해석, 지식 탐색, 최적의 결과 생성 — 이 과정을 다양한 시각적 장치로 풀어낸 거예요.

에이전트의 답변을 기다리는 시간도 서비스의 일부니까요. 그 감각이 있어야 기다림이 답답함이 아니라 기대감으로 바뀌거든요.

Q. AI를 입은 해피톡의 새로운 기능을 고객사에 소개할 때도 그 불안을 최소화하는 게 중요했을 것 같아요. 기획자로서 가장 드러내고 싶었던 장점이 있었나요?

다나(해피톡 서비스 기획) : AI 에이전트를 소개하면서 가장 강조하고 싶었던 건 "신뢰할 수 있는 AI"였습니다. 저희가 내세운 카피도 '업무를 이해하는 새로운 AI 상담의 시작', ‘신뢰할 수 있는 업무 파트너’ 등이었고요. AI에게 상담을 100% 맡기는 것은 아직 많은 기업에게 부담일 수 있거든요. 특히 할루시네이션(부정확한 응답)에 대한 우려도 존재하고요.

해피톡 AI 에이전트는 단순 생성형 AI가 아니라, 검증된 지식베이스, 연결된 도구(API, 주문 조회 등), 기존 챗봇 시나리오 구조 등의 요소들과 결합해 작동합니다.

기업이 직접 설계한 시나리오 안에서, 정말 필요한 순간에만 AI가 개입하도록 배치할 수 있기 때문에 통제 가능한 AI, 설계 가능한 AI라는 점이 강점이에요. AI를 무작정 쓰는 것이 아니라, ‘원하는 범위 안에서 전략적으로 활용하는 AI’ — 이 점을 분명히 전달하고 싶었습니다.

Q. 통제 가능한 AI라면, 답변이 마음에 들지 않을 때 사용자가 자연스럽게 피드백을 남기도록 유도하는 장치도 필요했을 것 같아요.

제나 : 백지 상태에서 테스트하면 결과도 좋지 않을 가능성이 크고 사용자의 피로도도 높아집니다. 그래서 사용자가 오래 고민하지 않도록, 자주 물어볼 법한 교정 요청이나 피드백 내용들을 미리 샘플 버튼으로 꺼내 배치했어요.

사용자가 버튼을 누르면 즉각적으로 피드백을 주고, 그게 결과물에 빠르게 반영되는 것을 체감하게 만드는 점이 핵심입니다.

Q. 이런 경험 설계가 실제로 고객사에게 전달될 때, 현장 반응은 어땠나요? 런칭 초기에 가장 많이 받은 질문이 궁금합니다.

디올(서비스 운영 리드) : 가장 많이 받았던 질문은 "AI 에이전트를 도입하면 바로 자동으로 운영되는 것 아닌가요?"였어요. 많은 고객사들이 AI와 지식베이스를 '완성형 자동화 솔루션'으로 인식하는 경우가 있었거든요. 실제로는 상담 데이터 정리, 시나리오 설계, 지식 구조화 등 초기 세팅 과정이 반드시 필요해요.

특히 지식베이스 세팅과 관련해서는 "어디서부터 정리해야 할지 모르겠다"는 문의도 자주 받는데요. 기존 상담 자료가 정형화되어 있지 않은 경우, 어떤 기준으로 구조화해야 할지 고민하는 고객사들이 많더라고요.

이를 통해 오히려 중요한 인사이트를 얻었습니다. 단순히 기능을 소개하는 것이 아니라, AI가 작동하기까지의 준비 단계와 구축 과정에 대한 안내가 훨씬 중요하다는 점이었어요.

이후에는 단계별 도입 가이드를 강화해 고객사의 기대치와 실제 운영 구조를 명확히 연결하는 데 집중하고 있습니다.

효율 개선을 넘어 구조의 혁신으로

파편화된 상담 노하우, 데이터 자산으로 만든다면

Q. AI 도입이 단순한 툴 교체가 아니라 상담 현장 전체의 변화이기도 한 것 같아요. 앞으로 현장이 어떻게 달라질까요?

다나 : 저희가 그리는 상담 현장은 명확해요. 반복 문의는 AI가 처리하고, 사람은 사람다운 상담에 집중하는 환경이죠.

배송 조회, 단순 환불, 정책 안내 같은 반복 업무는 AI 에이전트가 담당하고, 복잡한 판단이나 공감이 필요한 순간에는 상담사가 개입하는 거예요. 여기에 상담사가 직접 응대할 때는 AI 어시스턴트가 요약, 문장 다듬기, 추천 답변 등을 지원하면서 상담 품질을 끌어올립니다.

결과적으로 상담 속도는 빨라지고, 응대 품질은 균일해지고, 신규 상담사 온보딩도 쉬워지며 고객 만족도는 자연스럽게 올라갑니다.

해피톡 AI 에이전트와 AI 어시스턴트의 결합은 단순한 효율 개선을 넘어 상담 구조 자체를 개선하는 변화라고 생각해요.

Q. 현장에서 직접 느끼셨을 것 같아요. 해피톡 AI 에이전트가 상담 조직에 가져다주는 결정적인 차이, 뭐라고 보세요?

디올 : 상담 조직은 타 직군 대비 이직률이 높아 채용과 교육에 지속적인 부담이 있어요. 문제는 단순한 인력 공백이 아니라, 축적된 상담 노하우가 함께 사라진다는 점이거든요.

해피톡 AI 에이전트와 지식베이스 서비스의 '결정적 한 방'은 바로 이 노하우의 자산화입니다.

상담사의 경험과 대응 패턴을 AI와 지식베이스에 축적함으로써, 인력 교체가 발생해도 서비스 품질은 유지됩니다. 단순 자동화를 넘어, 상담 품질을 시스템으로 고정시키는 구조적 전환이라고 볼 수 있어요.

Q. 노하우가 쌓이면 상담 조직의 역할 자체도 달라질 것 같아요. 어떤 변화를 기대할 수 있을까요?

디올 : 기존 상담 현장은 고객 문의 대응에 집중된 구조였어요. 반복적인 응대와 단순 문의 처리가 상담사의 대부분 시간을 차지했고, 고객의 목소리를 가장 먼저 듣는 조직임에도 전략적 역할은 제한적이었죠.

해피톡 AI 도입 이후의 현장은 다를 거예요. 반복·정형 문의는 AI가 처리하고, 상담사는 고도화된 이슈 대응과 고객 인사이트 분석에 집중하게 됩니다. VOC(고객의 소리)를 가장 먼저 접하는 상담 조직이 영업, 기획, 마케팅과 연결되는 '인사이트 허브'로 전환되는 거예요.

상담 데이터는 기업이 보유한 가장 생생한 자산이거든요. 이탈 가능성이 높은 고객에게는 맞춤 케어를, 구매 가능성이 높은 고객에게는 최적의 제안을 자동 실행하는 구조로 확장될 수 있습니다.

상담사는 더 이상 단순 대응 인력이 아니라, 고객 전략을 만드는 주체로 역할이 확장되는 거죠.

도구 넘어 파트너로, 해피톡의 다음 챕터

믿고 맡길 수 있는 친절한 AI, 살아 움직이는 지식 환경

Q. 상담 현장에 해피톡 AI 에이전트가 천천히 자리잡고 있어요. 다음 단계는 어떻게 그리고 계세요?

제나 : 앞으로 가장 고도화하고 싶은 부분은 진입장벽을 완전히 허무는 거예요. 현재 챗봇이나 AI 에이전트는 여전히 다소 전문적인 영역으로 인식되는 경향이 있거든요.

모든 사용자가 직관적으로 이해하고 쉽게 자신의 목적에 맞게 구성할 수 있도록 제품의 UX를 전면적으로 개선하는 것이 다음 목표입니다. 누구나 다룰 수 있는 대중적이고 친절한 AI 파트너를 만드는 과정이라고 봐주시면 좋겠어요.

Q. 서비스 전체 방향에서는요? 해피톡 AI가 가고 있는 다음 도착지가 궁금합니다.

다나 : 궁극적인 목표는 상담 환경의 '진짜 에이전트화'예요. 상담사가 채팅 중에 "이 고객 이전 상담 요약해줘", "우리 환불 정책 최신 기준 뭐야?", "이 상황이면 어떤 프로세스 적용해야 해?"라고 물으면 시스템이 정책이나 이력, 지식, 고객 데이터를 종합해 바로 답을 주는 환경이요.

지식베이스 역시 개선을 기대하고 있어요. 대화 분석을 통해 새로운 정책 등장 시 업데이트를 제안하고, 오래 사용되지 않는 지식은 정리를 제안하고, 실제 상담 데이터 기반으로 지식 품질을 개선하는 — 정적인 지식베이스가 아니라 살아 움직이는 지식 환경을 만드는 것이 다음 목표입니다.

+ 믿고 맡길 수 있는 AI 파트너 해피톡

다나 : 저희는 단순한 솔루션이 아니라, "믿고 맡길 수 있는 운영 파트너"로 기억되고 싶습니다. AI 기능은 이제 어디에나 있어요. 하지만 "써도 괜찮겠다"는 신뢰를 주는 서비스는 많지 않습니다.

해피톡을 사용했을 때 "여기는 다르다. 퀄리티도 다르고, 편의성도 다르고, 안정감이 있다." 이런 감정을 느끼셨으면 좋겠어요.

AI를 안전하고 전략적으로 활용하게 해주는 전문 파트너가 되길 바랍니다.