AI 도입의 이면 (문제정의, 현장전문가, 재교육)

고객 문의 자동화 챗봇 프로젝트에 참여했다가 된통 당한 적이 있습니다. 경영진은 "AI 도입하면 비용 절감된다"는 말만 믿고 달려들었고, 저는 그 안에서 무언가 잘못되고 있다는 걸 느끼면서도 말을 꺼내지 못했습니다. 그때의 실패가 지금도 머릿속에 선명합니다. AI를 둘러싼 과대광고와 현실 사이의 간극이 얼마나 큰지, 직접 겪어보니 비로소 보이는 것들이 있었습니다.

 

AI도 결국 사람을 위한 도구다

문제정의 없이 시작한 챗봇, 결국 역효과

제가 몸담았던 팀은 고객 상담 자동화를 목표로 챗봇을 도입했습니다. 그런데 지금 돌이켜보면, 우리가 해결하려던 문제가 정확히 무엇이었는지 아무도 명확하게 정의하지 않았습니다. "AI 쓰면 좋아진다더라"는 막연한 기대만 있었고, 어떤 유형의 문의를 자동화할지, 어느 단계에서 사람이 개입해야 하는지 같은 기본적인 설계가 빠진 채 프로젝트가 시작됐습니다.

결과는 처참했습니다. 챗봇은 고객의 질문을 제대로 이해하지 못했고, 고객들은 봇과 싸우다 지쳐 "상담원 연결"을 누르기 시작했습니다. 오히려 상담원에게 쏟아지는 문의량이 늘어났습니다. 비용 절감은커녕 현장 직원들의 피로도만 올라갔습니다.

나중에 팀을 다시 꾸려 챗봇의 역할을 '단순 FAQ 응대'로 좁혔더니 그제서야 만족도가 올라갔습니다. 처음부터 문제를 좁게 정의했어야 했는데, 그러지 못했던 겁니다. 사용 사례(Use Case), 즉 AI가 실제로 해결해야 할 구체적인 업무 범위를 먼저 정하는 것이 출발점이라는 걸 그때 뼈저리게 배웠습니다. 여기서 사용 사례란 AI 기술을 어떤 상황에, 어떤 목적으로 적용할지 구체적으로 정의한 시나리오를 의미합니다.

이 경험이 있어서인지, "AI 도입이 곧 혁신"이라는 식의 논리에 저는 꽤 회의적입니다. AI는 도구입니다. 망치로 나사를 조일 수 없듯, AI로 정의되지 않은 문제를 해결할 수는 없습니다.

요약: AI 도입 전 해결할 문제를 좁고 명확하게 정의해야 하며, 사용 사례 설계 없이 도입하면 오히려 역효과가 난다.

현장전문가가 기술을 이겨야 작동한다

클리블랜드 클리닉이라는 대형 병원 이야기가 있습니다. 이 병원의 AI 파일럿 프로젝트를 총괄하는 책임자는 IT 담당자가 아니라 의사와 임상의였습니다. 기술이 의료를 위해 일하도록 구조를 설계한 것입니다. 처음 들었을 때 당연한 말 같았는데, 제가 겪어보니 이게 얼마나 드문 일인지 실감하게 됩니다.

제가 참여했던 챗봇 프로젝트에서는 반대였습니다. 소프트웨어 벤더가 솔루션을 들고 왔고, 현장 상담원들은 개발 과정에서 거의 배제되었습니다. 그러다 보니 챗봇이 실제 고객 문의 패턴을 반영하지 못했습니다. 현장 상담원들이 하루에도 수십 번씩 받는 질문 유형이 있는데, 그게 시스템에 반영되지 않았습니다.

클리블랜드 클리닉은 패혈증(Sepsis) 조기 진단 AI를 도입할 때도 이 원칙을 지켰습니다. 패혈증이란 감염에 대한 신체의 과도한 면역 반응으로, 초기에 발견하면 항생제로 치료 가능하지만 늦으면 사망에 이를 수 있는 질환입니다. 미국에서만 연간 약 35만 명이 이로 인해 사망합니다(출처: CDC).

병원은 Bayesian Health라는 예측 소프트웨어를 도입했는데, 처음 버전은 의사들이 외면했습니다. 시스템이 초록·노랑·빨강 신호만 띄울 뿐, 왜 그런 판단을 내렸는지 설명이 없었기 때문입니다. 이를 설명 가능성(Explainability), 즉 AI가 어떤 근거로 결론을 도출했는지 사용자가 이해할 수 있는 능력이라고 합니다. 임상의들의 피드백을 받아 설명 가능성을 보완하자, 해당 병원에서 1년 만에 패혈증 사망률이 41% 감소했습니다. 현장 전문가의 목소리가 기술을 완성한 사례입니다.

• AI 파일럿 책임자를 현장 전문가(임상의, 담당 상담원 등)로 지정할 것
• 시스템이 왜 그런 결론을 냈는지 설명 가능성을 반드시 확보할 것
• 현장의 피드백을 반영한 지속적 조정(Fine-tuning) 과정을 계획에 포함할 것

요약: AI가 현장에서 작동하려면 기술 전문가가 아닌 현장 전문가가 주도권을 쥐고, 설명 가능성을 확보해야 한다.

AI 실험실의 과대광고를 걷어낸 자리

솔직히 이건 예상 밖이었습니다. AI 실험실(Lab)을 운영하는 곳들이 스스로를 연구 기관처럼 포장하지만, 실상은 막대한 부채를 안고 투자 회수를 기다리는 영리 기업이라는 지적이 있습니다. 그 말이 처음엔 좀 과격하게 들렸는데, 실제 기업 현장에서 AI 솔루션을 도입해본 입장에서는 고개가 끄덕여지는 부분이 있습니다.

대형 AI 업체의 영업 자료를 보면 공통점이 있습니다. "도입만 하면 생산성이 오른다", "소프트웨어가 알아서 구현된다"는 식의 메시지입니다. 그런데 제가 직접 써봤는데, 소프트웨어를 사는 것과 소프트웨어가 실제로 작동하게 만드는 것은 완전히 다른 일입니다. 우리 팀만 해도 챗봇 라이선스를 구입한 뒤, 실제로 현장에 붙이는 데 몇 배의 시간과 인력이 더 들었습니다.

거대언어모델(LLM, Large Language Model), 즉 방대한 텍스트 데이터로 학습해 언어를 이해하고 생성하는 AI 모델은 분명 강력한 도구입니다. 그러나 LLM이 강한 영역은 언어 구조와 패턴 인식이지, 조직의 비즈니스 맥락을 자동으로 이해하는 건 아닙니다. AI 업체가 귀사의 고객을 자신들의 고객보다 더 잘 이해할 수는 없습니다.

HBR(Harvard Business Review) 팟캐스트에서 The Atlantic의 저널리스트 Josh Tyrangiel이 지적했듯, AI 기술 자체는 눈부시지만 그것이 스스로 전개되지는 않습니다. 과대광고를 걷어낸 자리에 남는 건 결국 "이 기술로 우리 회사의 어떤 문제를 해결할 것인가"라는 질문입니다. 그 질문을 먼저 던지지 않으면, 화려한 솔루션을 구입하고도 창고에 쌓아두게 됩니다.

요약: AI 업체의 과대광고에 휘둘리지 않으려면, LLM의 한계를 이해하고 "우리 문제에 맞는 도구인가"를 먼저 따져야 한다.

재교육보다 통합, 중소기업은 더욱

AI 도입을 결정했다면 다음 질문은 자연스럽게 사람으로 넘어옵니다. 직원들은 어떻게 해야 하는가. 재교육(Reskilling)이라는 단어가 자주 나오는데, 여기서 재교육이란 기존 직무와 다른 기술을 습득해 새로운 역할로 전환하는 것을 의미합니다. 그런데 제 경험상 이건 좀 다릅니다. 대규모 재교육 프로그램이 아니라 현재 일에 AI를 통합하는 방식이 훨씬 현실적입니다.

챗봇 프로젝트 실패 후, 저희 팀이 다시 시도할 때는 다르게 접근했습니다. 상담원들과 함께 앉아 "어떤 문의가 가장 반복되는지", "어떤 답변이 가장 자주 필요한지"를 먼저 물었습니다. 그 목록을 바탕으로 챗봇의 범위를 다시 설계했습니다. 상담원들은 자신의 경험이 반영되었다는 걸 알았기 때문에 시스템을 신뢰하기 시작했고, 고객 만족도도 함께 올라갔습니다.

미국에서는 연방 정부 차원의 직업 재교육 프로그램이 2022년 사실상 폐지되었다는 지적도 있습니다. 정책 공백이 기업에 부담을 전가하는 셈인데, 대기업은 그나마 자체 교육 인프라가 있지만 중소기업은 다릅니다. 그렇다면 중소기업의 현실적인 방법은 전사적 AI 전환 선언이 아니라, 특정 업무 하나에 AI를 붙여보고 현장 반응을 보는 소규모 파일럿(Pilot)입니다. 파일럿이란 전면 도입 전에 소규모로 시험 운영해 효과를 검증하는 과정을 말합니다.

클리블랜드 클리닉도 전체 시스템을 한 번에 바꾸지 않았습니다. 병동별로 파일럿을 운영하고, 임상의 피드백을 받아 조정했습니다. 그 과정이 1년 넘게 걸렸습니다. 자원이 부족한 조직일수록 이 방식이 더 중요합니다. 한 번에 다 바꾸려다 한 번에 다 실패하는 것보다, 작게 시작해서 배우는 쪽이 낫습니다.

요약: 대규모 재교육보다 현재 업무에 AI를 통합하는 방식이 현실적이며, 중소기업일수록 소규모 파일럿으로 시작해야 한다.

자주 묻는 질문

Q. AI 챗봇 도입했는데 고객 불만이 더 늘었어요. 어디서부터 다시 봐야 하나요?

A. 제가 겪어봤는데, 대부분 챗봇이 처리할 수 있는 범위를 너무 넓게 잡은 게 원인입니다. 챗봇이 응대할 문의 유형을 세 가지 이내로 좁히고, 그 외에는 바로 상담원으로 연결되도록 구조를 단순화하는 것부터 시작하세요. 사용 사례를 좁히는 게 핵심입니다.

Q. AI 도입할 때 IT 팀이 아닌 현장 직원을 참여시키는 게 정말 효과 있나요?

A. 결과부터 말씀드리면, 효과가 있습니다. 클리블랜드 클리닉의 패혈증 진단 AI 사례처럼, 임상의의 피드백이 반영된 후 사망률이 41% 감소했습니다. 기술은 현장 전문가의 언어로 보정되어야 작동합니다. 현장 직원이 설계 초기 단계부터 참여하면, 시스템이 실제 업무 흐름에 맞게 맞춰질 가능성이 훨씬 높아집니다.

Q. 중소기업은 AI 도입 예산이 적은데, 어디서 시작하는 게 현실적인가요?

A. 전면 도입이 아니라 파일럿부터 시작하는 게 맞습니다. 가장 반복적이고 시간이 많이 드는 업무 하나를 골라, 거기에만 AI를 적용해 보세요. 예산과 인력을 한 곳에 집중할 수 있고, 실패하더라도 피해가 크지 않습니다. 그 경험을 바탕으로 다음 단계를 결정하는 것이 현실적입니다.

Q. AI 업체 영업 담당자가 "도입하면 바로 효과 난다"고 하던데, 믿어도 되나요?

A. 저도 같은 말을 들었고, 그대로 믿었다가 고생했습니다. AI 소프트웨어 라이선스를 구입하는 것과 그것을 조직에 맞게 실제로 작동시키는 것은 완전히 다른 일입니다. 도입 후 조정과 운영에 드는 시간과 비용을 처음부터 계획에 넣어야 하고, 영업 자료에 적힌 성공 수치는 해당 조직의 맥락에서 어떻게 달성됐는지 반드시 확인해야 합니다.

결론

AI를 둘러싼 소음이 너무 많습니다. 업체는 마법처럼 팔고, 언론은 혁명처럼 쓰고, 경쟁사는 이미 쓰고 있다며 불안을 부추깁니다. 그 속에서 저는 챗봇 하나 제대로 붙이지 못하고 한 바퀴를 돌았습니다. 그 경험 덕분에 지금은 AI를 볼 때 먼저 묻게 됩니다. "이게 우리 어떤 문제를 해결해 주는가?"

문제를 먼저 정의하고, 현장 전문가를 주도권을 가진 자리에 앉히고, 작게 시작해서 배우는 것. 화려하지 않지만 이것이 실제로 작동하는 방법입니다. AI가 스스로 알아서 해주는 기술이 아니라, 사람이 잘 써야 비로소 가치가 생기는 도구라는 걸 잊지 않으면, 적어도 큰 실패는 피할 수 있습니다.

 

참고: 하버드비즈니스리뷰 - 리더들은 문제를 어떻게 해결하는가