기업 AI 도입은 어디서부터 시작해야 하는가

“AI를 한번 검토해 보라”는 주문을 받은 담당자가 먼저 하는 일은 대개 모델과 도구를 비교하는 것입니다. 그런데 프로젝트가 실제로 멈추는 지점은 그보다 훨씬 앞에 있습니다. AI가 참조할 데이터가 종이와 흩어진 엑셀로만 남아 있거나, 무엇을 풀 것인지가 후보 나열에서 좁혀지지 않았거나, 민감정보 처리 기준이 없어 법무·보안 검토에서 진행이 멈추는 경우입니다.

이 글은 도구 목록이 아니라 순서를 다룹니다. 무엇을 먼저 확인하고 무엇은 뒤로 미뤄도 되는지를 네 단계로 정리했습니다.

AI 도입이 멈추는 곳은 대부분 기술이 아닙니다

AI 도입이 좌초하는 원인은 모델 성능보다 준비 상태에 있는 경우가 많습니다. 시연 단계에서는 정리된 샘플 데이터와 담당자가 고른 질문만 다루기 때문에 문제가 드러나지 않습니다. 운영으로 넘어가는 순간 실제 데이터의 누락과 표기 불일치, 예외 상황, “이 답이 맞는지 누가 확인하는가”가 한꺼번에 등장합니다.

여기서 조직에 남는 결론이 위험합니다. 준비 순서를 건너뛴 것인데 “AI는 우리 회사에 맞지 않는다”로 정리되면 다음 시도까지 오래 미뤄집니다.

시작 전에 확인할 네 가지 — 데이터 · 문제 · 보안 · 운영

착수 전 점검은 네 가지로 좁혀지고, 이 넷에는 순서가 있습니다. 앞이 비어 있으면 뒤를 잘 준비해도 결과가 나오지 않습니다.

기술 선택은 이 넷이 정리된 뒤에 해도 늦지 않습니다. 반대로 하면 이미 고른 기술에 맞춰 문제를 만들어 내게 됩니다.

1단계: 업무 데이터가 근거로 쓸 수 있는 상태인가

AI가 사내 업무에 답하려면 참조할 근거가 디지털 형태로 존재해야 합니다. “데이터가 없다”는 말은 대개 데이터 자체가 없다는 뜻이 아니라, 기억과 종이 문서, 개인 PC 파일에 흩어져 기계가 읽을 수 없다는 뜻입니다. 자사 상태는 네 단계로 대입해 보실 수 있습니다.

1. 종이와 구두로 관리 — 담당자에게 물어야 알 수 있는 상태입니다.
2. 엑셀·시트에 산재 — 자료는 있지만 파일마다 항목명과 표기가 달라 합치는 데 사람 손이 들어갑니다. 가장 흔합니다.
3. 시스템에 정형 데이터로 축적 — ERP·그룹웨어 등에 쌓여 있어 조회 경로가 있습니다.
4. 정제·품질관리까지 적용 — 중복과 누락을 정리하고 갱신 주체가 정해져 있습니다.

1~2단계라면 그 정리 작업 자체가 첫 과제입니다. AI 프로젝트로 시작한 일의 상당 부분이 실제로는 데이터 정리·연동 과제인 이유가 여기에 있습니다.

2단계: AI로 풀 문제를 하나로 좁힙니다

첫 과제는 하나로 좁히는 것이 좋습니다. 후보가 여러 개 나열된 상태는 아직 준비되지 않은 것과 같습니다. 무엇을 성공으로 볼지 정할 수 없기 때문입니다. 좁힐 때는 네 가지 기준을 보시면 판단이 쉬워집니다.

• 빈도 — 드물게 발생하는 업무는 개선 효과가 눈에 띄기까지 오래 걸립니다.
• 판단 기준의 문서화 여부 — 담당자의 감각으로만 처리되는 업무는 정답을 정의할 수 없어 검증이 안 됩니다.
• 오답 허용도 — 틀렸을 때 사람이 걸러낼 여지가 있는 업무가 안전합니다. 되돌리기 어려운 업무는 뒤로 미룹니다.
• 측정 가능성 — 처리 건수나 소요 시간처럼 도입 전후를 비교할 숫자가 이미 있는 업무가 좋습니다.

핵심은 마지막 항목입니다. 첫 과제는 효과가 가장 큰 업무가 아니라 효과를 측정할 수 있는 업무로 고릅니다. 효과가 큰 업무는 복잡하고 이해관계자가 많아 판정이 어렵고, 판정이 안 되면 다음 투자를 결정할 수 없습니다.

3단계: 민감정보 처리와 출력 검증 정책을 먼저 정합니다

보안과 접근 권한 기준은 개발이 끝난 뒤 붙이는 항목이 아니라, 시작할 때 정해 두어야 하는 조건입니다. 나중에 붙이려 하면 이미 만들어진 데이터 흐름을 되돌려야 해서 비용이 커집니다. 착수 전에 정해 두시면 좋은 항목입니다.

• 어떤 데이터가 외부로 나가는가 — 개인정보·영업 기밀이 포함되는지, 포함된다면 어떤 근거로 다루는지 정리합니다. 국내 처리 기준은 개인정보보호위원회 공개 자료로 확인하실 수 있습니다.
• 누가 무엇을 볼 수 있는가 — 부서·직급에 따라 접근 범위가 다른 자료라면 AI가 그 구분을 무시하지 않도록 권한 설계가 필요합니다.
• 출력을 어떻게 검증하는가 — 답변에 근거 문서를 함께 표시할지, 사람이 승인하는 지점을 어디에 둘지 정합니다.
• 기록을 얼마나 남기는가 — 질문·답변 이력의 보관 기간과 접근 권한을 정해 둡니다.

이 항목들은 기술 난이도가 아니라 결정의 문제입니다. 결정 주체가 없으면 개발이 끝난 뒤에도 미뤄집니다.

4단계: 도입 후 운영과 비용을 누가 볼지 정합니다

AI 기능은 도입 시점이 아니라 운영 기간에 비용과 품질이 결정됩니다. 사용량 과금이 일반적이라 사용이 늘면 비용도 늘고, 참조 문서가 갱신되지 않으면 답변 품질이 낮아집니다.

착수 전에 정해 두실 것은 세 가지입니다.

• 비용 담당 — 사용량과 비용을 주기적으로 확인하는 사람을 정합니다.
• 데이터 갱신 주체와 주기 — 참조 데이터를 누가 언제 갱신할지 정합니다.
• 오답 신고 경로 — 답변이 틀렸을 때 신고하고 반영하는 통로를 만들어 둡니다.

이 셋이 비어 있으면 도입한 기능은 몇 달 뒤 조용히 쓰이지 않게 됩니다. 기능이 나빠서가 아니라 돌보는 사람이 없어서입니다.

시험 도입의 성공 기준은 시작 전에 적습니다

시험 도입(PoC)이 다음 단계로 넘어가지 못하는 가장 흔한 이유는 성공 기준이 없었기 때문입니다. “잘 되는 것 같다”로는 운영 전환을 결정할 수 없고, 결정이 미뤄지는 동안 관심도 식습니다. 시작 전에 남겨 두시면 좋은 것은 네 가지입니다.

1. 대상 범위 — 어떤 업무의 어떤 유형까지를 시험 대상으로 볼지 명시합니다.
2. 판정 지표 — 정답률, 처리 시간, 사람이 개입한 비율처럼 비교 가능한 숫자로 적습니다.
3. 판정 시점과 주체 — 언제, 누가 결과를 판정할지 정합니다.
4. 중단 조건 — 어떤 결과가 나오면 확대하지 않을지도 적어 둡니다.

네 번째가 빠지는 경우가 많습니다. 중단 조건이 없으면 시험이 끝나지 않고, 끝나지 않은 시험은 운영으로 넘어가지 못합니다.

이 순서가 특히 필요한 기업

다음에 해당하신다면 데이터·문제·보안·운영 순서로 점검해 보시는 것이 도움이 됩니다.

• 같은 유형의 업무가 하루에도 여러 건 반복되고, 그 처리 기준이 문서나 규정으로 남아 있는 경우
• 처리량은 많은데 판단이 필요해 일반 자동화 규칙으로는 다 담기지 않는 경우
• 사내 문서·이력·거래 자료가 시스템이나 파일로 쌓여 있고 조회 경로가 있는 경우
• 특정 담당자에게 문의가 몰려 그 사람이 없으면 업무가 지연되는 경우
• 이미 시험 도입을 해 봤지만 운영으로 넘어가지 못한 경우

마지막 경우라면 기술을 바꾸기 전에 어느 단계에서 멈췄는지부터 확인해 보십시오.

반대로, 지금은 AI 도입이 필요하지 않은 경우

모든 업무가 AI 도입 대상은 아닙니다. 다음에 해당한다면 지금은 다른 일이 먼저입니다.

• 규칙이 고정된 업무 — 예외가 거의 없다면 일반 자동화나 시스템 기능이 더 저렴하고 결과도 일정합니다. AI는 판단의 여지가 있는 업무에서 값을 합니다.
• 처리량이 적은 업무 — 하루 몇 건 수준이면 도입·운영에 드는 손이 절약되는 시간보다 큽니다.
• 정답을 확정할 수 없는 업무 — 사내에서도 사람마다 답이 갈리면 결과를 평가할 기준이 없습니다. 기준 정리가 먼저입니다.
• 되돌릴 수 없는 결정을 다루는 업무 — 확인 없이 실행되는 대외 발송이나 최종 결재는 첫 과제로 맞지 않습니다.
• 참조할 자료가 아직 없는 경우 — 필요한 것은 AI가 아니라 업무 시스템과 데이터 정리입니다. 어떤 시스템이 먼저인지는 1분 업무 시스템 진단으로 좁혀 보실 수 있습니다.

자주 발생하는 실수

AI 도입에서 진행이 막히는 지점은 몇 가지로 반복됩니다.

• 도구부터 정하는 것 — 쓸 서비스를 먼저 정하면 그 도구가 잘하는 일에 맞춰 문제를 찾게 됩니다.
• 대상 업무를 넓게 잡는 것 — “사내 업무 전반” 같은 범위는 완료 판정이 안 됩니다.
• 데이터 정리를 프로젝트 밖 일로 두는 것 — 일정과 담당에서 빼 두면 중반에 지연으로 돌아옵니다.
• 현업 담당자를 검증 단계에서야 부르는 것 — 정답을 아는 사람은 현업입니다. 대상 선정부터 함께 봅니다.
• 사람 없이 완성도에 도달하려는 것 — 확인 지점을 두고 시작해, 정확도가 확인된 범위부터 줄여 갑니다.

시작 전 실무 체크리스트

착수 준비가 됐는지는 다음 항목으로 확인하실 수 있습니다. 다음 항목을 문서로 답할 수 있으면 준비된 편입니다.

• 첫 과제로 삼을 업무를 한 문장으로 적을 수 있는가
• 그 업무의 판단 기준이 문서나 규정으로 존재하는가
• AI가 참조할 자료가 어디에 어떤 형태로 있는지 특정할 수 있는가
• 그 자료에 개인·민감정보가 포함되는가, 포함된다면 처리 방침이 있는가
• 답변이 틀렸을 때 누가 걸러내는지 정해져 있는가
• 도입 전후를 비교할 숫자를 지금 확보할 수 있는가
• 판정 시점·중단 조건과 운영 담당이 정해져 있는가

우리 회사는 지금 어느 단계인가

데이터·문제·보안·운영 네 단계를 축으로 자사 상태를 점수로 확인해 보실 수 있습니다. 결과는 도입 성공을 보장하는 것이 아니라 판단의 출발점으로 쓰는 자료입니다.

AI 준비도 진단은 여섯 가지 항목을 점검합니다.

• 데이터 준비도
• 활용 사례 명확성
• 기술·인프라
• 보안·거버넌스(정보 취급과 승인 기준을 정해 둔 정도)
• 조직·역량
• 운영 준비도

점검 결과로 현재 단계와 우선 과제를 보여 드리며, 연락처 없이 결과를 바로 확인하실 수 있습니다. 점수가 낮게 나온 축이 있다면 그 축이 곧 첫 과제입니다.

빌드업웍스는 어떻게 지원하는가

빌드업웍스가 담당하는 범위는 데이터 연동과 사내 시스템 구축, 클라우드 환경 설계와 운영입니다. 흩어진 업무 데이터를 AI가 근거로 쓸 수 있는 형태로 연결하고, 사내 문서를 근거로 답하는 검색 환경이나 업무 시스템과 이어진 기능을 구축합니다. 구현 범위는 AI · 앱 개발 서비스에 정리되어 있습니다. 등급별 시작가와 예상 기간은 구축 요금 안내에 공개돼 있습니다.

반면 AI/ML 모델 개발·학습, 데이터 사이언스 컨설팅, 커스텀 알고리즘 설계는 직접 수행하지 않고 파트너를 통해 연결해 드립니다. 어느 단계부터 손대야 할지 판단이 서지 않으신다면 현재 상황을 두고 상담해 주셔도 됩니다.

참고 자료

• 개인정보보호위원회