AX 상담에서 가장 먼저 듣는 말은 대개 비슷합니다. "AI를 붙일 곳은 많은데, 무엇부터 해야 할지 모르겠다." 그래서 많은 회사가 전사 AI 로드맵부터 그립니다. 부서마다 과제를 모으고, 우선순위 표를 만들고, 보고서를 올립니다. 그리고 몇 달 뒤 그 보고서는 서랍에 들어가 있습니다.
저희는 순서를 반대로 권합니다. 로드맵보다 먼저, 팀 하나가 매주 반복하는 업무 하나를 골라 실제로 AI에게 맡겨 보는 것입니다. 이 글은 그 "첫 업무"를 고르는 기준과, 고른 뒤 4~8주 동안 무엇을 재야 하는지를 정리한 것입니다.
핵심 요약
- 국내 10인 이상 기업의 AI 이용률은 32.9%지만, AI에 돈을 쓴 기업은 8.3%입니다. 도입은 넓고 얕습니다.
- AI 도입이 멈추는 지점은 모델 성능보다 '어떤 업무에, 어떤 방식으로 붙이느냐'인 경우가 많습니다.
- 첫 업무는 빈도·완료 기준·승인 지점·데이터 접근·되돌리기 쉬움의 다섯 기준으로 고릅니다. 가장 가치 큰 업무가 아니라 가장 배우기 좋은 업무가 먼저입니다.
- 파일럿을 시작하기 전에 시간·품질·채택 세 가지 지표와 기준선을 합의하고, 결과로 확산을 결정합니다.
AX란 무엇이고, DX와 무엇이 다른가
AX(AI Transformation, AI 전환)는 AI가 업무의 일부를 실제로 맡도록 일하는 방식을 바꾸는 일입니다. DX가 종이와 수작업을 시스템으로 옮기는 일이었다면, AX는 그 시스템 위에서 사람이 하던 조사·정리·초안·입력을 AI가 맡고 사람은 확인과 결정을 맡도록 역할을 다시 나누는 일입니다.
그래서 AX의 단위는 "AI 도구"가 아니라 "업무"입니다. 직원마다 챗봇 계정을 나눠 주는 것은 도구의 보급이고, 매주 월요일 아침 주간 보고서가 알아서 올라오고 팀장은 읽기만 하게 되는 것이 업무 방식의 변화입니다.
숫자로 본 국내 AI 도입: 넓지만 얕다
과학기술정보통신부와 한국지능정보사회진흥원(NIA)의 2025 기업정보화통계에 따르면, 10인 이상 민간기업 가운데 AI 기술·서비스를 이용하는 곳은 32.9%입니다(2024년 기준). 그런데 AI에 비용을 지출한 기업은 8.3%에 그치고, 이용 기업의 65.1%는 무료 서비스를 쓰고 있었습니다. 쓰지 않는 이유로는 비용(39.6%), 인프라·인력 부족(34.9%), 필요에 맞는 AI가 없음(26.8%)이 꼽혔습니다.
업무 시스템 안으로 들어간 AI만 세면 숫자는 더 작아집니다. 대한상공회의소가 제조기업 504곳을 조사한 보고서(2025년 11월, 직원 개인의 생성형 AI 사용은 제외)에서 생산·물류·경영에 AI 솔루션을 쓰는 곳은 대기업 49.2%, 중소기업 4.2%였습니다. 응답 기업의 73.6%가 비용을 부담으로 꼽았고, 80.7%는 AI 전문 인력이 없었습니다.
두 조사를 겹쳐 보면 그림이 선명해집니다. 개인은 이미 챗봇을 쓰고 있지만, 회사의 일은 아직 그대로입니다. 답을 받아 옮기고, 올리고, 다음 주에 또 하는 것은 여전히 사람 몫이기 때문입니다.
왜 전사 로드맵부터 그리면 멈추는가
흔히 "AI 프로젝트의 95%가 실패한다"는 문장으로 인용되는 MIT NANDA의 보고서는 인터뷰 기반의 예비 조사입니다. 원문이 실제로 말하는 것은 조금 다릅니다. 조직의 60%가 맞춤형·벤더 AI 도구를 검토했지만 파일럿까지 간 곳은 20%, 운영 단계까지 간 곳은 5%였다는 깔때기, 그리고 그 원인이 모델이나 규제가 아니라 "업무 흐름에 맞지 않고, 피드백을 배우지 않는 도구"라는 진단입니다. 같은 보고서는 성과를 낸 조직이 모델 벤치마크가 아니라 운영 결과로 도구를 비교했고, 과제를 본사 연구조직이 아니라 현업 관리자에게서 가져왔다고 적습니다.
학술 연구도 같은 방향을 가리킵니다. 한 회사의 고객지원 상담원 5천여 명을 추적한 연구에서 AI 답변 추천을 받은 상담원의 시간당 해결 건수는 평균 15% 늘었고, 경력이 짧은 상담원일수록 효과가 컸습니다(워킹페이퍼 기준 34%). 반면 보스턴컨설팅그룹(BCG)과 함께 지식근로자 758명을 실험한 연구에서는 AI가 잘하는 범위 안의 과제에서 완수한 과제가 12.2% 많고 속도가 25.1% 빨랐지만, 범위 밖의 과제에서는 정답을 낼 가능성이 19% 낮았습니다.
정리하면 이렇습니다. AI의 효과는 "회사 전체"에서가 아니라 "잘 정의된 한 업무"에서 먼저 나타나고, 잘못 고른 업무에서는 오히려 품질이 떨어집니다. 로드맵이 멈추는 이유는 로드맵이 틀려서가 아니라, 첫 업무에서 배울 기회를 건너뛰기 때문입니다.
저희도 기술부터 고른 적이 있습니다. 창업 첫해에 저희가 처음 만든 것은 금융 특화 LLM이었습니다. 좋은 기술이었지만, 저희가 풀고 싶은 문제의 한가운데는 아니었습니다. 그 뒤로 지키는 순서는 하나입니다. 우리가 무엇을 잘하는지보다, 고객이 무엇에 막혀 있는지가 먼저입니다.
첫 업무를 고르는 5가지 기준
후보 업무를 적어 놓고 아래 다섯 기준에 0~2점을 매겨 보세요. 업무는 "영업 자동화"처럼 크게 쓰지 말고 "3주 넘게 답이 없는 거래처에 팔로업 초안 쓰기"처럼 동사와 목적어로 씁니다.
| 기준 | 묻는 질문 | 2점 | 1점 | 0점 |
|---|---|---|---|---|
| 1. 빈도 | 얼마나 자주 반복되나 | 매주 이상 | 매월 | 분기 이하·비정기 |
| 2. 완료 기준 | 결과물이 눈에 보이나 | 형식이 정해진 파일·문서·초안 | 결과물은 있지만 매번 모양이 다름 | 대화·판단 자체가 결과 |
| 3. 승인 지점 | 사람이 확인하고 넘길 지점이 분명한가 | 한 사람이 한 번에 확인 | 여러 사람이 확인 | 누가 확인할지 모호 |
| 4. 데이터 접근 | 필요한 자료에 지금 닿을 수 있나 | 이미 쓰는 앱·폴더에 있음 | 권한 요청이 필요 | 흩어져 있거나 종이 |
| 5. 되돌리기 | 틀렸을 때 되돌릴 수 있나 | 사내용 초안·보고 | 밖으로 나가지만 승인 후 발송 | 결제·계약·삭제처럼 되돌리기 어려움 |
판정 규칙은 두 줄입니다.
- 합계 8점 이상이면 첫 파일럿 후보입니다.
- 5번(되돌리기)이 0점이면 합계가 높아도 첫 파일럿에서는 뺍니다. 첫 파일럿의 실수는 배움이어야지 사고여서는 안 됩니다.
왜 이 다섯 가지인가
빈도가 높아야 4~8주 안에 충분한 반복이 쌓이고, 결과물이 정해져 있어야 "잘했는지"를 잴 수 있습니다. 승인 지점은 품질을 지키는 장치이면서, 현업이 AI를 믿게 되는 경로입니다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크도 사람의 감독 절차를 정의하고 문서화하라고 권합니다(MAP 3.5). 데이터 접근은 과소평가되기 쉬운 항목입니다. 필요한 폴더와 시스템 권한을 시작 전에 받아 두지 않으면 파일럿 기간이 권한 신청으로 흘러갑니다.
예시: 영업지원팀의 후보 업무 채점해 보기
아래는 가상의 제조기업 영업지원팀을 예로 든 채점입니다. 회사와 점수는 예시입니다.
| 후보 업무 | 빈도 | 완료 기준 | 승인 지점 | 데이터 접근 | 되돌리기 | 합계 |
|---|---|---|---|---|---|---|
| 주간 매출·수주 보고서 | 2 | 2 | 2 | 2 | 2 | 10 |
| 답 없는 거래처 팔로업 초안 | 2 | 2 | 2 | 1 | 1 | 8 |
| 회의 조건 그대로 견적서 작성 | 1 | 2 | 1 | 1 | 1 | 6 |
| 결제 승인 처리 | 1 | 2 | 1 | 2 | 0 | 6 (제외) |
| 계약서 조항 검토 | 0 | 1 | 1 | 1 | 0 | 3 |
이 팀의 첫 파일럿은 주간 보고서와 팔로업 초안, 두 업무입니다. 여기서 한 가지를 짚고 싶습니다. 점수가 가장 높은 업무가 가장 가치 큰 업무는 아닙니다. 주간 보고서는 시간을 아껴 줄 뿐 매출을 만들지는 않습니다. 그래도 첫 번째로 두는 이유는, 첫 파일럿의 진짜 목적이 조직이 AI와 일하는 방식을 배우는 것이기 때문입니다. 성공 확률이 높은 업무 하나와 가치가 큰 업무 하나를 짝지으면, 배움과 성과를 함께 가져갈 수 있습니다.
파일럿 설계: 지표는 시작 전에 합의한다
업무를 골랐다면 시작하기 전에 세 가지 지표와 기준선을 정합니다. 기준선은 지금 방식으로 2주 정도 재 둔 값입니다. 끝나고 나서 지표를 정하면, 결과는 늘 "좋아진 것 같다"로 끝납니다.
| 지표 | 정의 | 기준선 예시 | 측정 방법 |
|---|---|---|---|
| 시간 | 요청부터 완료까지 걸린 시간 | 주간 보고 작성 3시간 | 요청·완료 시각 기록 |
| 품질 | 결과물을 사람이 고친 비율, 반려된 비율 | 도입 후 첫 2주 값을 기준으로 삼음 | 승인 단계의 수정·반려 기록 |
| 채택 | 실제로 맡긴 횟수와 맡긴 사람 수 | 해당 없음(도입 전) | 주별 실행 기록 |
여기에 지켜야 할 선 하나를 더합니다. 승인 없이 회사 밖으로 나간 건수 0건. 이 선이 한 번이라도 깨지면 다른 지표가 아무리 좋아도 파일럿을 멈추고 원인을 봅니다.
기간은 4~8주가 적당합니다. 첫 2주는 업무 방법을 AI에게 맞추는 기간이라 숫자가 오히려 나빠 보일 수 있습니다. 판단은 3주차 이후 숫자로 합니다.
파일럿이 끝나면: 세 가지 결정
결과 리포트를 놓고 셋 중 하나를 고릅니다.
- 확산: 합의한 지표가 목표에 닿았고, 현업이 계속 쓰고 싶어 한다. 같은 팀의 다음 업무, 또는 비슷한 업무를 가진 다른 팀으로 넓힙니다.
- 조정 후 연장: 채택은 되는데 품질이 모자라다. 업무 지시서와 확인 기준을 고쳐 2~4주 더 봅니다.
- 중단: 채택 자체가 안 된다. 업무 선택이 틀렸을 가능성이 큽니다. 채점표로 돌아가 다른 업무를 고릅니다.
중단도 실패가 아닙니다. 4~8주 만에 "이 업무는 아니다"를 숫자로 확인했다면, 반년짜리 로드맵보다 싸게 배운 것입니다.
흔한 실패 다섯 가지
- 도구를 먼저 고른다. 어떤 모델, 어떤 솔루션이 좋은지부터 비교하면 업무가 도구에 맞춰집니다. 업무를 먼저 고르고, 그 업무의 운영 결과로 도구를 비교합니다.
- 과제가 너무 크다. "영업 자동화", "고객 응대 AI"는 과제가 아니라 방향입니다. 한 문장의 동사와 목적어로 쪼갭니다.
- 확인할 사람이 없다. 승인 지점이 없는 자동화는 첫 실수에서 신뢰를 잃습니다. 누가, 언제, 무엇을 보고 승인하는지 먼저 정합니다.
- 지표를 끝나고 정한다. 기준선이 없으면 개선을 증명할 수 없고, 다음 예산을 받을 수 없습니다.
- 본사 TF가 과제를 고른다. 매주 그 일을 하는 사람이 가장 정확하게 고릅니다. 현업 팀장을 파일럿의 주인으로 둡니다.
그린다에이아이가 AX를 시작하는 방식
저희가 기업과 AX를 시작할 때도 이 순서를 따릅니다. 30분 진단에서 팀이 매주 반복하는 일과 연결할 시스템을 함께 확인하고, 이미 운영 중인 그린다에이아이의 AI 에이전트로 4~8주 파일럿을 돌립니다. 지표는 시작 전에 합의하고, 결과 리포트를 보고 확산을 결정합니다. 메신저에서 일을 맡기는 업무라면 AI 직원 Ara가, 스캔·수기 문서를 입력하는 업무라면 문서 OCR이 첫 파일럿의 실행 도구가 됩니다.
첫 업무를 고른 뒤에 이어서 읽을 글도 정리해 두었습니다. AI에게 일을 맡길 때 권한과 승인을 어떻게 설계하는지는 기업용 AI 에이전트 도입 전 확인할 6가지에, 보안팀이 무엇을 물을지는 AI 도입 보안성 검토 체크리스트에, 정부 지원으로 비용을 낮추는 방법은 AI 바우처 준비 가이드에 있습니다.
자주 묻는 질문
AX와 DX는 무엇이 다른가요?
DX는 종이·수작업을 시스템으로 옮기는 일이고, AX는 그 시스템 위에서 사람이 하던 조사·정리·초안·입력을 AI가 맡도록 역할을 다시 나누는 일입니다. DX가 "기록을 디지털로" 바꿨다면, AX는 "일을 누가 하느냐"를 바꿉니다. 그래서 AX의 성과는 도구 도입 여부가 아니라 업무별 처리 시간·품질·채택으로 잽니다.
AX 파일럿은 보통 얼마나 걸리나요?
업무 하나 또는 두세 개를 대상으로 48주가 적당합니다. 첫 2주는 업무 방법을 맞추는 기간이라 판단은 3주차 이후의 숫자로 합니다. 그린다에이아이는 30분 무료 진단으로 대상 업무와 지표를 정한 뒤 48주 파일럿을 진행합니다.
중소기업도 AX를 시작할 수 있나요? 비용은 얼마나 드나요?
팀 하나, 업무 두세 개로 시작하면 전사 도입보다 비용과 위험이 훨씬 작습니다. 정부의 AI 바우처처럼 도입 비용 일부를 지원하는 사업도 있지만, 접수 기간이 짧고 자부담과 자격 제한이 있습니다. 2026년 공고 기준의 조건과 준비 순서는 AI 바우처 준비 가이드에 정리했습니다. 바우처를 쓰는 편이 나은지는 무료 AX 진단에서 함께 판단합니다.
첫 업무로는 주로 무엇을 고르나요?
매주 반복되고 결과물이 정해진 사내 업무가 많습니다. 주간 보고서 작성, 들어온 문의 분류와 답변 초안, 답이 없는 거래처 팔로업 초안, 스캔 문서의 데이터 입력 같은 업무입니다. 결제·계약·삭제처럼 되돌리기 어려운 업무는 두 번째 파일럿 이후로 미룹니다.
