AI 도입은 끝났는데, 왜 회사는 그대로일까?

기업 AI 도입 효과가 안 보이는 이유는 직원들이 AI를 안 써서가 아닙니다. 한국은행 이슈노트 제2025-22호에 따르면 국내 근로자의 63.5%가 생성형 AI를 활용하고 있고, 업무 용도로 한정해도 51.8%입니다. 미국보다 2배가량 높고, 인터넷 도입 당시보다 8배 빠른 확산 속도입니다. 그런데도 회사가 그대로인 이유는 개인이 아낀 시간이 조직의 산출로 옮겨 붙지 않기 때문입니다.

이 간극은 이제 인상이 아니라 숫자로 확인됩니다. 어디서 끊기는지부터 보겠습니다.

시간은 줄었는데 왜 생산성은 그만큼 안 오르나요?

같은 한국은행 분석에서 AI 활용은 업무시간을 평균 3.8% 단축시켰습니다. 주 40시간 근무 기준으로 1.5시간입니다. 그런데 이를 생산성 증가로 환산하면 약 1.0%에 그칩니다.

더 분명한 진단은 후속 분석에 있습니다. 한국은행의 「AI 도입은 생산성을 높이는가? 초기 3년의 효과 분석」은 AI가 개별 작업 수준의 효율은 높였지만 업무 흐름 개선, 조직 구조 변화, 인력 재배치로 확장되지 못하면서 '생산성 단절' 현상이 나타났다고 지적합니다.

개인 수준에서 일어난 일	조직 수준에서 일어나지 않은 일
보고서 초안 작성 시간이 줄었다	보고서 작성 단계 자체가 절차에서 빠지지 않았다
자료 요약이 빨라졌다	요약본을 전제로 회의 구조가 바뀌지 않았다
번역·정리에 쓰던 시간이 남는다	남은 시간에 무엇을 할지 정해지지 않았다

아낀 1.5시간이 어디로 갔는지 아무도 정하지 않으면, 그 시간은 조직의 장부에 나타나지 않습니다. AI 도입 효과가 체감되지 않는다는 말의 실체가 대개 이것입니다.

그런데 어떤 집단에서는 왜 효과가 났나요?

같은 분석에서 생산성 증가가 관찰된 예외 집단이 있습니다. 자영업자, 전문직, AI 고강도 사용자입니다. 이들이 공유하는 특징은 업종이 아니라 성과 유인과 업무 자율성이 높다는 점이었습니다. 보고서는 이를 두고 기술의 효과가 작업 구조와 유인 체계에 의해 결정될 수 있음을 시사한다고 해석합니다.

같은 도구를 써도 결과가 갈리는 지점은 도구의 성능이 아니라, 아낀 시간을 자기 판단으로 다시 배치할 수 있는 권한이 있느냐입니다.

뒤집으면 이렇게 됩니다. 업무 절차가 촘촘하게 정해져 있고 아낀 시간을 재배치할 재량이 없는 조직에서는, 개인이 아무리 AI를 잘 써도 그 효과가 개인의 여유로만 남습니다. 도구를 더 사는 것으로는 이 구조가 바뀌지 않습니다.

우리 회사는 도입한 걸까요, 쓰고 있는 걸까요?

개인 단위 활용률과 기업 단위 활용률은 전혀 다른 숫자입니다. 대한상공회의소와 산업연구원이 국내 500개사를 조사한 결과(2024년 8월 발표), AI 기술이 필요하다고 답한 기업은 78.4%였지만 실제로 활용하고 있다고 답한 기업은 30.6%였습니다.

그 30.6%를 쪼개 보면 격차가 어디서 벌어지는지가 보입니다.

구분	AI 활용률	격차
대기업 / 중견 / 중소	48.8% / 30.1% / 28.7%	대기업–중소 20.1%p
서비스업 / 제조업	53% / 23.8%	29.2%p
수도권 / 비수도권	40.4% / 17.9%	22.5%p
중견 / 중소	30.1% / 28.7%	1.4%p

예산 규모가 몇 배씩 차이 나는 중견기업과 중소기업의 활용률 차이가 1.4%p입니다. 반면 업종 차이는 29.2%p로 규모 차이보다 큽니다. 활용률을 가르는 변수가 ‘돈이 얼마나 있느냐’보다 ‘그 일이 문서와 언어로 이루어져 있느냐’에 더 가깝다는 뜻입니다.

제조업의 활용률이 낮은 것은 제조 기업이 뒤처져서가 아닙니다. 현장 업무의 상당 부분이 아직 텍스트로 전환되지 않은 채 남아 있기 때문입니다. 그래서 제조 기업의 출발점은 도구 도입이 아니라 이미 글로 오가는 업무를 찾는 일입니다. 일일 생산 보고, 불량 원인 기술서, 작업 표준서, 거래처 회신이 그 후보입니다.

효과는 어느 쪽에 몰려 있나요?

같은 조사에서 AI 활용으로 얻은 효과를 물었을 때 응답은 시간 단축 45.8%, 비용 절감 22.2%, 생산량 증가 11.8%, 판매량 증가 8.5% 순이었습니다.

이 분포가 앞의 ‘생산성 단절’과 정확히 같은 모양입니다. 절반 가까이가 시간을 아꼈다고 답했지만, 산출이 늘었다는 응답은 20%를 넘지 않습니다. 개인의 작업 시간이 줄어드는 데서 멈추고 조직의 생산량이나 매출로 이어지지 않는 구간이, 기업 응답에서도 그대로 드러납니다.

그래서 무엇을 세야 하나요?

“몇 명에게 계정을 줬나”는 조달 지표입니다. 활용 지표와 재배치 지표는 따로 세야 합니다.

흔히 보는 지표	대신 봐야 할 지표	확인 방법
발급 계정 수	최근 30일 내 1회 이상 업무 사용 인원	계정 관리 콘솔의 사용 기록
교육 수료 인원	주 1회 이상 정기 사용 인원	같은 로그를 주 단위로
도입한 도구 개수	업무 절차서에 AI 단계가 들어간 업무 수	팀별 업무 매뉴얼
절감했다고 보고된 시간	그 시간에 새로 하기로 정한 일	팀 목표 문서

마지막 줄이 핵심입니다. 앞의 세 지표가 좋아져도 네 번째가 비어 있으면 생산성 단절은 그대로 남습니다.

다음 회의에서 물어볼 질문

도입은 이미 끝났는데 회사가 그대로라면, 다음 단계는 대개 도구를 하나 더 사는 것이 아닙니다. 지난 30일 동안 실제로 쓴 사람이 몇 명인지, 그리고 그들이 아낀 시간을 무엇에 쓰기로 했는지 두 가지를 먼저 확인하는 것입니다.

함께 보면 좋은 자료

• AI 활용 수준 무료 진단 — 부서별로 지금 어느 단계에 있는지 먼저 확인할 때
• 제조업 AI 전환 — 활용률이 가장 낮게 나온 업종에서 어디부터 시작하는지
• AX 전환 사례 — 도구 도입에서 멈추지 않고 업무 흐름까지 바꾼 기업들
• AI 교육의 성과가 안 나오는 진짜 이유 — 교육이 어디까지 만들어 주고 어디서부터 다른 일인지

자주 묻는 질문

• 직원들이 AI를 안 쓰는 게 문제 아닌가요?
  국내 근로자의 업무 목적 활용률은 51.8%로 미국의 2배가량입니다. 대부분의 조직에서 병목은 사용 여부가 아니라, 아낀 시간이 조직 성과로 연결되는 구간입니다.
• 도구를 더 좋은 것으로 바꾸면 나아지나요?
  생산성 효과가 나타난 집단의 공통점은 도구가 아니라 성과 유인과 업무 자율성이었습니다. 도구 교체만으로는 같은 구간에서 다시 멈출 가능성이 큽니다.
• 제조업은 AI 활용이 원래 어려운가요?
  제조업 활용률 23.8%는 업무 상당 부분이 아직 텍스트로 남아 있지 않기 때문입니다. 이미 문서로 오가는 업무부터 찾으면 출발점이 생깁니다.
• 중소기업이라 예산이 부족한데 방법이 있나요?
  조사에서 중견기업과 중소기업의 활용률 차이는 1.4%p였습니다. 예산 규모가 활용률을 결정하는 주된 변수는 아니었습니다.
• 효과를 어떻게 측정해서 보고하나요?
  계정 수 대신 30일 내 사용 인원, 주 1회 이상 사용 인원, 절차서에 AI 단계가 반영된 업무 수, 그리고 아낀 시간에 새로 하기로 한 일을 세면 됩니다.

참고한 자료

• 한국은행 (2025.08.18), BOK 이슈노트 제2025-22호 「AI의 빠른 확산과 생산성 효과: 가계조사를 바탕으로」
• 한국은행 (2026), 「AI 도입은 생산성을 높이는가? 초기 3년의 효과 분석」 — KDI 경제교육·정보센터 수록
• 대한상공회의소·산업연구원 (2024.08.30), 「국내기업 AI 기술 활용 실태 조사」 (500개사, IT·전략기획 담당자)
• 같은 조사 수록본 — KDI 경제교육·정보센터 (규모별·업종별·지역별 교차분석 수치 확인일 2026-08-16)