업종별 국내 기업 AI 도입 수준 평가

국내 기업의 인공지능(AI) 활용은 빠르게 확대되고 있다. 그러나 기업 내부의 업무 프로세스와 조직 전반에 AI가 정착된 수준은 여전히 제한적인 것으로 나타났다. 생성형 AI를 비롯한 다양한 AI 서비스의 이용이 확산되면서 기업의 AI에 대한 관심과 개별 업무 단위의 활용은 크게 증가하고 있지만, 이를 기업의 핵심 업무 프로세스에 적용하고 전사적으로 확산하는 단계까지 발전한 기업은 상대적으로 많지 않은 상황이다.

날리지리서치그룹(KRG)이 제조, 정보통신·미디어, 도소매·유통, 금융 등 주요 산업의 국내 기업 217개사를 대상으로 AI에 대한 인식과 도입 여부, 활용 및 확산 수준 등을 조사한 결과에서도 이러한 특징이 확인되었다.

KRG는 기업의 AI 활용 수준을 △AI 관심 △AI 준비 △AI 도입·실행 △AI 확산 △AI 정착·최적화 △AI 혁신 등 6개 단계로 구분하여 조사하였다. 여기서 ‘AI 관심 단계’는 AI 도입 필요성을 인식하고 관련 기술이나 적용 가능성을 탐색하는 수준을 의미하며, ‘AI 준비 단계’는 데이터와 인프라, 조직 및 인력 등 실제 AI 도입을 위한 기반을 마련하는 단계에 해당한다. ‘AI 도입·실행 단계’는 특정 업무 또는 조직에서 AI 서비스를 실제 적용하기 시작한 수준이며, 이후 적용 범위가 다수 업무와 조직으로 확대되는 단계를 ‘AI 확산 단계’로 구분하였다. 나아가 AI가 주요 업무 프로세스에 안정적으로 내재화되는 단계를 ‘AI 정착·최적화’, AI를 기반으로 제품·서비스와 비즈니스 모델 및 조직운영 방식까지 변화시키는 수준을 ‘AI 혁신 단계’로 정의하였다.

조사기업 68.2%가 아직 ‘AI 관심 단계’

조사 결과 전체 217개 기업 가운데 ‘AI 관심 단계’에 해당하는 기업은 68.2%인 148개사로 가장 높은 비중을 차지하였다. AI 도입을 위한 데이터와 인프라, 조직체계 등을 준비하는 ‘AI 준비 단계’는 4.6%인 10개사로 조사되었다. 이에 따라 전체 조사기업의 72.8%가 아직 AI에 관심을 갖거나 실제 도입을 준비하는 단계에 머물러 있는 것으로 나타났다. 이는 생성형 AI의 등장 이후 기업의 AI에 대한 관심 자체는 빠르게 높아졌지만, 상당수 기업에서는 아직 AI가 정규 업무 프로세스나 핵심 정보시스템에 본격적으로 편입되지 않았음을 보여준다.

반면 실제 AI 솔루션이나 서비스를 업무에 적용하기 시작한 ‘AI 도입·실행 단계’ 기업은 16.6%인 36개사로 나타났다. ‘AI 확산 단계’에 해당하는 기업은 8.3%인 18개사였으며, 조직 내에서 AI를 안정적으로 운영하고 성능과 프로세스를 지속적으로 개선하는 ‘AI 정착·최적화 단계’는 0.5%인 1개사에 그쳤다. AI를 활용해 사업방식이나 제품·서비스 자체를 변화시키고 있는 ‘AI 혁신 단계’ 기업도 1.8%인 4개사로 조사되었다.

결과적으로 AI를 실제 업무에 도입한 ‘도입·실행 단계 이상’ 기업은 전체의 약 27.2%인 반면, AI 활용범위를 확대하는 ‘확산 단계 이상’ 기업은 약 10.6%에 그쳤다. 즉 국내 기업의 AI 활용에서 보다 중요한 과제는 단순한 AI 도입 여부보다 이미 도입된 AI를 개별 실증사업이나 일부 업무에서 벗어나 핵심 업무와 조직 전체로 얼마나 확장할 수 있는가에 있는 것으로 분석된다.

이 같은 결과는 국내외 다른 조사와도 일정 부분 맥락을 같이한다. OECD는 한국의 기업 AI 도입률이 조사대상과 AI의 정의에 따라 약 6.4~30.3%로 다양하게 나타난다고 분석하고 있으며, 한국 중소기업의 AI 활용률 역시 일부 유럽 국가보다 낮은 수준이라고 평가하고 있다. 따라서 특정 AI 서비스를 한 번이라도 이용하는 수준과 기업의 업무 프로세스에 AI가 실질적으로 내재화된 수준을 구분해 파악할 필요가 있다.

정보통신·미디어와 금융이 상대적으로 높은 AI 활용 성숙도

AI 도입 수준에서는 산업별 차이도 뚜렷하게 나타났다. 특히 데이터의 디지털화 수준과 IT 인프라, 전문인력 확보 정도, AI를 적용할 수 있는 업무의 특성 등이 산업별 AI 활용 수준을 좌우하는 주요 요인으로 작용하고 있는 것으로 분석된다.

제조업은 조사기업의 87.5%가 ‘AI 관심 단계’에 머물러 조사대상 산업 가운데 초기 단계 기업 비중이 가장 높았다. ‘AI 도입·실행 단계’는 6.3%, ‘AI 확산 단계’는 3.1%에 그쳤다. 제조업에서는 품질검사, 설비 예지보전, 공정 최적화, 수요예측, 디지털트윈, 산업용 로봇 등 AI 적용 가능성이 지속적으로 확대되고 있지만, 실제 생산현장에 AI를 적용하기 위해서는 제조 데이터의 표준화와 축적, 기존 설비 및 시스템과의 연계, 투자비용 및 투자수익률 검증 등이 선행되어야 한다. 이에 따라 AI에 대한 관심에 비해 실제 구축과 확산 속도가 상대적으로 완만하게 나타나는 것으로 해석된다.

정보통신·미디어 업종에서는 상대적으로 높은 AI 활용 성숙도가 나타났다. ‘AI 관심 단계’의 비중은 43.8%로 제조업이나 도소매·유통업보다 크게 낮은 반면, ‘AI 도입·실행 단계’가 29.2%, ‘AI 확산 단계’가 14.6%로 조사되었다. ‘AI 혁신 단계’ 기업도 4.2%를 차지하였다. 정보통신·미디어 산업은 소프트웨어 개발, 콘텐츠 제작, 검색 및 추천, 고객서비스, 데이터 분석, 광고·마케팅 등 생성형 AI와 머신러닝을 비교적 직접적으로 적용할 수 있는 업무가 많고, 다른 산업보다 데이터와 클라우드 등 디지털 인프라가 이미 구축된 기업이 많다는 특성을 갖는다. 이에 따라 AI 도입을 위한 초기 전환비용이 상대적으로 낮고, AI 적용에 따른 성과를 비교적 빠르게 확인할 수 있어 다른 산업보다 AI 도입과 확산이 빠르게 진행되는 것으로 판단된다.

도소매·유통업에서는 조사기업의 80.0%가 ‘AI 관심 단계’로 나타나 제조업과 함께 초기 단계 기업의 비중이 높은 산업으로 조사되었다. ‘AI 도입·실행 단계’는 12.5%, ‘AI 확산 단계’는 7.5%였다.

유통산업에서는 상품 추천, 고객 분석, 수요 및 재고 예측, 가격 최적화, 물류 자동화, 고객상담 등의 영역에서 AI 활용 가능성이 높아지고 있다. 그러나 기업 규모와 디지털 전환 수준에 따른 격차가 크고, POS·ERP·CRM·물류시스템 등에 분산된 데이터를 통합해야 하는 문제가 존재하기 때문에 AI에 대한 관심이 곧바로 전사적인 AI 도입으로 연결되지 않는 것으로 분석된다.

금융권, ‘관심’과 ‘실행’ 비중 각각 33.3%

금융업은 정보통신·미디어와 함께 AI 활용 성숙도가 상대적으로 높은 산업으로 나타났다. ‘AI 관심 단계’와 ‘AI 도입·실행 단계’가 각각 33.3%로 동일하게 나타났으며, ‘AI 준비 단계’와 ‘AI 확산 단계’도 각각 15.2%를 기록하였다. ‘AI 혁신 단계’에 해당하는 기업도 3.0%로 조사되었다.

금융산업은 신용평가, 이상거래탐지, 자산관리, 리스크 분석, 고객상담, 마케팅, 문서처리 등 구조화된 데이터와 지식정보를 활용하는 업무가 많아 AI 적용 가능성이 상대적으로 높다. 동시에 금융회사들이 오랜 기간 데이터웨어하우스와 빅데이터 플랫폼, 클라우드 등의 디지털 인프라에 투자해 왔다는 점도 AI 활용을 촉진하는 요인으로 볼 수 있다.

다만 금융업은 개인정보 보호와 금융보안, AI 모델의 설명 가능성, 의사결정 책임 및 AI 거버넌스 등 높은 수준의 신뢰성과 규제 준수가 요구되는 산업이다. 따라서 단순한 AI 서비스 도입에서 나아가 핵심 금융 업무와 의사결정 영역까지 AI를 확대하기 위해서는 기술적 성능뿐 아니라 데이터 거버넌스와 위험관리 체계의 구축이 병행될 필요가 있다.

AI 도입의 핵심 과제, ‘PoC에서 전사 확산으로’

이번 조사에서 가장 주목할 점은 기업의 AI에 대한 관심 부족보다는 ‘관심에서 실행으로, 실행에서 확산으로 전환하는 과정’에서 격차가 크게 나타나고 있다는 것이다. 전체 기업의 68.2%가 AI에 관심을 보이고 있지만 실제 도입·실행 단계는 16.6%, 확산 단계는 8.3%로 급격히 낮아진다.

이는 향후 국내 AI 시장의 중심이 AI 기술 자체에 대한 탐색이나 단순한 생성형 AI 서비스 이용에서 기업 내부 데이터와 기존 정보시스템을 연계하고 업무 프로세스를 AI 중심으로 재설계하는 방향으로 이동할 가능성이 높음을 의미한다.

특히 생성형 AI와 AI 에이전트의 확산으로 기업의 AI 도입 장벽 자체는 낮아지고 있지만, AI를 실제 경영성과로 연결하기 위해서는 데이터 품질과 데이터 통합, AI 전문인력, 기존 시스템과 AI 간 연계, 보안 및 개인정보 보호, AI 거버넌스, 투자수익률 검증 등 다양한 조건이 함께 갖춰져야 한다.

2026년 한국은행 분석에서도 AI 이용으로 평균 업무시간이 약 3.8% 감소하고 잠재적인 생산성 향상 효과가 나타나는 반면, 이러한 시간 절감이 실제 생산 증가로 충분히 연결되지는 않은 것으로 나타났다. 연구에서는 AI가 개별 작업의 ‘효율성 단계’에는 진입했지만 업무 흐름과 조직구조의 재설계를 동반하는 ‘생산성 단계’까지는 충분히 진전되지 못했다고 평가하였다.

따라서 향후 기업의 AI 경쟁력은 AI 솔루션을 도입했는가의 여부보다는 AI를 기업의 핵심 업무 프로세스에 얼마나 깊게 내재화하고 조직 전체로 확산할 수 있는가에 의해 결정될 가능성이 높다.

특히 제조와 유통 등 상대적으로 AI 도입 초기 단계의 비중이 높은 산업에서는 현장 데이터를 확보·표준화하고 활용 가능한 데이터 기반을 구축하는 것이 우선적인 과제가 될 전망이다. 정보통신·미디어와 금융 등 AI 도입이 상대적으로 앞선 산업에서는 개별 업무 중심의 AI 활용을 넘어 AI 에이전트와 업무자동화, 의사결정 지원 등으로 적용 범위를 확대하고 이를 기존 기간계 시스템 및 업무 프로세스와 통합하는 것이 중요해질 것으로 예상된다.

국내 기업의 AI 활용은 ‘AI를 사용할 것인가’를 검토하는 단계에서 ‘어떤 업무에 적용하고 어떻게 기업 전체로 확산시킬 것인가’를 결정하는 단계로 이동하고 있다. 향후 국내 AI 시장의 성장 역시 신규 AI 도입 기업 증가뿐 아니라 기존 도입 기업의 적용영역 확대와 전사 확산, 업무 프로세스 혁신에 의해 더욱 크게 좌우될 것으로 전망된다.