"AI 지출 비중, 매출의 1.7%"- 기업 AI 지출 트렌드

1. 개요

AI(인공지능)가 기업의 ICT 지출 트렌드를 바꿔놓고 있다는 것은 주지의 사실이다. 단적으로 기업의 AI 투자는 확대되고 있으며, IT 지출 구조도 AI 중심으로 빠르게 재편되고 있다.

최근 글로벌 주요 시장조사기관과 컨설팅 기업들이 발표한 조사 결과를 종합하면, 기업의 AI 투자는 전통적인 IT 투자 영역을 넘어 경영 전략의 핵심 투자 분야로 자리매김하고 있는 것으로 나타났다. 과거 기업의 IT 예산이 서버, 네트워크, ERP, 그룹웨어 등 기존 정보시스템 구축과 운영에 집중되었다면, 최근에는 생성형 AI, AI 에이전트(AI Agent), GPU 기반 AI 인프라, 클라우드 AI 서비스, 데이터 플랫폼 및 AI 거버넌스 구축 등 AI 중심으로 투자 구조가 빠르게 전환되고 있다.

최근 기업들의 AI 지출 트렌들 살펴보기 위해 Gartner, BCG, 딜로이트, 맥킨지, IBM, KPMG 등에서 엔터프라이즈 고객 대상의 AI 투자를 조사한 데이터를 근간으로 최근 트렌드를 살펴본다.

2. 주요 특징

AI 투자 규모

시장조사업체 Gartner는 2026년 전 세계 AI 관련 지출 규모가 약 2조 5,200억 달러에 이를 것으로 전망하였다. 이는 전년 대비 44% 증가한 수준으로, AI가 더 이상 일부 혁신 기업만의 기술이 아니라 대부분의 기업이 반드시 투자해야 하는 핵심 경쟁력으로 자리 잡고 있음을 보여준다. 특히 AI 서버, AI 내장형 소프트웨어, 클라우드 기반 AI 플랫폼, AI 반도체 등 AI 인프라에 대한 투자가 전체 AI 지출 증가를 주도할 것으로 전망하였다.

기업들의 투자 확대 의지도 뚜렷하게 나타나고 있다. BCG가 발표한 'AI Radar 2026'에 따르면 기업들은 AI 투자 규모를 매출 대비 평균 0.8% 수준에서 1.7% 수준까지 확대할 계획인 것으로 조사되었다. 또한 응답한 CEO의 90%는 AI Agent가 향후 1~3년 내 기업의 생산성과 경쟁력을 크게 향상시킬 것으로 기대하고 있었으며, 기업들은 전체 AI 예산의 30% 이상을 AI Agent 구축 및 운영에 배분할 계획인 것으로 나타났다. 이는 AI 투자가 단순한 실험이나 파일럿(PoC) 단계를 넘어 기업의 핵심 사업 전략으로 전환되고 있음을 의미한다.

IT 지출 구조

IT 투자 구조 역시 AI 중심으로 빠르게 재편되고 있다. RBC Capital Markets가 글로벌 CIO를 대상으로 실시한 조사에서는 91%의 기업이 AI 전용 예산을 신규 편성한 것으로 나타났으며, 이는 기존 IT 예산을 단순히 재배분한 것이 아니라 AI를 위한 별도의 투자 재원을 확보하고 있음을 보여준다. 또한 응답 기업의 55%는 이미 생성형 AI를 실제 운영환경(Production)에 적용하고 있었으며, 35%는 향후 6개월 이내 운영환경으로 확대할 계획이라고 응답하였다. 즉, 전체 조사 대상 기업의 약 90%가 AI를 실제 업무 환경에서 활용하고 있거나 단기간 내 적용을 준비하고 있는 것으로 분석된다.

생성형 AI 활용

생성형 AI의 활용 수준도 빠르게 고도화되고 있다. McKinsey의 「State of AI」 조사에 따르면 88%의 기업이 최소 한 개 이상의 업무 영역에서 AI를 활용하고 있었으며, 이는 전년도 78% 대비 10%p 증가한 수치이다. 또한 67%는 두 개 이상의 업무 기능에 AI를 적용하고 있었고, 약 절반의 기업은 세 개 이상의 업무 분야에서 AI를 활용하고 있는 것으로 조사되었다. 생성형 AI는 문서 작성, 고객 상담, 소프트웨어 개발, 마케팅 콘텐츠 제작, 회의 요약, 지식 검색 등 다양한 업무에 적용되고 있으며, AI 활용 범위는 지속적으로 확대되고 있다. 그러나 전사적인 AI 확산(Scale)을 성공적으로 달성했다고 응답한 기업은 약 3분의 1 수준에 그쳐, 많은 기업들이 AI를 도입했음에도 조직 전반으로 확산하는 과정에서는 여전히 어려움을 겪고 있는 것으로 나타났다.

AI Agent 도입

최근 가장 빠르게 성장하는 분야는 AI Agent이다. McKinsey 조사에서는 23%의 기업이 AI Agent를 실제 업무에 적용하고 있었으며, 39%는 파일럿을 추진하고 있는 것으로 조사되었다. 즉, 전체 기업의 62%가 이미 AI Agent를 도입했거나 도입을 준비하고 있는 것으로 분석된다. AI Agent는 단순 질의응답 기능을 넘어 고객 응대, 업무 자동화, 일정 관리, 보고서 작성, 소프트웨어 개발 지원, 데이터 분석 등 다양한 업무를 자율적으로 수행하는 방향으로 발전하고 있으며, 향후 기업의 디지털 전환을 주도하는 핵심 기술로 평가받고 있다.

ROI

반면 AI 투자 확대에도 불구하고 투자성과(ROI)는 여전히 기업들이 해결해야 할 중요한 과제로 남아 있다. IBM CEO Study에서는 기대한 수준의 투자성과를 달성한 AI 프로젝트가 약 25% 수준에 불과한 것으로 나타났으며, 전사적으로 AI를 성공적으로 확산한 사례는 16% 수준에 머물렀다. 또한 PwC Global CEO Survey에서도 56%의 CEO는 AI 투자 이후 아직 뚜렷한 비용 절감이나 매출 증가 효과를 체감하지 못하고 있다고 응답하였으며, 실제 비용 절감과 매출 확대를 동시에 달성한 기업은 12%에 불과하였다. 이는 기업들이 AI 도입 자체보다는 AI를 활용하여 실질적인 경영성과를 창출하는 단계에서 상당한 어려움을 겪고 있음을 보여준다.

AI 비용관리

AI 비용 관리 역시 새로운 경영 과제로 부상하고 있다. 생성형 AI는 기존 소프트웨어와 달리 토큰(Token) 사용량, API 호출 횟수, 추론(Inference) 연산량 등에 따라 비용이 증가하는 구조를 갖고 있어, 사용량이 증가할수록 운영비용을 예측하기 어려운 특성이 있다. KPMG 조사에서는 AI 운영 비용을 정확하게 파악하고 있는 기업은 26%에 불과하였으며, 50%는 일부 비용만 관리하고 있었고, 22%는 AI 비용을 거의 관리하지 못하고 있는 것으로 조사되었다. 이에 따라 최근 기업들은 클라우드 비용 관리(FinOps) 개념을 AI 운영에 적용한 'AI FinOps' 체계를 구축하여 모델별 사용량, 토큰 소비량, API 호출 비용 등을 통합 관리하려는 움직임을 확대하고 있다.

조직 변화

조직 운영 방식도 크게 변화하고 있다. IBM CEO Study에 따르면 최고AI책임자(CAIO)를 운영하는 기업 비중은 전년도 26%에서 올해 76%로 크게 증가하였다. 이는 AI가 단순히 IT 부서의 기술 과제가 아니라 최고경영자가 직접 관리해야 하는 핵심 경영 과제로 인식되고 있음을 의미한다. 또한 Gartner 조사에서는 78%의 기업이 최소 하나 이상의 업무에서 AI를 활용하고 있었지만, 전사적인 AI 전략을 보유한 기업은 27%, AI 활용 역량을 충분히 확보했다고 응답한 기업은 20%에 불과한 것으로 조사되었다. 이는 AI 경쟁력이 단순한 기술 도입 여부보다 조직 문화, 데이터 거버넌스, 인재 확보, 업무 프로세스 혁신 역량에 의해 좌우되고 있음을 시사한다.

3. 시사점

글로벌 조사기관들의 분석 결과는 기업의 AI 도입이 실험 단계를 지나 본격적인 운영 및 확산 단계로 진입하고 있음을 공통적으로 보여주고 있다. 기업들은 AI 투자 규모를 지속적으로 확대하고 있으며, IT 예산도 AI 중심으로 재편하고 있다. 그러나 AI를 성공적으로 활용하기 위해서는 기술 도입만으로는 충분하지 않으며, 업무 프로세스 혁신, 데이터 품질 확보, AI 비용 관리, 거버넌스 구축, 전문 인력 확보, 투자성과 관리 등 종합적인 추진체계를 함께 마련해야 한다. 향후 기업 경쟁력은 AI를 얼마나 많이 도입했는가보다 AI를 실제 업무에 효과적으로 내재화하고 지속 가능한 성과를 창출할 수 있는 역량에 의해 결정될 것으로 전망된다.