기업 AI지출, 매출대비 1.7%에서 3.3%로

기업의 인공지능(AI) 활용이 실험 단계를 넘어 본격적인 가치 창출 단계에 진입하고 있다. 불과 1~2년 전까지만 해도 기업 AI의 최대 관심사는 생성형 AI를 어디에 적용할 것인가였다. 그러나 최근에는 AI가 실제 매출과 비용, 생산성에 얼마나 기여하는지, 나아가 AI 에이전트에 어느 수준까지 업무와 의사결정 권한을 넘길 것인지가 핵심 경영과제로 부상하고 있다.

• 48.5% 기업이 AI를 의미있는 기업가치로 연결

보스턴컨설팅그룹(BCG)이 2026년 9월 발표한 ‘Applied AI Index 2026’은 이러한 변화를 단적으로 보여준다. 20개 이상 산업의 CxO와 고위 경영자 1,330명을 조사한 결과, BCG가 AI 활용의 최상위 단계로 분류한 ‘Future-built’ 기업은 전체의 7.5%였다. 여기에 AI를 적극적으로 확산하면서 성과를 만들어내는 ‘Scaling’ 기업 41%를 더하면 전체의 48.5%가 AI를 의미 있는 기업가치로 연결하고 있는 셈이다.

이는 불과 1년 전과 크게 달라진 모습이다. 2025년 BCG 조사에서는 AI에서 지속적이고 실질적인 가치를 창출하는 기업이 약 5%에 불과했다. 당시만 해도 AI 선도기업과 나머지 기업 사이의 격차가 확대되는 모습이 두드러졌지만, 2026년에는 중간층 기업들이 빠르게 AI를 확산하면서 시장 전체의 AI 활용 수준이 한 단계 상승한 것으로 분석된다.

특히 AI 성숙도가 높은 기업은 재무성과에서도 차이를 보였다. BCG에 따르면 Future-built 기업은 후발기업과 비교해 총주주수익률(TSR)이 2.3배, 매출 성장률은 2.4배, EBITDA 성장률은 2.8배 높은 것으로 조사됐다. Scaling 기업 역시 후발기업보다 높은 성과를 나타냈다.

다만 이를 AI가 직접 매출이나 EBITDA를 몇 배 증가시켰다는 인과관계로 해석하는 것은 주의할 필요가 있다. AI 활용 수준이 높은 기업은 데이터, 디지털 인프라, 경영관리 및 혁신 역량도 상대적으로 우수할 가능성이 있기 때문이다. 그럼에도 AI 성숙도와 기업성과 사이의 연관성이 뚜렷하게 나타나기 시작했다는 것은 기업 AI 시장이 PoC(개념검증) 중심의 초기 단계를 벗어나고 있음을 보여주는 중요한 신호다.

• AI, IT 예산을 벗어나 ‘경영 투자’로 이동

기업들의 투자 규모도 급격하게 커지고 있다. BCG 조사에서 기업의 AI 관련 지출은 매출의 약 3.3% 수준까지 확대됐다. 특히 주목할 부분은 전체 AI 지출의 80% 이상이 기존 기업 IT 예산 밖에서 발생하고 있다는 점이다.

AI 투자의 성격 자체가 변하고 있다는 의미다. 과거 ERP, 데이터웨어하우스, 클라우드 등 주요 정보화 투자는 CIO와 IT부서가 주도했다. 반면 AI는 영업과 마케팅, R&D, 생산, SCM, 고객서비스, 재무, 인사 등 실제 업무 프로세스에 직접 적용된다. 이에 따라 투자 주체 역시 IT부서에서 사업부문으로 빠르게 확산되고 있다.

기업 입장에서 AI를 더 이상 ‘IT 비용’으로만 분류하기 어려워진 이유다. AI 예산은 점차 IT Budget에서 독립적인 AI Budget으로, 다시 전사적인 Business Transformation Budget으로 이동하고 있다.

이에 따라 AI 전략의 책임구조도 변화할 가능성이 높다. CIO가 기술 도입을 책임지는 기존 방식에서 벗어나 CEO와 CFO, CIO, CHRO, 각 사업부문장이 공동으로 투자와 성과를 관리하는 전사 경영과제로 AI를 다뤄야 한다는 것이다.

• AI 많이 쓰는 기업보다 ‘업무를 다시 설계한 기업’이 앞선다

AI 성과를 결정하는 또 다른 요인은 투자 규모보다 업무 프로세스의 변화다. 기업의 초기 생성형 AI 활용은 문서 작성, 번역, 정보 검색, 회의록 정리, 소프트웨어 코딩 등 개별 업무의 생산성을 높이는 데 집중됐다. 그러나 AI 선도기업들은 이제 개별 작업(Task)을 자동화하는 수준을 넘어 전체 업무 흐름(Workflow)을 AI 중심으로 재설계하고 있다.

예를 들어 기존에는 직원이 데이터를 수집하고 이를 분석한 뒤 보고서를 작성해 상급자에게 보고하고, 상급자가 검토한 후 의사결정을 내리는 방식이었다. AI가 본격적으로 적용되면 데이터 수집과 분석, 초안 작성, 대안 제시까지 AI가 수행하고 사람은 검증과 예외처리, 최종 의사결정에 집중할 수 있다.

AI 가치 창출의 단위가 ‘Task → Use Case → Workflow → Business Process’로 확대되는 것이다.

결국 기업 AI 경쟁에서 중요한 것은 직원에게 AI 도구를 몇 개 제공했느냐가 아니다. 기존 업무 가운데 어떤 부분을 AI가 담당하고, 어떤 부분을 인간이 담당하도록 전체 프로세스를 재설계했느냐가 생산성과 투자수익률을 결정하게 된다.

• 생성형 AI 다음 승부처는 ‘AI 에이전트’

2026년 이후 기업 AI 시장에서 가장 주목해야 할 변화는 AI 에이전트(Agentic AI)의 확산이다. 기존 생성형 AI가 인간의 질문에 답하고 문서나 콘텐츠를 생성하는 ‘Assistant’ 또는 ‘Copilot’ 역할을 했다면 AI 에이전트는 목표를 부여받고 필요한 데이터를 찾고, 여러 시스템을 이용해 업무를 수행하며, 경우에 따라 실제 행동까지 실행하는 방향으로 발전하고 있다. 기업 AI의 발전 경로가 ‘Assistant → Copilot → Agent → Multi-Agent’로 이동하고 있는 것이다.

BCG는 Agentic AI가 전체 AI 가치에서 차지하는 비중이 2025년 17%에서 2026년 22%, 2030년에는 약 39%까지 높아질 것으로 전망했다.

더 중요한 것은 AI 에이전트가 단순 업무 수행을 넘어 의사결정 영역까지 진입한다는 점이다. BCG 조사에서는 2030년까지 기업의 42%가 AI 에이전트에 일정 수준의 실제 의사결정 권한을 부여할 것으로 예상했다.

이는 AI가 단순한 소프트웨어에서 기업의 새로운 ‘Digital Worker’로 변화한다는 것을 의미한다.

영업에서는 잠재고객 탐색과 제안, 마케팅에서는 캠페인 운영, 구매에서는 공급업체 분석과 발주, SCM에서는 재고와 물류 최적화, 고객서비스에서는 문의 대응과 후속조치까지 AI 에이전트가 담당하는 영역이 확대될 수 있다.

• 문제는 기술보다 ‘AI를 통제할 능력’

그러나 AI 에이전트의 권한이 커질수록 새로운 문제가 발생한다. BCG 조사에서는 2030년까지 42%의 기업이 AI 에이전트에 실질적인 의사결정 권한을 부여할 것으로 예상했지만, 현재 이에 필요한 완전한 통제체계를 갖춘 기업은 5%에 불과했다.

향후 기업 AI의 최대 병목이 AI 모델의 성능보다 ‘통제력’이 될 수 있다는 의미다. AI 에이전트가 기업 내부에서 활동하려면 누가 어떤 에이전트를 만들었는지, 어떤 데이터에 접근할 수 있는지, 어느 수준까지 의사결정을 할 수 있는지, 문제가 발생하면 누가 책임지는지 명확하게 관리해야 한다.

특히 수백 또는 수천 개의 AI 에이전트가 기업 내부 시스템과 연결될 경우 Identity & Access Management, 데이터 접근권한, Human-in-the-loop, Audit Log, 보안, 비용관리, Rollback과 Kill Switch 등 새로운 형태의 AI 운영체계가 필요하다.

이 때문에 향후 기업 AI 인프라에서 ‘AI Control Plane’의 중요성이 커질 것으로 예상된다. 여러 AI와 에이전트를 등록하고 권한과 정책, 비용, 보안, 활동기록을 중앙에서 관리하는 일종의 AI 통제 플랫폼이다.

흥미로운 점은 강력한 AI 거버넌스가 AI 활용을 방해하기보다 오히려 확산을 촉진할 수 있다는 것이다. BCG 조사에서는 주요 AI 통제장치를 모두 구축한 기업이 제한적인 통제장치만 갖춘 기업보다 Agentic AI에서 더 높은 가치를 창출하는 것으로 나타났다. 안전하게 통제할 수 있는 기업일수록 AI에 더 많은 업무와 권한을 맡길 수 있기 때문이다.

• AI가 바꾸는 조직…중간관리 계층 압박 커진다

AI 확산은 기업의 조직구조에도 상당한 변화를 가져올 전망이다. BCG 조사에서 기업들은 AI 도입으로 2030년까지 전체 인력이 약 10~15% 감소할 가능성을 예상했다. 반면 AI 관련 전담 역할은 2026년 전체 인력의 7% 수준에서 2030년 22%까지 증가할 것으로 전망했다.  단순히 AI가 인간의 일자리를 없앤다기보다 기존 직무를 축소하는 동시에 새로운 AI 관련 직무를 만들어내는 대규모 ‘직무 재편’이 진행될 가능성이 높다는 의미다.

특히 변화의 압력을 크게 받을 가능성이 있는 영역은 중간관리 및 조정 업무다. 기업의 중간관리자는 지금까지 정보를 취합하고, 보고서를 만들고, 업무를 배분하고, 진행상황을 확인해 경영진에게 전달하는 역할을 담당해왔다. 하지만 AI 에이전트가 기업 데이터와 업무시스템을 실시간으로 연결하면 이러한 Coordination 업무의 상당 부분을 자동화할 수 있다.  이에 따라 다층적인 계층조직이 보다 슬림한 구조로 바뀔 가능성도 있다.

반면 전략 수립과 전문적인 판단, 고객관계, 창의적 문제해결, 복잡한 협상처럼 인간의 경험과 책임이 중요한 업무의 가치는 상대적으로 높아질 수 있다. 실제로 BCG 조사에서 Future-built와 Scaling 기업의 약 70%는 이미 직원 재교육과 리스킬링에 나서고 있다.

• ‘시간 절감’만으로는 AI ROI가 아니다

기업이 해결해야 할 또 하나의 과제는 AI 생산성을 실제 재무성과로 전환하는 것이다. AI를 사용해 직원 한 명이 하루 한 시간을 절약했다고 해서 자동으로 기업의 매출이나 이익이 증가하는 것은 아니다. 확보된 시간을 추가 영업이나 고객관리, 제품개발, 처리량 확대 등에 재투입하거나 실제 인력·비용 구조를 조정해야 재무적 가치가 발생한다.

따라서 AI ROI를 평가하는 방식도 바뀌어야 한다. 과거에는 AI 사용자 수, 생성된 문서 수, 업무시간 절감 등이 주요 성과지표였다면 앞으로는 매출 증가, 비용 감소, 생산량 증가, 고객 전환율, 업무처리시간, 품질, EBITDA 등 실제 경영지표와 연결해야 한다.

즉 기업 AI의 가치창출 공식은 ‘AI 도입 → 시간 절감’에서 끝나는 것이 아니라 ‘AI 도입 → 생산성 향상 → 업무 재설계 → 자원 재배치 → 매출 증가·비용 절감 → P&L 개선’으로 이어져야 한다.

BCG 조사에서도 AI 선도기업들은 AI 성과를 P&L 또는 이에 직접 연결되는 KPI를 통해 관리하는 비율이 높은 것으로 나타났다.

• 2030년 경쟁력, ‘AI를 가진 기업’보다 ‘AI로 운영되는 기업’

기업 AI 시장의 변화는 결국 기업 운영모델 자체의 변화를 의미한다. 2023~2024년 기업들의 관심이 “생성형 AI를 사용할 것인가”였다면 2025~2026년에는 “AI를 어디에 적용해 실제 성과를 만들 것인가”가 핵심 질문으로 바뀌었다.

다음 단계에서는 “AI 에이전트에 어떤 업무와 권한을 맡길 것인가”가 중요한 과제가 되고, 장기적으로는 “인간과 AI가 함께 일하도록 기업 전체를 어떻게 재설계할 것인가”가 경영진의 핵심 의제가 될 가능성이 높다.

이에 따라 기업 AI 경쟁의 축도 빠르게 이동하고 있다. Model 경쟁 → Application 경쟁 → Workflow 경쟁 → Agent 경쟁 → Operating Model 경쟁으로 이동 중이다.

 좋은 AI 모델을 확보하는 것만으로 지속적인 경쟁우위를 만들기는 점점 어려워진다. 주요 AI 모델의 성능 격차가  줄어들고 기업의 모델 선택권이 확대될수록 차별화의 원천은 AI 자체보다 기업 내부로 이동하기 때문이다.

기업 고유의 데이터, 업무 프로세스, AI 에이전트 운영능력, 조직 및 인력 재설계 역량, 그리고 AI에 권한을 부여하면서도 안전하게 통제할 수 있는 거버넌스가 더 중요한 경쟁요소가 될 가능성이 높다.

특히 BCG 조사에서 주목해야 할 숫자는 AI 가치를 창출하는 기업이 48.5%까지 확대됐다는 것만이 아니다. AI 지출의 80% 이상이 이미 기존 IT 예산 밖에서 발생하고 있다는 사실은 더욱 구조적인 변화다.

AI가 CIO와 IT부서가 관리하는 하나의 기술에서 벗어나 기업의 영업과 생산, 연구개발, 구매, 물류, 고객서비스, 재무와 인사에 투입되는 새로운 ‘생산요소’로 이동하고 있기 때문이다.

결국 2026년은 기업 AI 역사에서 하나의 분기점이 될 가능성이 크다. 기업 AI의 1차 경쟁이 ‘누가 먼저 AI를 도입했는가’였다면, 현재의 2차 경쟁은 ‘누가 AI를 실제 기업가치로 전환하는가’다.

그리고 2030년을 향한 다음 경쟁은 ‘누가 인간과 AI 에이전트, 데이터와 업무 프로세스를 하나의 새로운 기업 운영체계로 재설계할 수 있는가’를 둘러싸고 전개될 전망이다.

이러한 관점에서 기업의 AI 전략 역시 수십 개의 PoC를 추진하는 방식에서 벗어날 필요가 있다. 매출과 비용, 생산성에 가장 큰 영향을 미치는 핵심 업무를 선정하고 이를 End-to-End로 재설계하는 동시에 AI 에이전트의 권한과 책임, 보안과 감사체계를 함께 구축해야 한다.

AI를 도입하는 시대는 빠르게 지나가고 있다. 이제 기업의 경쟁력은 AI를 얼마나 많이 사용하는지가 아니라, AI를 이용해 기업 자체를 얼마나 근본적으로 다시 설계할 수 있느냐에서 결정될 가능성이 높다.