AI 거버넌스(AI Governance) 시장, 2031년까지 32.1% 성장해 17억1300만달러 전망

AI가 빠르게 우리 일상사에 접목되면서 정부와 공공기관, 기업들마다 AI나 머신런닝을 도입해 다양한 프로젝트를 수행하고 있다. 하지만 AI 도입에 따른 윤리적인 이슈나 딥페이크 등의 사생활 침해 등의 우려도 커지고 있다. AI 활용으로 다양한 장점도 제공하지만 반면에 위험요소도 커지고 있는 것이다. 바로 이같은 문제를 해결하기 위해 AI 거버넌스 솔루션이 주목받고 있다.

AI 거버넌스(AI Governance)는 AI의 개발이나 사용 및 이에 따른 영향 등에 대한 규칙과 절차를 설정하는 것으로 AI가 우리 인간에게 안전하게 사용할 수 있도록 관리하는 것을 지향한다. 이같은 AI거버넌스 솔루션은 AI 개발에 따른 윤리적 원칙을 설정하고, AI시스템의 안전과 보안 보장, AI 시스템의 편견 방지와 책임있는 사용 보장, 사회적 영향 평가 등을 포함하고 있다. 즉, AI 거버넌스는 AI의 안전한 도입을 보장하고, 이 사회에 유익하게 활용될 수 있도록 지원하는 일종의 프레임워크라고 할 수 있다. 특히 AI를 기반으로 한 이미지 및 영화 제작 등은 저작권 문제 등을 포함해 윤리적 문제를 야기시키며 이는 사회 구성원들의 갈등을 유발한다.

이같은 AI 도입에 따른 위험을 해소하기 위해 정부 또는 기업마다 다양한 프로젝트를 추진하면서, AI 거버넌스 솔루션을 도입하는 사례들이 증가하고 있다. IBM이 글로벌 CEO들을 대상으로 조사한 내용에 따르면 기업들은 AI 지출을 향후 3년간 현재보다 3배 이상 늘릴 것이라고 응답했다. AI 지출이 늘면서 공정과 신뢰 등의 문제가 필연적으로 나타날 것이며, 이는 AI가 투명성을 제공하지 않는다면 심각한 문제가 될 수 있다는 것을 보여준다. 역시 IBM 조사에 따르면 소비자들 중 81%는 지난 1년동안 기업이 자신의 데이터를 사용하는 방식에 깊은 우려를 표하고 있으며, 75%의 소비자들은 개인 정보 보호에 대해 기업을 신뢰하지 않는다고 답변했다. 이런 점들로 AI 프로젝트를 추진하는 기업이나 기관에서는 AI 거버넌스 도입에 주목하고 있는 것이다.

시장조사기관 Straits Research에 따르면 AI 거버넌스 시장은 2022년 1억3,000만달러에서 2031년까지 연평균 32.1%씩 성장해 오는 2031년에 17억1,300만달러 시장을 형성할 것으로 전망했다. AI 거버넌스 시장은 크게 솔루션과 서비스로 구분되는데, 솔루션 시장은 2031년까지 평균 31.9% 성장할 것이다. Deployment에 따라 AI 거버넌스 시장은 클라우드으와 온프레미스로 구분되는데, 클라우드는 부문 성장세는 연평균 32.3%에 달할 전망이다. 산업별로는 금융권 AI 거버넌스 시장이 가장 수요가 많을 것으로 예측됐다.