[AI, 기업을 다시 짠다④] AI 도입 다음은 조직 재설계…CEO가 업무·인력·의사결정 다시 짠다

[KtN 김 규운기자]인공지능(AI)을 도입한 기업과 AI로 실질적인 가치를 만들어내는 기업 사이에는 조직 운영 방식의 차이가 놓여 있다. 챗봇과 분석도구, 코딩 보조 프로그램을 직원들에게 공급하는 기업은 빠르게 늘었지만 기존 결재선과 부서 구조, 업무 분담을 그대로 유지한 채 기술만 덧붙이는 방식으로는 기업 전체의 성과를 끌어올리기 어렵다는 분석이 잇따르고 있다.

2026년 7월 공개된 기업 AI 운영 분석에서는 AI를 통해 영업이익(EBIT)의 5% 이상을 만들어내는 상위 성과 기업들이 광범위한 운영모델 재설계를 추진할 가능성이 다른 기업보다 3배 높았다. AI 도구를 먼저 고른 뒤 업무에 끼워 맞추기보다 업무 흐름을 먼저 다시 설계한 비율도 두 배 높았다. AI 경쟁의 중심이 모델과 소프트웨어 확보에서 조직의 작동 방식을 바꾸는 능력으로 이동하고 있다는 수치다.

대부분의 기업에서는 AI가 기존 업무 위에 추가되는 형태로 들어간다. 직원은 생성형 AI로 문서를 더 빨리 작성하지만 결재 단계는 그대로 남고, 개발자는 AI로 코드를 빠르게 만들지만 검토와 승인 구조는 바뀌지 않는다. 영업조직이 AI 분석을 받더라도 가격 조정이나 고객 대응을 결정할 권한이 기존 관리단계에 묶여 있으면 판단 속도는 크게 달라지지 않는다.

AI가 단위 업무의 시간을 줄여도 조직 전체의 처리 속도가 같은 비율로 올라가지 않는 이유다. 기존 조직 안에는 승인, 보고, 협의, 검토, 부서 간 조정이 촘촘하게 연결돼 있다. AI가 한 단계의 작업 시간을 줄이면 다음 단계에서 처리량이 늘어나거나 검토 부담이 커질 수 있다. 자동화된 업무가 많아질수록 사람이 직접 작성하는 시간은 줄지만 AI가 만든 결과를 확인하고 책임지는 업무는 늘어난다.

기업 규모가 클수록 변화는 더 복잡하다. 부서마다 사용하는 데이터와 목표가 다르고, 같은 정보를 여러 조직이 별도로 정리하거나 같은 사안을 여러 관리단계에서 다시 검토하는 구조가 남아 있기 때문이다. AI가 기존 흐름에 그대로 들어가면 복잡한 조직을 단순화하기보다 기존 절차를 더 빠르게 반복하는 결과가 나타날 수 있다.

맥킨지글로벌연구소(MGI) 디렉터이자 시니어 파트너인 탕기 캐틀린(Tanguy Catlin)은 7월 공개된 'The McKinsey Podcast'에서 기업의 경쟁력이 AI 생산성 향상만으로 유지되기 어려울 것으로 내다봤다. 비슷한 AI 모델과 도구를 경쟁사도 이용할 수 있기 때문이다. 캐틀린은 변화 속도를 따라가며 빠르게 학습할 수 있는 적응형 운영모델(adaptable operating model)을 앞으로의 경쟁력과 연결했다.

에이전틱 AI 확산은 조직 구조까지 건드린다. 사람이 맡은 직무를 기준으로 업무를 나누던 조직에서 AI 에이전트가 특정 결과를 달성하도록 여러 작업을 수행하면 사람과 AI의 역할 분담 방식부터 달라진다. 정보를 찾고 정리하거나 초안을 만들고 반복적인 검증을 수행하는 업무는 에이전트가 맡을 수 있고, 사람은 결과를 감독하고 예외를 판단하며 최종 책임을 지는 비중이 커질 수 있다.

캐틀린은 이런 변화를 지식 중심 조직에서 결과 중심 조직으로의 이동으로 설명했다. 직무별로 사람을 배치하고 각 부서가 맡은 일을 순차적으로 넘기는 방식보다 하나의 결과를 만들기 위해 사람과 AI 에이전트의 능력을 조합하는 구조가 커질 수 있다는 분석이다. 일부 초급 업무의 자동화가 늘어나면서 AI 시스템 전체를 감독하고 판단할 수 있는 인력의 가치도 높아질 수 있다.

직원에게 AI 계정을 나눠주는 것과 AI를 사용할 수 있는 조직을 만드는 일도 다르다. 캐틀린은 AI 도구를 제공하면서 사용법을 훈련하지 않을 경우 업무 결과가 악화될 수 있다고 지적했다. 새로운 기술을 실제 직무에 적용하는 방법, AI 결과를 검증하는 방법, 사람이 개입해야 하는 범위를 함께 익혀야 한다는 의미다.

기업 내부에서 AI 교육이 소프트웨어 사용법 교육에 머물 수 없는 이유도 여기에 있다. 재무 담당자는 AI가 산출한 분석의 오류를 구별할 수 있어야 하고, 인사 담당자는 채용이나 평가 과정에서 AI가 만들어낸 판단을 그대로 받아들이지 않아야 한다. 개발자는 AI 생성 코드의 구조와 보안 위험을 검증해야 한다. 의료·법률·금융처럼 판단의 책임이 큰 분야에서는 인간의 감독이 더 중요해진다.

성과평가 방식도 영향을 받는다. 기존 업무량을 유지한 채 AI를 이용해 같은 작업을 더 빨리 끝내도록 요구하면 남은 시간에는 새로운 업무가 추가될 가능성이 높다. 직원 입장에서는 AI 사용으로 얻은 효율이 업무 부담 증가로 돌아올 수 있다. 반대로 AI를 활용해 불필요한 절차를 없애고 새로운 제품이나 서비스를 개발할 수 있도록 평가·보상 체계를 바꾸면 생산성 증가가 조직 혁신으로 이어질 수 있다.

실험을 다루는 방식도 달라진다. 캐틀린은 성장 지향적인 리더십과 함께 실험을 보상하고 실패를 처벌하지 않는 인센티브 체계가 필요하다고 강조했다. 모든 AI 시도가 같은 결과를 내지 않는 상황에서 작은 단위의 실험과 수정이 반복될 수 있어야 조직 전체의 학습 속도를 높일 수 있다는 설명이다.

2026년 7월 별도로 공개된 기업 운영 분석에서도 AI 경쟁력은 기술 자체보다 조직의 선택과 연결됐다. 대부분의 대기업이 챗봇과 분석도구, AI 기반 업무도구를 도입했지만 기업 전체에 의미 있는 재무 효과를 만들어낸 곳은 제한적이었다. 기존 거버넌스와 팀 구조, 역량 체계를 그대로 유지한 채 AI로 기존 작업의 속도만 높이는 방식이 상당수를 차지했다.

AI에서 높은 성과를 내는 기업은 투자도 선택적으로 집중하는 경향을 보였다. 여러 부서에 AI를 조금씩 배치하는 방식보다 매출과 비용, 고객 경험에 미치는 영향이 큰 한두 개의 사업 영역을 골라 업무 구조를 다시 설계하는 방식이다. 우선순위가 높은 사업영역에서 업무 흐름과 의사결정 권한, 데이터, 인력을 함께 바꾸고 성과가 확인된 뒤 다른 영역으로 확대한다.

AI 기술이 보편화될수록 운영모델의 차이는 더 중요해질 수 있다. 경쟁사가 같은 기반모델이나 클라우드 서비스를 구매할 수 있어도 기업 내부의 데이터 흐름과 의사결정 방식, 고객 관계, 전문 인력의 경험을 단기간에 복제하기는 어렵다. 소프트웨어 구매만으로 만들기 힘든 조직 운영 역량이 AI 시대의 기업 간 격차를 형성할 수 있다는 분석이 나오는 배경이다.

한국의 AI 정책도 인프라와 기술 개발을 넘어 실제 사용 구조로 범위를 넓히고 있다. 과학기술정보통신부가 담당하는 이재명 정부의 국정과제에는 ‘AI 고속도로 구축’, ‘세계에서 AI를 가장 잘 쓰는 나라 구현’, ‘초격차 AI 선도기술·인재 확보’와 함께 ‘AI 기본사회’가 포함돼 있다. AI 접근성과 활용 역량의 차이가 경제·사회적 격차로 이어지지 않도록 보편적인 이용 기반을 넓히겠다는 구상이다.

정부는 2026년 안에 독자 AI 모델을 활용한 범용 AI 서비스를 국민에게 제공하고, 2027년에는 개인 AI 에이전트 형태로 발전시키겠다는 계획도 제시했다. 정책·복지 정보를 찾아주는 데서 신청 절차까지 연결하는 방식도 포함됐다. 국민의 AI 접근성을 높이는 정책이 챗봇 공급에서 개인 단위의 업무 수행형 에이전트로 확대되는 흐름이다.

AI 활용 범위가 넓어질수록 기업에서 나타나는 운영모델 문제가 공공부문에서도 반복될 수 있다. 행정기관이 기존 민원 절차를 유지하면서 챗봇만 추가하면 정보 탐색 시간은 줄일 수 있지만 처리 과정 전체가 달라지는 것은 아니다. AI가 신청정보를 정리하고 관련 제도를 찾고 서류 제출까지 연결하려면 기관 간 데이터 흐름과 책임 범위, 승인 절차를 함께 손봐야 한다.

10월 1일 청와대에서 논의된 ‘국가 AI 정책 2.0’에서도 방향 변화가 나타났다. AI 정책을 공공과 산업 현장의 구체적 수요와 서비스·시장으로 연결하고, 검증된 서비스의 해외 진출을 확대하는 방안이 보고됐다. AI 위험을 평가·검증하는 안전체계를 강화하고, 전환 과정에서 발생할 수 있는 일자리와 지역 산업 충격에도 대응한다는 내용도 함께 제시됐다.

대규모 GPU와 데이터센터, 독자 AI 모델을 확보하는 공급 측 정책에 현장에서 어떤 업무를 AI로 바꿀지라는 수요 측 접근이 더해지는 흐름이다. AI 인프라가 구축돼도 기업의 생산 공정과 행정기관의 업무 절차가 그대로라면 활용 효과가 제한될 수 있다. 현장의 업무 구조를 바꾸는 단계까지 들어가야 인프라 투자가 생산성으로 연결된다.

고용정책에서는 변화가 이미 직업훈련으로 들어왔다. 고용노동부는 2026년 14개 지역 인적자원개발위원회를 통해 ‘AI 워커(Worker)’ 직업훈련 시범사업을 시작했다. 단순한 AI 기능 교육보다 실제 업무 흐름을 AI와 함께 다시 구성하는 훈련을 전면에 내세웠다. 직업훈련 수강생용 AI 활용 기초역량 가이드에서도 AI 생성물에 대한 인간의 감독을 별도 역량으로 다뤘다.

직업훈련 교·강사 교육도 확대되고 있다. 한국기술교육대는 2026년 직업훈련 교·강사 보수교육 대상 5만5000명 가운데 약 1만명을 AI 인재로 양성한다는 계획을 세웠다. AI가 특정 개발자나 IT 인력의 기술에서 일반 직무의 작업 방식으로 이동하면서 교육 대상도 넓어지는 흐름이다.

이재명 대통령은 5월 노동절 기념사에서 AI가 산업과 일하는 방식을 바꾸고 있으며 기술 변화가 노동시장에도 영향을 미칠 수 있다고 밝혔다. 같은 달 질베르 웅보(Gilbert Houngbo) 국제노동기구(ILO) 사무총장과의 면담에서는 AI 기술 발전에 따른 노동시장·산업구조 변화와 노동권 보호, 기술혁신의 균형을 논의했다.

기업에서 AI가 직무를 바꾸는 속도와 노동시장이 인력을 다시 훈련하는 속도가 맞지 않으면 생산성 향상의 효과도 제한될 수 있다. 반복 업무가 자동화되는데 기존 직무 체계와 인사평가, 교육과정이 그대로라면 인력의 역할이 불분명해질 수 있다. AI와 함께 일할 수 있는 능력을 기존 직무 안에 다시 배치하는 작업이 필요한 이유다.

AI는 기업의 관리층에도 변화를 가져올 수 있다. 정보를 취합해 상위 조직에 보고하고 여러 부서의 진행 상황을 조정하던 업무 일부를 AI가 수행하면 중간관리자의 역할도 바뀐다. 보고서를 만드는 능력보다 여러 AI 시스템이 만들어낸 결과를 판단하고 자원을 배분하며 사람 간 갈등과 예외상황을 조정하는 역량의 비중이 커질 수 있다.

최고경영자(CEO)의 역할도 기술 구매 승인에서 조직 구조 결정으로 이동한다. 어느 업무를 AI에 맡길지, 사람에게 남겨야 할 판단은 무엇인지, 부서 사이의 의사결정 권한을 어디까지 조정할지, AI 활용으로 만들어진 생산성 향상을 어떤 방식으로 배분할지는 정보기술 부서만 결정하기 어려운 사안이다.

AI를 통해 EBIT의 5% 이상을 만들어내는 기업이 운영모델 재설계에 더 적극적이라는 수치는 기술과 조직의 관계를 압축해 보여준다. 같은 AI 도구를 사용하더라도 기존 업무를 빠르게 수행하는 데 그치는 기업과 업무 자체를 다시 구성하는 기업의 결과는 달라질 수 있다.

한국에서는 ‘AI 고속도로’와 대규모 AI 예산, 독자 AI 모델 구축에 이어 산업과 공공 현장의 사용 구조를 바꾸는 정책이 동시에 진행되고 있다. 10월 공개된 국가 AI 정책 2.0은 현장 수요를 서비스와 시장으로 연결하고 일자리 충격까지 함께 다루는 방향을 제시했다. 기업에서는 업무 흐름과 인력, 의사결정 구조를 다시 짜는 움직임이 나타나고 있다. AI의 보급 속도가 빨라질수록 경쟁력의 차이는 기술을 가진 조직과 기술에 맞춰 스스로의 작동 방식을 바꾼 조직 사이에서 더 크게 벌어질 가능성이 있다.