[칼럼] AI보다 느린 회사

[KtN 전성진기자]기업 정보기술(IT) 책임자의 85%가 앞으로 3년 안에 인공지능(AI)을 적용한 비즈니스 서비스를 내놓을 계획이다. 사업 수요에 맞춰 유연하게 바뀌는 IT 운영체계를 효과적으로 구축했다는 최고정보책임자(CIO)는 24%에 그쳤다.

AI 도입을 서두르는 기업과 AI를 제대로 운용할 수 있는 기업 사이에 61%포인트의 간격이 벌어졌다. 모델의 성능이나 투자 규모만으로는 설명하기 어려운 차이다. AI는 빠르게 진화했지만 예산을 편성하고 계약을 검토하며 업무를 승인하고 직원을 평가하는 기업의 방식은 거의 달라지지 않았다.

가트너가 2026년 하반기 내놓은 ‘CIO 보고서’에는 기업의 속도 차가 여러 수치로 나타난다. CIO의 50%는 IT 조직이 변화의 속도를 따라가지 못한다고 답했다. 낡은 IT 운영체계 때문에 2028년까지 기업의 절반이 AI에서 측정 가능한 사업가치를 얻지 못할 것이라는 전망도 나왔다.

AI 투자 실패를 기술 실패로만 받아들이기 쉬운 시기다. 정확도가 낮은 모델을 선택했거나 학습 데이터가 부족했고, 직원의 활용 능력이 떨어졌다는 설명이 뒤따른다. 실제 기업에서는 훨씬 오래된 장애물이 AI의 앞을 막는다. 보고 절차와 부서별 권한, 연간 예산, 구매 계약, 보안 승인, 성과평가가 한꺼번에 맞물려 있다.

AI가 10초 만에 보고서 초안을 만들어도 세 단계 결재가 그대로 남아 있으면 조직의 처리시간은 크게 줄지 않는다. 직원이 AI로 업무 시간을 절반으로 줄여도 추가 업무만 배정받으면 기업의 수익 구조는 달라지지 않는다. AI 이용률은 높아지지만 상품 출시와 고객 대응, 비용 절감으로 연결되지 않는 배경이다.

생성형 AI가 들어온 뒤 업무 절차가 줄어들기는커녕 늘어나는 조직도 있다. 기존 보고서와 AI가 만든 자료를 함께 제출하게 하고, 정확성을 우려해 여러 부서의 검토를 추가한다. 보안·법무·데이터 조직은 각자의 기준으로 승인을 요구한다. 직원은 도구를 사용하기 전보다 더 많은 결과물을 만들지만 회사의 의사결정 속도는 그대로다.

AI는 기업의 업무를 자동화하기 전에 조직 내부의 비효율을 확대한다. 간결한 업무 구조에 들어가면 처리시간을 줄이지만 복잡한 조직에 얹히면 기존 절차를 더 빠르게 반복한다. 기술은 조직이 가진 능력뿐 아니라 조직이 안고 있던 낭비까지 증폭시킨다.

레거시 시스템 현대화에서도 같은 흐름이 나타난다. 2026년 소프트웨어 현대화 사업에서 AI 보조 도구를 쓰는 비율은 20%에 못 미치지만 2029년에는 90%에 이를 것으로 전망됐다. 생성형 AI의 도움으로 2028년까지 애플리케이션 현대화 비용이 30% 줄어들 것이라는 예상도 제시됐다.

오래된 코드를 분석하고 새로운 언어로 변환하는 일은 빨라질 수 있다. 시험 코드를 만들고 기술 문서를 정리하는 반복 작업도 줄어든다. 수십 년 된 시스템을 유지하느라 투입했던 개발비를 낮출 가능성은 충분하다.

기업의 핵심 시스템은 코드의 집합에 머물지 않는다. 금융회사의 거래 규칙과 제조업체의 생산 절차, 유통기업의 주문·정산 방식이 프로그램 안에 쌓여 있다. 문서로 남지 않은 예외 처리와 부서 간 합의, 고객별 조건도 포함돼 있다. AI가 코드를 바꾸더라도 기업이 축적한 업무 규칙까지 정확하게 옮겼는지는 사람이 검증해야 한다.

현대화 비용이 줄어든 자리에는 새로운 비용이 들어온다. AI 도구와 클라우드 사용료, 데이터 정리, 보안 점검, 자동 생성 코드의 검증 비용이 발생한다. 새 시스템과 기존 시스템을 함께 가동하는 동안에는 이중 운영비도 든다. 개발비 30% 절감이 기업 전체의 IT 비용 30% 감소를 뜻하지 않는 이유다.

코드 작성이 빨라질수록 경영진은 시스템 전환 일정도 앞당기려 한다. 현업의 데이터 검증과 업무 시험은 같은 속도로 줄어들기 어렵다. 개발 완료를 사업 준비 완료로 간주하면 단축한 일정이 장애와 재작업으로 돌아올 수 있다.

AI 시대의 기술 부채는 오래된 코드에서만 생기지 않는다. 쉽게 생성한 프로그램이 부서마다 늘어나고, 비슷한 기능이 중복 개발되며, 만든 사람조차 구조를 충분히 이해하지 못한 코드가 남을 수 있다. 오래된 대형 시스템을 정리하는 동안 관리되지 않는 소규모 AI 시스템이 새로운 부채로 쌓이는 셈이다.

인력 운영에서도 기술과 조직의 속도는 엇갈린다. CIO의 51%는 달라지는 AI 역량 수요와 보유 인력 사이의 격차를 가장 큰 부담으로 꼽았다. 기업의 56%는 직원을 대체하기보다 AI로 업무 능력을 보강하는 데 집중하고 있다.

‘대체보다 보조’는 안정적인 선택처럼 들린다. 사람은 맥락과 판단을 맡고 AI는 속도와 처리량을 담당하는 구조다. 사람과 기술의 장점을 결합하면 생산성을 높이면서 고용 충격도 줄일 수 있다는 기대가 담겨 있다.

직원이 AI 결과를 판별할 능력을 잃으면 보조와 대체의 경계는 무너진다. AI가 만든 회계 자료를 검토하려면 회계 지식이 필요하고, 생성된 프로그램 코드를 승인하려면 직접 코드를 이해할 수 있어야 한다. 작성 능력이 약해진 직원에게 더 높은 수준의 검증 책임만 맡기는 구조는 오래 지속되기 어렵다.

기업의 40%만 AI 사용에 따른 직원 숙련도 저하를 막기 위한 전략을 갖추고 있다. 대다수 기업이 직원과 AI의 협업을 내세우면서도 협업을 유지하는 데 필요한 인간의 능력을 어떻게 보존할지는 충분히 준비하지 못했다.

경력 초기 직원에게 영향이 더 클 수 있다. 초급 업무는 오랫동안 조직의 학습 과정이었다. 자료를 찾고 기본 코드를 작성하며 반복적인 고객 문의를 처리하는 동안 업무의 원리와 예외 상황을 익혔다. AI가 입문 단계의 일을 대체하면 단기 생산성은 높아지지만 다음 세대의 전문가가 성장할 경로는 좁아진다.

초안 작성을 해보지 않은 직원에게 초안의 오류를 검토하게 하고, 직접 코딩한 경험이 부족한 개발자에게 AI 코드를 승인하도록 요구하는 조직이 나올 수 있다. 자동화로 사다리의 아래쪽을 없앤 뒤 직원에게 위쪽 단계로 올라오라고 요구하는 구조다.

성과평가도 달라져야 한다. AI를 사용한 뒤 문서와 코드의 생산량은 빠르게 늘어난다. 처리량만 평가하면 오류를 걸러내고 위험을 막은 직원의 기여는 잘 드러나지 않는다. 정확성과 재작업률, 고객 불만, 규정 위반 가능성, 장애 발생 후 복구시간을 함께 측정해야 한다.

AI가 만든 결과의 책임을 직원에게 맡기려면 검토할 시간과 수정할 권한도 줘야 한다. 생산 속도가 높아졌다는 이유로 업무량만 늘리면 직원은 자동 생성물을 충분히 살피지 못한다. 사람은 최종 책임자라는 선언과 빠르게 처리하라는 조직의 요구가 충돌하는 순간 AI의 오류는 개인의 실수로 기록된다.

기업은 AI를 구입하면서도 AI가 바꿔 놓을 권한과 책임의 구조에는 충분한 비용을 쓰지 않는다. 기술 예산은 눈에 보이지만 업무 재설계와 교육, 검증, 변화 관리에 필요한 시간은 비용으로 인식하지 않는 경향이 있다. 이용권을 배포한 뒤 직원이 알아서 생산성을 높여주기를 기대하는 방식이다.

CIO의 역할도 서버와 소프트웨어를 관리하던 범위를 넘어섰다. AI 모델의 사용량과 데이터 이동, 외부 공급업체, 자동화된 에이전트의 접근 권한까지 관리해야 한다. 최고인사책임자와는 직무·교육·평가를 조정하고, 최고재무책임자와는 사용량에 따라 달라지는 비용을 계산해야 한다. 보안과 구매, 법무 조직과도 책임을 나눠야 한다.

의사결정권은 넓어졌지만 책임은 CIO에게 집중될 가능성이 크다. AI 성과가 낮으면 기술 선택의 실패로 평가받고, 보안 사고가 나면 관리 부실 책임을 진다. 직원의 저항과 숙련도 저하까지 CIO의 영역으로 넘어온다. 경영진 전체가 맡아야 할 조직 개편을 기술 부서의 사업으로 처리하면 AI 전환은 처음부터 좁은 범위에 갇힌다.

지정학적 불안과 공급망 위험도 비용과 조직의 문제로 이어진다. 이사회 구성원의 70%는 국제 분쟁과 지정학적 불안을 가장 큰 외부 위협으로 꼽았다. 특정 클라우드와 모델 공급업체에 대한 의존을 줄이려 여러 업체를 사용하면 복원력은 높아질 수 있다. 계약과 데이터 관리, 기술 인력, 운영비는 더 복잡해진다.

AI 공급업체를 늘리는 일보다 중요한 것은 공급이 끊겼을 때 실제로 다른 서비스로 옮길 수 있는 구조다. 데이터 이전 조건과 대체 모델 적용 시간, 장애 복구 순서, 계약 종료 뒤의 시스템 운영 방안이 마련돼야 한다. 여러 회사와 계약했다는 사실만으로 사업 연속성이 확보되지는 않는다.

2028년까지 기업 절반이 낡은 운영체계 때문에 AI의 측정 가능한 가치를 확보하지 못할 것이라는 전망은 기술 낙관론과 기업 현실의 간격을 압축한다. AI 서비스 계획 85%와 유연한 IT 조직 24%, 2029년 현대화 도구 사용 전망 90%와 숙련도 보호 전략 40%도 같은 간격을 가리킨다.

AI를 도입하는 데는 예산과 계약이 필요하다. AI에 맞춰 회사를 바꾸는 데는 권한과 책임의 재배치가 필요하다. 후자가 훨씬 어렵고 오래 걸린다. 부서의 권한이 줄어들 수 있고, 관리자의 역할이 달라지며, 기존 성과평가와 인력 운영도 수정해야 하기 때문이다.

기업들은 모델의 응답 속도를 비교하며 AI 경쟁을 벌이고 있다. 실제 성과는 결재시간과 시스템 전환 기간, 오류율과 재작업, 장애 복구시간, 직원의 판별 능력에서 갈리게 된다. 2028년 AI 사업가치와 현대화 비용, 2029년 소프트웨어 전환 결과가 공개되면 기술을 산 기업과 조직을 바꾼 기업의 격차도 수치로 드러날 전망이다.