[AI시대 노동현장③] AI가 만든 생산계획, 승인과 책임은 사람에게

[KtN 김상기기자]2025년 경제협력개발기구(OECD)가 프랑스와 독일, 이탈리아, 일본, 스페인, 미국의 기업 관리자 6000여 명을 조사한 결과, 알고리즘 기반 업무관리 도구를 사용하는 관리자 가운데 28%가 잘못된 결정이 내려졌을 때 책임 소재가 불명확하다고 답했다. 27%는 시스템의 판단 과정을 이해하기 어렵다고 했으며, 같은 비율이 노동자의 신체적·정신적 건강을 충분히 보호하지 못하는 문제를 지적했다. 업무 지시와 성과 평가, 근무 일정 관리에 소프트웨어를 활용하는 기업에서 이미 나타나고 있는 변화다.

인공지능(AI)이 생산계획과 재고 관리, 납품 일정까지 조정하는 단계로 발전하면서 제조기업에서도 비슷한 문제가 중요해지고 있다. 생산량을 늘리거나 원자재 구매 시점을 바꾸라는 AI의 제안이 실제 업무에 반영되면 구매와 생산, 물류 부서의 일정이 함께 달라진다. 판단의 출발점은 AI일 수 있지만 결정에 따른 비용과 계약상 책임은 기업과 관련 당사자에게 남는다. 기존의 보고와 결재 절차를 유지하더라도 사람이 결정에 개입하는 범위가 달라질 수 있는 상황이다.

기업의 생산계획은 오랫동안 담당자의 검토와 관리자의 승인을 거쳐 확정됐다. 영업부서가 주문 전망을 전달하면 생산관리자는 설비 가동과 원자재 수급, 재고 상황을 확인해 계획을 작성했다. 구매부서는 필요한 물량을 확보하고 물류부서는 납품 일정을 조정했다. 예상과 다른 상황이 발생하면 담당자가 원인을 파악하고 관련 부서의 의견을 모아 수정안을 마련했다. 중요한 변경 사항에는 관리자의 결재가 필요했다.

AI를 활용한 생산관리에서는 여러 부서가 작성하던 계획의 일부를 소프트웨어가 대신할 수 있다. 주문량과 재고, 운송 일정 등의 데이터를 분석해 생산량 조정안을 제시하고, 공급 차질이 예상되는 품목을 찾아 대응 방안을 비교하는 방식이다. 일부 업무는 정해진 조건에 따라 자동으로 처리할 수도 있다. 사람이 모든 자료를 직접 취합하지 않아도 여러 선택지를 검토할 수 있다는 점에서 기존 업무와 차이가 있다.

그러나 생산계획이 계산상으로 적절하다는 사실과 실제 공장에서 실행할 수 있다는 사실은 다르다. 생산량을 늘리려면 필요한 원자재와 설비, 작업 인력을 확보해야 한다. 납기를 앞당기면 운송 일정과 거래처의 생산계획에도 영향을 줄 수 있다. 재고를 줄이기 위해 발주량을 축소했다가 예상보다 많은 주문이 들어오면 납품 차질이 발생할 가능성도 있다. AI가 제시한 수치가 정확하더라도 생산설비의 정비 일정이나 계약 조건, 작업자의 근무시간을 충분히 반영하지 못했다면 적절한 계획이라고 평가하기 어렵다.

AI의 판단이 실제 업무에 적용되는 과정에서는 승인 권한을 가진 관리자의 역할이 달라질 수 있다. 기존에는 담당자가 직접 작성한 계획을 검토했다면 앞으로는 AI가 제시한 결과와 근거를 살펴야 한다. 계획을 만든 사람에게 수정 이유를 물어보던 방식도 그대로 유지하기 어려워진다. 담당자와 관리자는 어떤 데이터가 사용됐고 어떤 조건에서 계획이 만들어졌는지 확인할 수 있어야 한다.

2026년 10월 맥킨지가 공개한 공급망 AI 전문가 대담에서는 이러한 변화가 조직 운영의 주요 쟁점으로 다뤄졌다. 디지털 공급망 분야의 앤드루 시(Andrew Shih)는 AI가 실시간으로 계획을 수립하더라도 중요한 판단에는 사람의 개입과 책임이 필요하다고 설명했다. 직원은 AI가 따라야 할 업무 목표와 기준을 정하고 자동으로 처리할 업무와 직접 판단해야 할 업무를 구분하는 역할을 맡게 된다는 것이다.

생산관리자가 AI에 업무를 맡기더라도 모든 결정에 동일한 승인 절차를 적용할 필요는 없다. 허용된 범위에서 재고 정보를 갱신하거나 정해진 기준에 따라 자료를 분류하는 일은 자동화할 수 있다. 반면 생산량을 크게 변경하거나 납기 계약을 조정하고 추가 인력 투입을 결정하는 일은 비용과 노동조건에 직접적인 영향을 준다. 기업의 손익과 거래 관계를 바꾸는 결정에는 별도의 검토와 승인 절차가 필요하다.

AI가 자동으로 처리할 수 있는 업무의 범위가 넓어지면 관리자가 확인해야 할 정보의 성격도 달라진다. 모든 계산 결과를 일일이 검토하기보다 사전에 정한 기준에서 벗어난 제안을 집중적으로 살피는 방식이 가능하다. 생산량이나 구매비용이 일정 범위를 넘어서면 추가 승인을 요구하고, 납기 변경이 발생하면 관련 부서에 검토를 요청하도록 운영할 수 있다. 승인 기준을 정하는 일 자체가 관리자의 업무가 되는 셈이다.

하지만 관리자가 최종 승인 버튼을 누른다는 이유만으로 AI의 판단을 충분히 검토했다고 볼 수는 없다. 시스템이 복잡한 계산 결과를 하나의 권고안으로 제시하고 관리자는 이를 확인하는 데 그친다면 기존 결재 절차가 형식적으로 유지될 가능성도 있다. 결정의 근거를 파악할 수 없는 상태에서 승인을 요구받는 직원은 실질적인 판단 권한을 갖기 어렵다.

맥킨지의 마이크 래프터리(Mike Raftery)는 AI가 잘못된 결과를 지나치게 확신에 찬 표현으로 제시하는 위험을 지적했다. 업무 담당자가 제안 내용을 비판적으로 검토할 수 있는 전문성을 유지해야 하며, 잘못된 판단을 발견했을 때 이를 수정할 수 있어야 한다는 설명이다.

AI가 제시한 계획의 근거를 확인하는 능력은 생산관리자의 기존 업무 경험과 연결된다. 설비가 실제로 처리할 수 있는 물량과 원자재 확보에 필요한 시간, 거래처와의 계약 조건을 이해해야 계산 결과의 이상을 알아차릴 수 있다. 숫자가 서로 일치하더라도 현실에서 실행하기 어려운 계획이 만들어질 수 있기 때문이다.

오랫동안 생산과 구매, 물류 업무를 담당한 직원은 계획에 반영되지 않은 조건을 경험으로 알아차릴 수 있다. 특정 설비의 가동이 불안정하거나 공급업체의 납품 일정이 자주 달라지는 상황, 교대근무 조정에 필요한 시간 등은 실제 업무를 이해하는 데 중요한 정보다. AI가 이러한 내용을 충분히 학습하지 못했다면 생산관리자는 제안된 계획을 수정해야 한다.

반대로 AI의 권고에 계속 의존하면서 직접 판단할 기회가 줄어들면 담당자의 검토 능력도 약해질 수 있다. 처음에는 직원이 AI의 계산을 확인하지만 시간이 흐르면서 시스템이 내놓은 결과를 별다른 검토 없이 승인하는 관행이 생길 가능성도 있다. AI를 도입한 뒤에도 기존의 업무 지식과 현장 경험을 유지해야 하는 이유다.

관리자의 판단을 소프트웨어가 지원하는 방식은 이미 여러 나라의 기업에서 활용되고 있다. OECD가 2025년 조사 결과를 바탕으로 발표한 분석에서는 미국의 관리자 90%가 소속 기업에서 업무 지시·감시·평가에 사용하는 알고리즘 관리 도구를 적어도 하나 제공한다고 응답했다. 조사 대상인 유럽 4개국의 평균은 79%, 일본은 40%였다. 해당 조사에는 생성형 AI뿐 아니라 기존의 알고리즘 기반 업무관리 프로그램도 포함돼 있다.

관리자들의 평가는 엇갈렸다. 알고리즘 관리 도구를 사용하는 관리자 가운데 60%는 의사결정의 질이 개선됐다고 답했다. 더 많은 정보를 활용하고 판단에 필요한 시간을 줄일 수 있다는 이유였다. 그러나 시스템이 잘못된 결정을 내렸을 때 책임이 불분명하고 판단 과정을 이해하기 어렵다는 지적도 함께 나왔다. 의사결정의 속도와 정보 활용이 개선돼도 직원과 관리자가 결과를 신뢰하는 문제까지 해결되는 것은 아니었다.

생산계획에 AI가 관여하는 경우에는 판단 과정에 대한 기록도 중요해진다. 어느 시점의 주문과 재고 정보를 사용했는지, 계획을 수정한 이유와 승인한 사람은 누구인지, 변경된 내용이 실제로 실행됐는지를 확인할 수 있어야 한다. 잘못된 결과가 발생했을 때 원인을 추적하려면 최초의 제안과 수정, 승인 과정을 구분해 관리할 필요가 있다.

기업 내부의 책임 관계는 사용하는 시스템과 업무 계약, 조직의 권한 배분에 따라 달라질 수 있다. AI 개발사가 공급한 프로그램에 결함이 있었는지, 기업이 잘못된 데이터를 입력했는지, 관리자가 이상 징후를 확인하고도 계획을 승인했는지를 구분해야 한다. 시스템을 개발한 기업과 이를 운영하는 기업의 역할도 동일하지 않다. 결과에 대한 책임을 판단하려면 기술적 오류와 업무상 판단, 계약상의 의무를 함께 검토해야 한다.

생산계획을 승인하는 관리자에게만 책임을 집중하는 방식도 한계가 있다. 관리자가 시스템의 내부 계산과 데이터 처리 과정을 확인할 권한이 없다면 실제로 통제하기 어려운 결정까지 책임져야 할 수 있다. 오류를 발견했을 때 계획을 보류하거나 수정하고, 필요하면 기존 방식으로 업무를 진행할 수 있는 권한이 함께 마련돼야 한다.

AI가 현장 노동자의 업무를 직접 배정하는 경우에는 책임의 범위가 더욱 넓어진다. 생산량을 늘리는 계획이 작업시간과 교대근무, 업무 강도에 영향을 미칠 수 있기 때문이다. 기존에는 관리자가 근무 일정을 조정하면서 노동자의 사정을 확인하거나 관련 부서와 협의할 수 있었다. 알고리즘이 작업량을 자동으로 배분하는 시스템에서는 이러한 협의가 어떤 방식으로 반영되는지가 중요해진다.

작업자가 계획의 변경 이유를 이해하지 못하거나 현장 상황과 맞지 않는 지시를 받았을 때 이를 수정하도록 요청할 수 있어야 한다. AI의 권고가 기존보다 빠르게 전달되더라도 잘못된 지시를 거부하거나 검토를 요구할 수 있는 절차가 없다면 현장 노동자의 재량은 줄어들 수 있다.

업무 속도와 처리량이 데이터로 기록되는 환경에서는 성과 평가의 공정성도 살펴야 한다. 같은 설비를 사용하더라도 생산품목과 원자재의 상태, 작업 난이도에 따라 처리량이 달라질 수 있다. 이러한 조건을 충분히 반영하지 않고 노동자의 실적을 비교하면 실제 업무 능력과 다른 평가가 나올 가능성이 있다. 생산계획을 세우는 AI와 노동자의 성과를 평가하는 알고리즘은 서로 다른 시스템이지만, 두 기능을 연결해 운영할 경우 직원의 근무조건에 미치는 영향도 커진다.

직원들이 직접 만든 AI 프로그램을 업무에 활용하는 흐름도 기업의 관리 체계에 변화를 가져오고 있다. 업무 담당자가 생성형 AI를 이용해 재고 현황을 정리하거나 납기 변동을 분석하는 프로그램을 만들 수 있게 되면서 전문 개발조직을 거치지 않은 도구도 늘어날 수 있다.

개별 부서의 업무에는 편리할 수 있지만 기업 전체의 데이터와 연결되지 않은 프로그램은 다른 문제를 낳을 수 있다. 영업부서와 생산부서가 서로 다른 기준으로 재고와 주문량을 계산하면 같은 시점에 다른 결과가 나올 수 있다. 승인받지 않은 프로그램에 거래처 정보나 원가 자료를 입력하면 정보 유출과 보안 문제가 발생할 가능성도 있다.

래프터리는 생성형 AI로 만든 여러 프로그램이 기업 내부에 무분별하게 확산되면 과거에 관리되지 않은 스프레드시트 파일이 늘어났던 상황과 비슷한 문제가 발생할 수 있다고 지적했다. 직원들이 각자 편리한 도구를 사용하면서 기업이 데이터와 의사결정 과정을 통제하기 어려워질 수 있다는 것이다. 실제로 일부 기업은 개별적으로 도입했던 프로그램의 사용을 다시 제한했다고 설명했다.

AI 도구의 사용 범위를 관리한다고 해서 모든 부서의 업무를 하나의 프로그램으로 통합해야 하는 것은 아니다. 생산과 구매, 물류는 필요한 정보와 판단 기준이 서로 다르다. 중요한 것은 부서별 프로그램이 사용하는 데이터의 의미를 일치시키고, 업무에 영향을 미치는 결정의 기록과 책임 관계를 관리하는 일이다.

기업이 AI를 도입하면서 기존 결재 단계를 그대로 늘려 놓는 방식도 피해야 한다. AI가 만든 계획을 담당자가 검토하고 부서장이 다시 확인한 뒤 별도의 시스템에서 승인하도록 한다면 자료 작성에 필요한 시간은 줄어들어도 결재 업무는 복잡해질 수 있다. 자동화할 수 있는 일과 사람이 책임지고 결정할 일을 구분해야 실제 업무 변화로 이어질 수 있다.

2026년 한국에서는 AI 시스템의 책임과 관리에 관한 법적 기준도 적용되고 있다. 7월 21일 시행된 인공지능기본법의 개정 규정은 고영향 인공지능을 제공하는 사업자에게 위험관리와 설명 방안, 사람의 관리·감독, 관련 문서의 작성과 보관 등의 조치를 요구한다.

모든 제조업 AI가 이러한 고영향 인공지능 규정의 적용 대상이 되는 것은 아니다. 시스템의 사용 목적과 영향 범위, 법에서 정한 기준에 따라 해당 여부가 달라진다. 그러나 AI의 판단을 사람이 감독하고 중요한 결정의 근거를 관리해야 한다는 원칙은 기업의 생산관리에도 참고할 수 있다.

이재명 정부가 추진하는 제조업 AI 전환 사업에서도 기술 도입과 함께 실제 운영 체계의 정비가 필요하다. 생산계획과 공급망 관리에 AI가 활용되면 기업은 자료를 처리하는 속도뿐 아니라 판단 권한과 책임 관계도 조정해야 한다. 정부 지원으로 AI 시스템을 구축한 기업이라도 업무에 적용하는 과정에서 발생하는 계약상 의무와 노동관계, 안전관리 책임까지 자동으로 해결되는 것은 아니다.

AI 도입의 성과를 평가하는 기준에도 변화가 요구된다. 생산계획을 작성하는 시간이 줄었거나 재고비용이 감소했다면 업무 효율이 개선됐다고 볼 수 있다. 그러나 잘못된 계획으로 납품 차질이 발생했을 때 원인을 추적할 수 없는 시스템이라면 안정적인 운영을 기대하기 어렵다. 결정에 필요한 데이터의 정확성과 오류를 발견하는 시간, 수정된 계획을 실제 현장에 반영하는 과정까지 살펴야 한다.

기업의 책임 체계는 기술적으로 완성된 프로그램 하나만으로 마련되지 않는다. 관리자에게는 결과를 검토하고 계획을 수정할 권한이 필요하고, 현장 노동자에게는 잘못된 지시를 확인하고 이의를 제기할 통로가 필요하다. 시스템을 운영하는 부서는 사용 기록을 관리하고 개발사는 소프트웨어의 결함과 성능을 점검해야 한다. 업무에 따라 서로 다른 책임을 정하고 실제로 작동하도록 운영하는 과정이 뒤따라야 한다.

AI를 통한 의사결정이 확대되면 기존의 관리자 역할도 달라질 수 있다. 과거에는 담당자의 보고를 받아 계획을 검토하고 지시하는 일이 중심이었다면, 앞으로는 시스템이 제안한 결과를 이해하고 현장의 조건에 맞춰 조정하는 능력이 중요해진다. 판단을 직접 수행하는 업무의 일부가 자동화되더라도 중요한 결정에 대한 책임과 이를 검토할 전문성은 여전히 요구된다.

맥킨지의 시는 AI 도입으로 기업의 계획 업무가 정해진 주기에 따라 결과물을 만드는 방식에서 지속적으로 작동하는 시스템을 설계하고 관리하는 방식으로 바뀔 수 있다고 전망했다. 관리자는 AI에 필요한 정보를 제공하고 업무 기준을 정하며 시스템이 처리하지 못하는 상황에 개입해야 한다. 기존의 생산계획 담당자가 맡았던 업무와 책임을 새로운 형태로 나누는 변화다.

그러나 AI가 실시간으로 많은 결정을 제안한다고 해서 기업이 모든 판단을 자동으로 승인해야 하는 것은 아니다. 생산설비와 인력, 납품 계약은 각각 다른 조건에서 운영되며, 잘못된 결정에 따른 영향도 다르다. 자동화의 범위를 넓히는 속도보다 기업이 실제로 감당할 수 있는 위험과 관리 능력을 고려하는 일이 필요하다.

AI가 생산계획을 작성하는 기업에서도 최종 승인과 실행을 담당하는 조직은 남는다. 계획을 직접 만드는 사람이 줄어들수록 잘못된 결과를 알아차리고 수정하는 전문인력의 역할이 달라질 수 있다. 기술을 이해하는 능력과 현장의 경험을 함께 갖춘 관리자를 확보하는 일도 중요해진다.

생산량과 재고를 계산하는 속도는 AI를 통해 높일 수 있지만 계약을 변경하거나 노동자의 근무조건을 조정하는 결정에는 사람과 조직의 책임이 따른다. 2026년 제조업의 AI 전환이 확대되는 가운데 기업은 자동화할 업무와 사람이 승인할 업무를 구분하고, 잘못된 판단을 수정할 수 있는 절차를 마련해야 한다. 기존의 결재와 책임 구조를 조정하는 일은 AI를 실제 생산현장에 정착시키는 과정에서 함께 진행돼야 한다.