[KtN 임우경기자]인공지능(AI)이 사람의 질문에 답하는 수준을 넘어 컴퓨터를 조작하고 업무를 수행하는 단계로 발전하면서 인간의 사고와 판단에도 변화가 나타나고 있다. 자료를 조사하고 문서를 작성하는 작업뿐 아니라 이메일을 분류하고 일정을 관리하며 여러 프로그램을 연동해 업무를 처리하는 기능까지 AI에 맡길 수 있게 됐다. 사람이 직접 수행하던 업무의 일부가 기계로 넘어가면서 작업 과정에 개입하는 시간과 방식도 달라지고 있다.

기업에서는 생성형 AI를 직원들의 생산성을 높이는 도구로 활용해 왔다. 최근에는 사용자가 목표와 수행 조건을 정하면 AI가 필요한 작업을 순차적으로 처리하는 에이전트형 시스템의 활용이 확대되고 있다. 사람이 질문을 입력하고 답변을 기다리는 기존 방식과 달리 AI가 작업을 진행하면서 필요한 정보를 찾고 여러 도구를 호출하는 구조다. 기술이 발전할수록 인간에게 남는 업무는 직접 실행보다 목표 설정과 결과 검토, 최종 승인에 가까워지고 있다.

2025년 마이크로소프트와 미국 카네기멜런대 공동 연구진은 생성형 AI를 업무에 사용하는 지식노동자 319명을 조사해 비판적 사고의 변화를 분석했다. 응답자들이 제시한 실제 업무 활용 경험은 936건에 달했다. 조사에서는 AI의 답변을 신뢰하는 정도가 높을수록 비판적 사고에 투입하는 노력이 적어지는 경향이 나타났다. 반대로 자신의 업무 능력에 대한 확신이 높은 사람들은 AI를 활용하면서도 비판적 사고를 더 적극적으로 수행하는 경향을 보였다.

AI가 작성한 문서와 분석 결과를 그대로 받아들이는 사람과 자신의 지식으로 검토하는 사람 사이에서 사고 과정의 차이가 나타난 것이다. 연구진은 AI의 도움을 받는 동안 비판적 사고의 중심이 정보 수집과 내용 생성에서 사실 검증, 답변의 통합, 작업 전반의 관리로 이동한다고 분석했다. 조사 참여자의 자기보고에 기초한 결과여서 AI 사용이 실제 사고 능력을 떨어뜨렸다는 인과관계까지 입증한 연구는 아니지만, 기술에 대한 신뢰와 인간의 판단 활동이 밀접하게 연결돼 있음을 보여준다.

AI가 업무를 대신 처리하는 속도는 인간이 결과물을 검토하는 속도보다 빠르게 높아질 수 있다. 과거에는 한 사람이 문서 한 건을 작성하는 동안 자료를 찾고 여러 차례 수정하면서 자연스럽게 내용을 검토했다. AI는 같은 시간에 여러 문서를 생성하고 다른 형태의 자료로 다시 정리할 수 있다. 생산량이 늘어나는 만큼 사람이 읽고 판단해야 할 결과물도 증가한다.

업무의 효율화가 반드시 인간의 판단 부담을 줄여주는 것은 아니다. 단순한 작업을 자동화해 확보한 시간을 검토와 분석에 활용할 수도 있지만, 더 많은 업무를 처리하도록 요구받는 환경에서는 결과물을 충분히 살펴볼 시간이 부족해질 수 있다. 한 사람이 여러 개의 AI 에이전트를 동시에 운영하면 작업량은 늘어나지만 개별 결과의 오류를 발견하고 수정하는 일은 더 복잡해질 수 있다.

뇌과학자 김대식 교수는 AI 시대의 노동과 인간의 미래를 다룬 '지식인초대석' 대담에서 에이전틱 AI(Agentic AI)의 등장에 주목했다. 사람이 반복적으로 수행하던 컴퓨터 작업을 AI에 맡기고, 여러 에이전트를 활용해 동시에 업무를 처리하는 변화가 본격화되고 있다는 설명이다. 대담에서는 AI가 사람보다 일을 잘하는 상황에서 인간이 직접 모든 업무를 수행하기보다 AI에 업무를 배분하고 결과를 관리하는 방식으로 일하는 구조가 달라질 가능성도 논의됐다.

에이전틱 AI는 사용자의 지시에 따라 여러 단계의 작업을 수행하도록 설계된 시스템이다. 필요한 정보를 검색하고 문서를 작성하거나 소프트웨어 도구를 사용하는 기능을 결합할 수 있다. 사용자가 허용한 접근 권한과 실행 환경에 따라 이메일을 보내거나 파일을 수정하는 등 실제 작업으로 이어질 수도 있다. 작업의 자율성이 높아질수록 인간이 개별 단계를 직접 조작하지 않는 시간은 길어진다.

사람의 지시 없이 독립적인 목적을 만들어 활동하는 범용 인공지능(AGI)과 현재의 에이전트형 시스템은 구분된다. 오늘날의 AI 에이전트는 주어진 목표와 도구, 접근 권한을 바탕으로 작동한다. 인간이 설정한 조건 안에서 일부 실행 절차를 스스로 선택할 수 있지만 모든 환경을 이해하거나 자신의 행동을 완전하게 통제하는 능력이 검증된 것은 아니다.

AI가 업무를 처리하는 과정에는 여전히 오류와 예상하지 못한 행동이 발생할 가능성이 있다. 생성형 AI는 사실과 다른 정보를 그럴듯한 문장으로 제시할 수 있고, 자료를 잘못 해석하거나 작업의 일부를 누락할 수도 있다. 기존의 대화형 AI에서는 잘못된 답변을 사용자가 읽고 수정하는 데 그칠 수 있었지만 실제 프로그램과 외부 서비스에 연결된 에이전트에서는 오류가 파일 수정이나 정보 전달, 거래 등으로 이어질 수 있다.

컴퓨터를 직접 조작하는 AI 시스템에는 외부 정보에 포함된 명령을 잘못 받아들이는 위험도 있다. 이메일이나 웹페이지의 내용을 읽는 과정에서 본래 사용자의 지시와 관계없는 명령을 작업 지침으로 오인하는 방식이다. 이를 프롬프트 인젝션(prompt injection)이라고 한다. 악의적으로 작성된 내용이 시스템에 전달되면 사용자가 의도하지 않은 작업이 실행될 가능성이 생긴다.

AI 에이전트에 광범위한 접근 권한을 부여할수록 이러한 위험은 커질 수 있다. 업무용 이메일과 고객정보, 회계자료, 결제 시스템을 하나의 AI가 다룰 경우 개별 작업의 오류가 다른 시스템으로 번질 가능성도 높아진다. 실제 AI 도구를 제공하는 기업들은 컴퓨터 사용 기능에 별도의 보안 환경을 마련하고 민감한 정보 접근을 제한하며 금융거래와 같이 중요한 행동에는 사용자의 승인을 받도록 권고하고 있다.

기술의 발전과 함께 인간의 역할은 프로그램을 직접 조작하는 업무에서 권한을 설정하고 작업을 감독하는 업무로 확대되고 있다. 직원이 AI에 자료를 정리하도록 지시하는 것과 고객에게 이메일을 보내거나 계약 관련 정보를 수정하도록 허용하는 것은 책임의 범위가 다르다. 정보 검색과 초안 작성에서는 사람이 사후에 결과를 검토할 수 있지만 금융거래나 개인정보 처리와 같은 업무에는 실행 이전의 승인 절차가 필요할 수 있다.

이러한 변화는 인간의 사고 활동에도 영향을 미친다. 사람은 새로운 정보를 접할 때 기존의 지식과 경험을 활용해 내용을 이해하고 평가한다. 자료를 비교하고 의견의 차이를 살펴보는 과정에서 판단의 근거가 형성된다. AI가 이러한 과정을 압축해 결론부터 제시하면 이용자는 자료를 직접 검토하기보다 완성된 설명을 받아들이기 쉬워진다.

AI가 만든 문장은 문법과 표현이 매끄럽고 구조가 정돈돼 있는 경우가 많다. 전달 방식의 완성도가 높아질수록 정보의 정확성도 높을 것이라고 받아들일 가능성이 있다. 특히 전문지식이 부족한 분야에서는 AI가 제시한 설명의 오류를 발견하기 어렵다. 의료와 법률, 금융과 공공행정처럼 잘못된 판단이 개인의 권리와 생활에 영향을 미치는 분야에서 이러한 문제는 더욱 중요해진다.

인간이 자동화된 시스템의 결과를 지나치게 신뢰하는 현상은 자동화 편향(automation bias)으로 불린다. 컴퓨터가 제시한 판단을 자신의 검토보다 우선하거나 시스템에 포함된 오류를 충분히 살피지 않는 행동이다. 항공과 의료, 산업현장의 자동화 연구에서도 오래전부터 다뤄져 온 문제로, 생성형 AI가 일반적인 사무와 지식노동까지 확산되면서 적용 범위가 넓어지고 있다.

AI의 답변이 항상 틀리다는 불신보다 더 중요한 것은 판단의 근거를 살펴볼 수 있는 능력이다. 같은 자료를 활용해도 사람이 직접 조사한 내용과 AI가 생성한 요약에는 차이가 발생할 수 있다. 원문에 담긴 조건과 맥락, 자료의 작성 시기와 제한사항이 요약 과정에서 누락되기도 한다. 정보의 출처와 작성 배경을 살피는 작업은 결과물이 짧아질수록 오히려 중요해질 수 있다.

2026년 발표된 중국 대학생 대상 연구에서도 AI 지원을 받는 동안의 성과와 독립적으로 수행하는 능력 사이에 차이가 나타났다. 연구진은 8주 동안 대학생 168명을 분석해 AI를 자유롭게 활용한 집단과 사용 범위를 제한하고 성찰 활동을 병행한 집단 등을 비교했다. AI를 자유롭게 활용한 집단은 도구를 사용하는 동안 높은 글쓰기 성과를 보였지만, 이후 AI 없이 수행한 평가에서는 사용을 제한하고 성찰을 병행한 집단이 논증의 깊이와 고차원적 사고 등에서 상대적으로 나은 결과를 나타냈다.

연구는 6개 학급을 대상으로 진행돼 집단 간 차이의 원인을 명확히 분리하기 어렵다는 한계가 있다. AI를 활용해 만든 결과물의 수준과 기술의 도움 없이 수행할 수 있는 개인의 능력이 반드시 일치하지 않는다는 점은 주목할 만하다. 학생이 AI로 완성한 글을 제출하는 일과 해당 내용을 이해하고 스스로 논증할 수 있는 일은 서로 다른 성취다.

직장에서도 비슷한 구분이 필요하다. AI를 통해 작성한 보고서가 정교하더라도 담당자가 핵심 내용을 설명하거나 오류를 수정하지 못한다면 업무의 지속성과 책임 있는 의사결정에는 어려움이 생긴다. 프로그램을 직접 작성하지 않아도 소프트웨어를 만들 수 있는 환경에서는 생성된 코드의 목적과 기능, 보안 문제를 이해하는 능력이 중요해진다. 기업이 직원의 AI 활용 실적만 평가하면 실제 전문성과 결과물에 대한 이해 수준을 충분히 살피기 어려울 수 있다.

AI가 인간의 판단력을 약화시키기만 하는 것은 아니다. 복잡한 자료를 짧은 시간에 정리하고 다양한 의견을 비교하는 데 도움을 줄 수 있다. 이용자가 기존의 주장에 대한 반론을 요청하거나 자료의 오류를 찾도록 지시하면 판단에 필요한 정보를 더 폭넓게 접할 수도 있다. 기술을 사용하는 방식에 따라 인간의 사고 활동이 줄어들 수도, 더 정교해질 수도 있다.

직장인의 AI 활용을 둘러싼 변화는 기업 내부의 권한과 책임 구조에도 영향을 미치고 있다. AI가 직원에게 업무를 배정하고 근무시간과 실적을 분석하며 성과를 평가하는 알고리즘 관리(algorithmic management)는 이미 여러 산업에서 활용되고 있다. 경제협력개발기구(OECD)가 2025년 발표한 기업 조사에서는 미국의 관리자 90%, 프랑스·독일·이탈리아·스페인에서는 평균 79%, 일본에서는 40%가 업무 지시와 직원 활동의 감독, 평가를 지원하는 알고리즘 관리 도구를 적어도 한 종류 이상 도입했다고 응답했다.

이 수치는 모든 기업이 AI로 직원을 자동 평가하고 있다는 뜻은 아니다. 업무 배정과 일정 관리 등 다양한 형태의 소프트웨어를 포함한 조사 결과다. 그러나 관리자의 판단을 지원하거나 일부 관리 업무를 자동화하는 시스템이 폭넓게 사용되고 있다는 사실을 보여준다.

근로자의 성과가 알고리즘을 통해 평가되면 평가 기준의 투명성과 이의제기 절차도 중요해진다. 직원이 어떤 자료를 근거로 업무 실적을 평가받았는지 알 수 없거나 잘못된 데이터가 사용됐는데도 이를 수정하기 어렵다면 자동화 시스템은 조직 내부의 불균형한 권한을 강화할 수 있다. 특히 채용과 승진, 인사 배치처럼 노동자의 생활에 직접 영향을 미치는 결정에서는 결과에 대한 설명과 인간의 검토가 필요하다.

AI 에이전트가 직원을 대신해 업무를 수행하는 경우에도 책임의 범위를 명확하게 정해야 한다. 회사가 승인한 AI 도구가 잘못된 자료를 작성했을 때 담당 직원만 책임을 져야 하는지, 프로그램을 도입한 관리자와 운영업체는 어느 범위까지 책임을 부담하는지가 업무 지침과 계약에 반영돼야 한다. 직원에게 AI 활용을 요구하면서 사용 권한과 사고 대응 절차를 마련하지 않는 방식은 조직 내부의 갈등을 키울 수 있다.

AI 도구를 직접 개발하거나 업무 자동화 시스템을 만든 직원에 대한 보상도 기업의 인력 운용과 연결된다. 자동화로 업무시간을 절감한 직원이 자신의 경험과 노하우를 조직에 공유할 경우 그 성과가 어떻게 평가되는지에 따라 기술 도입에 대한 태도가 달라질 수 있다. 생산성 향상의 결과가 단순한 인력 감축으로 이어질 것이라는 불안이 커지면 직원들은 자신이 만든 도구와 업무 방식을 공개하는 데 소극적일 수 있다.

김대식 교수도 대담에서 기업이 AI를 도입하는 목적과 직원에게 돌아갈 성과를 명확히 설명하는 리더십을 강조했다. 직원이 AI를 자신의 업무를 돕는 도구로 받아들이는지, 일자리를 위협하는 경쟁자로 인식하는지에 따라 기술 도입의 성과가 달라질 수 있다는 취지다. 조직 내부의 신뢰와 보상체계를 함께 마련해야 한다는 문제의식이 담겨 있다.

AI가 수행하는 업무의 범위가 넓어지면서 법률과 제도에서도 인간의 감독이 중요한 원칙으로 자리 잡고 있다. 유럽연합(EU)의 인공지능법 제14조는 고위험 AI 시스템을 사람이 효과적으로 감독할 수 있도록 설계하도록 규정했다. 담당자는 AI의 성능과 한계를 이해하고 결과를 해석할 수 있어야 하며, 필요한 경우 판단을 무시하거나 변경하고 시스템 작동에 개입할 수 있도록 한다.

EU는 고위험 AI에 관한 세부 규정의 적용 시기를 단계적으로 정했다. 독립형 고위험 AI 시스템 관련 규정은 2027년 12월 2일, 규제 대상 제품에 포함된 고위험 AI 시스템 관련 규정은 2028년 8월 2일부터 적용될 예정이다. 인간의 감독을 법률상 요건으로 명시하면서도 적용 분야와 위험 수준에 따라 준비 기간을 달리한 것이다.

한국도 올해 1월 22일부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'을 시행하고 있다. 현행 법률 제34조는 고영향 AI를 제공하는 사업자에게 위험관리방안과 이용자 보호, 주요 결과에 대한 설명 방안, 인간의 관리·감독 등을 포함한 안전성과 신뢰성 확보 조치를 요구한다. 기술이 발전하더라도 생명과 안전, 기본권에 중대한 영향을 미칠 수 있는 AI의 사용에는 책임 있는 관리체계가 필요하다는 취지다.

AI의 판단과 실행 능력이 확대될수록 중요한 의사결정을 누가 승인하고 잘못된 결과를 누가 수정할 수 있는지 제도적으로 정할 필요가 커지고 있다. 의료와 금융, 공공행정 등에서는 AI가 작성한 분석 결과를 활용하더라도 개인의 권리와 생활에 영향을 미치는 최종 결정의 책임이 사라지지 않는다. 기술적 효율성과 판단의 정당성은 각각 검토할 부분이다.

공공행정에서는 AI 활용이 행정업무의 효율화를 넘어 시민의 권리와 연결된다. 정부가 AI를 이용해 민원 자료를 분류하고 정책자료를 분석하면 처리시간을 줄일 수 있다. 반면 복지와 지원 대상의 선정, 행정처분 등에서는 잘못된 정보와 불완전한 분석이 시민의 권익에 영향을 미칠 수 있다. 행정기관이 AI를 도입하는 목적과 실제 활용 범위를 밝히고 시민이 결과를 이해하거나 이의를 제기할 수 있는 절차를 마련해야 하는 이유다.

OECD가 2026년 발간한 디지털정부 전망에서는 조사 대상 36개국 가운데 31개국이 정부 내부 업무에 AI를 활용하고 있는 것으로 나타났다. 공공서비스에 AI를 활용하는 국가는 27개국이었다. 정책 수립에 활용하는 국가는 13개국, 감독과 책임성 강화를 위해 사용하는 국가는 12개국으로 상대적으로 적었다. 반복적인 행정업무에서는 도입이 확대됐지만 판단의 정당성과 책임을 다뤄야 하는 영역에서는 활용이 제한적인 흐름이다.

AI가 방대한 자료를 빠르게 처리하는 능력을 갖췄더라도 어떤 정책을 선택할지 결정하는 일에는 서로 다른 이해관계와 사회적 가치가 개입한다. 예산을 어디에 먼저 사용할지, 위험을 어느 정도 감수할지, 기술 발전의 혜택을 누구에게 배분할지에 관한 결정은 계산 결과만으로 정해지지 않는다. 동일한 자료를 바탕으로도 시민과 정책 담당자의 판단이 달라질 수 있다.

인간의 사고에는 정보 처리뿐 아니라 가치의 선택이 포함돼 있다. 어떤 결과를 바람직하게 여기는지, 다른 사람에게 미칠 영향을 어떻게 고려하는지, 예상하지 못한 상황에서 어떤 책임을 감수할지에 따라 판단은 달라진다. AI는 다양한 선택지를 비교하고 예상되는 결과를 제시할 수 있지만 사회적으로 받아들일 수 있는 결정을 마련하는 과정에는 당사자의 참여와 책임 있는 논의가 필요하다.

문화와 예술에서도 AI의 판단을 활용하는 범위가 넓어지고 있다. 출판과 영상, 디자인, 공연 기획에서는 시장자료를 분석하고 관객의 선호를 예측하며 콘텐츠의 초안을 제작하는 기술을 활용할 수 있다. 이러한 기능은 기획과 제작에 드는 시간을 줄이는 데 도움이 된다. 동시에 과거의 소비 기록과 인기 자료에 의존한 추천이 반복되면 문화적 다양성과 새로운 시도를 평가하는 과정에 영향을 미칠 수 있다.

예술과 문화의 가치는 과거의 인기도나 소비량만으로 결정되지 않는다. 처음에는 낯설거나 이해하기 어려웠던 작품이 시간이 지나면서 중요한 문화적 성취로 평가받기도 한다. 이미 인기를 얻은 형식과 다른 작품을 선택하고 새로운 표현의 가능성을 판단하는 일에는 창작자와 기획자, 비평가, 관객의 경험과 해석이 개입한다.

AI가 관객의 반응을 예측하고 작품의 흥행 가능성을 분석하는 도구로 활용될 수는 있다. 그 예측이 문화예술의 제작과 지원 여부를 결정하는 절대적인 기준이 될 경우 새로운 예술적 시도는 위축될 가능성이 있다. 문화적 가치의 판단에는 경제적 성과 외에 작품의 독창성과 역사적 의미, 사회적 영향, 창작자의 표현 의도 등 다양한 요소가 포함돼 있기 때문이다.

개인의 일상에서도 AI가 제안하는 선택지는 늘어나고 있다. 검색과 쇼핑, 여행과 여가, 학습과 건강관리까지 알고리즘의 추천이 사용자의 선택에 영향을 미친다. 스마트 기기가 이용자의 위치와 검색 기록, 활동 데이터를 함께 분석하면 개인의 생활방식에 맞춘 제안은 더욱 구체적으로 발전할 수 있다.

추천의 편리함이 커질수록 사용자가 직접 정보를 찾고 서로 다른 선택지를 비교하는 경험은 감소할 수 있다. 자신에게 익숙한 취향과 과거의 행동을 바탕으로 제공되는 정보만 반복해서 접한다면 새로운 관심사를 발견하는 기회도 달라진다. AI가 제공하는 선택지를 편리하게 이용하면서도 개인의 관심과 경험을 넓힐 수 있는 환경이 중요한 이유다.

인간의 자율성은 외부의 도움을 받지 않고 모든 일을 혼자 처리하는 능력과 같지 않다. 사람들은 오래전부터 책과 계산기, 컴퓨터와 인터넷을 활용해 지적 능력을 확장해 왔다. 타인의 지식과 기술을 활용하면서도 선택의 이유를 이해하고 행동에 책임을 지는 과정에서 개인의 자율성이 유지돼 왔다.

AI도 인간의 지적 능력을 확장하는 도구가 될 수 있다. 중요한 차이는 사용자가 기술이 제시한 결과를 얼마나 이해하고 판단에 개입하는지에 있다. 인간이 목표와 실행 범위를 정하고 결과를 검토하는 방식은 AI가 제안한 내용을 무조건 받아들이는 사용 방식과 다르다. AI 활용 능력이 높다는 사실만으로 정보의 정확성과 판단의 정당성이 보장되는 것도 아니다.

기업과 학교, 공공기관에서 AI 사용이 늘어날수록 기술을 활용하는 사람들의 전문성과 판단력을 유지하는 일이 중요해진다. 실제 업무와 학습에서는 AI가 제시한 결과를 검토하고 오류를 수정하며 필요할 때 다른 자료와 비교하는 경험이 축적돼야 한다. 자동화된 시스템이 처리한 업무에 대해서도 책임을 지는 사람과 조직의 역할이 명확해야 한다.

생성형 AI를 활용하는 지식노동자 319명의 조사에서 기술에 대한 높은 신뢰는 비판적 사고에 들이는 노력의 감소와 관련이 있었다. 동시에 자신의 업무 능력을 신뢰하는 사람들은 AI를 활용하면서 더 적극적으로 내용을 검토했다. 같은 기술을 사용해도 전문성과 사용 방식에 따라 인간의 사고 활동이 달라질 수 있다는 연구 결과다.

업무를 수행하는 AI 에이전트의 활용이 확대되면서 인간에게 요구되는 능력도 변화하고 있다. 직접 작성하고 계산하는 일의 일부를 AI가 처리하더라도 작업의 목표를 정하고 결과를 해석하며 잘못된 결정을 수정하는 업무는 남는다. 판단의 책임을 개인에게만 맡기지 않도록 기업과 기관의 승인 절차, 접근 권한, 사고 대응 체계도 갖춰져야 한다.

AI가 빠르게 처리한 결과물을 사람이 이해하지 못한 채 승인하는 조직에서는 자동화의 속도만큼 오류와 책임 문제가 커질 수 있다. 반대로 기술이 처리한 내용을 충분히 검토하고 결정의 근거를 설명하는 조직은 생산성 향상과 책임 있는 업무 수행을 함께 추구할 수 있다. AI가 더 많은 일을 수행하는 사회에서 인간의 자율성은 직접 수행한 업무의 양보다 선택에 개입하고 결과를 책임질 수 있는 권한과 능력을 통해 유지된다.