Grok Bot, AI가 회사 계정으로 일한다…‘디지털 동료’ 시대의 권한과 책임

[KtN 임우경기자]사람이 출근하지 않아도 회사 계정으로 웹사이트에 접속하고, 고객 정보를 확인한 뒤 영업 메시지를 작성한다. 비용 처리나 버그 재현 같은 업무를 맡고, 필요한 일이 생기면 다른 AI에게 넘긴다. 업무가 끝났거나 사람의 판단이 필요한 순간에만 담당자를 다시 부른다.

SpaceXAI가 선보인 ‘Grok Bot’이 겨냥한 업무 방식이다. 사용자의 질문에 답하는 챗봇보다 회사 안에서 일정한 역할을 맡아 계속 움직이는 ‘AI 동료’에 가깝다. 별도의 클라우드 컴퓨터 환경에서 업무용 애플리케이션과 웹사이트에 로그인해 여러 단계를 거치는 일을 처리하고, 복수의 봇을 동시에 가동해 서로 업무를 주고받도록 구성할 수 있다. 현재 베타 서비스는 SuperGrok Heavy, Cursor Ultra, Cursor Teams Premium 이용자를 중심으로 제공되고 기업 이용자는 별도의 대기 명단을 통해 접근하도록 했다.

생성형 AI 시장의 경쟁도 달라지고 있다. 처음에는 자연스러운 문장을 만들고 복잡한 질문에 얼마나 정확하게 답하는지가 중요했다. 이후 코드를 작성하고 검색과 외부 도구를 사용하는 단계로 넘어갔다. Grok Bot에서는 AI가 사람의 계정을 통해 실제 업무를 수행하는 단계까지 범위가 넓어진다.

Cursor의 현재 서비스에서도 변화는 이미 나타난다. Cursor는 에이전트가 자체 컴퓨터 환경에서 코드를 만들고 테스트하며 여러 작업을 병렬로 수행하는 클라우드 에이전트 구조를 운영하고 있다. 반복적인 소프트웨어 업무를 일정이나 특정 조건에 맞춰 실행하는 자동화 기능도 제공한다. 회사는 현재 포천 500대 기업의 절반 이상이 Cursor를 사용한다고 밝히고 있다.

SpaceXAI와 Cursor가 함께 훈련한 Grok 4.5도 코딩과 에이전트 업무를 전면에 내세웠다. SpaceXAI 자체 평가에서 Grok 4.5는 소프트웨어 엔지니어링 벤치마크 DeepSWE 1.0에서 62.0%를 기록했다. 공급사가 실시한 평가라는 한계는 있지만, 모델 경쟁의 중심이 단순 질의응답에서 긴 작업을 계획하고 실행하는 능력으로 이동하고 있다는 흐름은 읽을 수 있다.

Grok Bot의 구조에서 더 주목할 부분은 높은 벤치마크 점수가 아니다. AI에게 ‘컴퓨터 한 대’를 맡긴다는 방식이다.

기존 업무 자동화는 특정 소프트웨어가 허용한 API를 연결하는 방식이 많았다. 정해진 데이터와 기능 안에서 자동화 범위를 설계할 수 있었다. Grok Bot처럼 사람이 사용하는 웹 인터페이스에 직접 접속하는 에이전트는 훨씬 넓은 범위를 다룰 수 있다. 사람이 버튼을 누르고 내용을 입력하던 웹서비스라면 별도의 자동화 프로그램을 개발하지 않고도 업무에 포함시킬 수 있기 때문이다.

편리함이 커지는 만큼 보안의 경계도 달라진다. AI가 문서 초안을 잘못 작성하는 것과 고객관리시스템에 잘못된 정보를 입력하는 것은 결과가 다르다. 이메일 초안에 오류가 있는 것과 그 이메일을 외부 고객에게 직접 발송하는 것도 다르다. 결제와 삭제, 계정 변경까지 실행 범위가 넓어지면 AI의 실수는 답변 오류에서 실제 업무 사고로 넘어간다.

기업에서 직원에게 업무용 계정을 발급할 때도 모든 권한을 한꺼번에 주지 않는다. 인사 담당자와 영업 담당자, 회계 담당자가 접근할 수 있는 데이터와 실행할 수 있는 기능을 구분한다. 중요한 업무에는 결재선을 두고 누가 언제 어떤 작업을 했는지 기록한다.

AI 에이전트에도 같은 구조가 필요해지고 있다.

미국 국립표준기술연구소(NIST)는 올해 2월 AI를 포함한 소프트웨어 에이전트의 신원과 권한 관리를 별도 연구 주제로 제시했다. NIST가 검토 대상으로 명시한 항목에는 에이전트의 식별과 인가, 감사, 부인방지(non-repudiation), 프롬프트 인젝션에 대한 통제가 포함됐다. AI가 기업의 데이터와 도구, 애플리케이션을 직접 사용하는 상황에서는 누가 에이전트를 만들었고 누구의 권한으로 어떤 행동을 했는지를 구분할 수 있어야 한다는 취지다.

Grok Bot처럼 여러 에이전트가 동시에 움직이는 환경에서는 관리 범위가 더 넓어진다. 한 봇이 영업 대상을 정리하고 다른 봇이 메시지를 작성한 뒤 또 다른 봇이 발송을 맡는다면 하나의 업무에 여러 AI의 판단이 이어진다. 처음 입력된 잘못된 정보가 다음 에이전트로 전달될 경우 오류도 업무를 따라 이동할 수 있다.

보안 분야에서는 이미 이런 위험을 별도로 분류하고 있다. OWASP가 100명 이상의 전문가와 연구자 등이 참여해 만든 ‘2026 에이전틱 애플리케이션 10대 위험’에는 도구 오용, 신원·권한 남용, 메모리 오염, 안전하지 않은 에이전트 간 통신, 연쇄 오류 등이 포함됐다. 하나의 AI가 독립적으로 움직일 때보다 여러 에이전트가 서로 정보를 전달하고 실행을 이어갈 때 오류의 범위가 빠르게 커질 수 있다는 경고다.

사용자의 업무 방식을 기억한다는 Grok Bot의 특성도 양면성을 가진다. 반복 업무를 한 번 익힌 뒤 같은 절차를 다시 수행하고 사용자의 선호나 표현 방식을 기억한다면 자동화 비용은 크게 줄어든다. 매번 긴 지침을 다시 작성하지 않아도 되고 이전 업무의 맥락을 이어갈 수도 있다.

장기 기억에는 별도의 관리가 필요하다. OWASP는 올해 에이전트의 메모리와 컨텍스트 자체를 새로운 공격면으로 다루고 있다. 외부에서 들어온 잘못된 지시나 악의적인 정보가 장기 기억에 남으면 이후 업무에서도 반복적으로 영향을 줄 수 있기 때문이다. 한 번의 잘못된 입력이 그 작업에서 끝나지 않고 다음 주, 다음 달의 자동화된 행동으로 이어질 수 있다는 구조다.

기업의 도입 기준도 ‘얼마나 똑똑한 AI인가’에서 한 단계 더 내려가야 한다.

영업용 에이전트라면 고객관리시스템 전체를 수정할 권한보다 담당 고객을 조회하고 메시지 초안을 만드는 수준에서 시작할 수 있다. 비용처리 에이전트에는 증빙을 분류하고 결재안을 만드는 기능을 주되 송금과 계좌 변경은 사람이 승인하도록 나눌 수 있다. 게시물 발행과 계약 변경, 파일 삭제처럼 실행 뒤 되돌리기 어려운 업무도 별도의 승인 단계를 두는 방식이 필요하다.

에이전트마다 별도의 신원을 부여하는 것도 중요하다. 직원의 계정을 그대로 공유하면 나중에 어떤 행동을 사람이 했고 어떤 행동을 AI가 했는지 구분하기 어려워진다. ‘영업봇 A’, ‘회계봇 B’처럼 각각의 계정과 권한을 나누고 활동기록을 남겨야 오류가 발생했을 때 경로를 다시 추적할 수 있다. NIST가 에이전트의 식별과 인가, 감사를 함께 다루는 이유도 이와 연결된다.

복수의 에이전트를 운영한다면 업무 인계 기록도 남아야 한다. 고객의 주소를 잘못 읽은 첫 번째 봇, 잘못된 주소를 토대로 견적서를 작성한 두 번째 봇, 해당 견적서를 발송한 세 번째 봇이 있다면 최종 결과만 저장해서는 오류의 출발점을 찾기 어렵다. 에이전트 사이에서 어떤 데이터와 지시가 이동했는지까지 감사기록에 포함해야 한다.

언제 사람을 불러야 하는지도 미리 정해야 한다. 모든 클릭마다 승인을 요구하면 에이전트를 사용하는 이점이 사라진다. 반대로 모든 업무를 마친 뒤 마지막에 한 번만 승인받는다면 이미 여러 단계에서 데이터가 수정됐을 수 있다.

자료를 찾고 분류하거나 초안을 만드는 작업은 비교적 넓게 자동화하되 외부 발송과 게시, 결제, 삭제, 권한 변경처럼 결과를 되돌리기 어려운 행동은 실행 직전에 사람의 확인을 받는 방식이 현실적이다. 에이전트의 자율성을 일률적으로 높이거나 낮추는 대신 행동의 위험도에 따라 승인선을 다르게 두는 구조다.

기업이 측정할 지표도 바뀔 필요가 있다. 모델의 벤치마크 점수만으로는 실제 생산성을 알기 어렵다. 에이전트가 맡은 업무 가운데 사람의 개입 없이 완료한 비율, 중간 승인이 발생한 횟수, 잘못된 실행을 취소하거나 되돌린 비율, 한 업무를 처리하는 데 들어간 시간과 비용, 권한 밖의 행동을 시도한 횟수가 실제 운영에서는 더 중요하다.

특히 마지막 숫자는 생산성과 반대편에 있는 지표처럼 보이지만 에이전트가 회사 시스템에 직접 들어가는 환경에서는 중요성이 커진다. 빠르게 많은 업무를 처리하는 AI와 허용된 범위 안에서만 움직이는 AI 가운데 기업이 장기간 사용할 수 있는 쪽은 후자일 가능성이 높다.

Grok Bot은 여러 AI를 동시에 배치할 수 있다는 점을 전면에 내세운다. 영업, 운영, 개발처럼 서로 다른 일을 맡은 봇이 독립적으로 움직이고 필요하면 서로 업무를 넘기는 구조다. 이용자 한 명이 복수의 에이전트를 관리하는 방식은 AI 한 개를 사용하는 것과 경제 구조도 다르다. 사람이 직접 수행하던 업무량을 줄일 수 있지만 동시에 계정과 접근권한, 데이터 이동, 결과 검토를 관리하는 새로운 일이 생긴다.

AI가 사람의 일을 줄인 뒤 사람에게 남는 역할도 여기에서 달라진다. 반복적인 클릭과 입력을 대신하는 대신 어떤 업무를 자동으로 실행할 수 있는지 정하고, AI에게 어느 수준까지 권한을 줄지 판단하며, 문제가 생겼을 때 실행을 중단하고 복구하는 역할의 비중이 커진다.

기업의 조직 설계에서도 AI 에이전트를 단순한 소프트웨어 라이선스로 처리하기 어려워질 수 있다. 사용자가 한 명 늘어날 때 계정과 권한을 관리하듯 에이전트가 늘어날 때도 신원과 접근범위를 관리해야 한다. 여러 에이전트가 동시에 업무를 맡는다면 조직도에는 나타나지 않는 ‘디지털 작업자’가 기업 시스템 안에서 계속 늘어나는 셈이다.

Grok Bot의 등장은 생성형 AI가 어디까지 자율적으로 일할 수 있는지를 둘러싼 경쟁을 한 단계 앞으로 밀었다. 다만 기업 현장에서 더 중요한 경쟁은 자율성의 크기만으로 결정되지 않는다. 많이 움직이는 AI보다 움직임의 범위를 관리할 수 있는 AI, 문제가 발생했을 때 누가 어떤 권한으로 무엇을 실행했는지 다시 확인할 수 있는 AI가 실제 업무에 오래 남을 가능성이 크다.

챗봇 시대에는 잘못된 답을 사람이 걸러내면 됐다. 에이전트 시대에는 답을 확인하기 전에 AI가 이미 시스템 안에서 행동했을 수 있다.

Grok Bot이 말하는 ‘AI 동료’가 현실의 동료에 가까워질수록 기업이 준비해야 할 것도 사람의 조직과 닮아간다. 업무를 맡기기 전에 권한을 정하고, 중요한 행동에는 승인을 두며, 모든 실행에는 기록을 남겨야 한다. AI가 스스로 일하는 시대의 생산성은 사람이 얼마나 빠르게 업무에서 빠질 수 있는지가 아니라, 사람의 개입이 줄어든 자리에도 책임의 선을 얼마나 정확하게 남길 수 있는지에서 갈리게 된다.