[AI 전환④] AI 위험 증가 속도, 가치의 4배…인공지능기본법 시행과 기업의 안전관리 비용
가트너, CIO 86%가 AI 위험의 빠른 증가 지적…AI 에이전트 확산 속 보안·검증·책임관리의 경제적 중요성 확대 이재명 정부, AI 안전 평가·검증체계 강화 추진…고영향 AI 관리와 규제 계도기간, 기업의 기술 혁신 지원 병행
[KtN 임우경기자]세계 기업의 최고정보책임자(CIO) 86%가 인공지능(AI) 도입에 따른 위험이 경제적 가치보다 빠르게 증가하고 있다고 응답했다. 위험의 증가 속도는 가치 증가 속도보다 평균 4배 빠른 것으로 조사됐다. AI 기술이 기업의 업무와 의사결정에 깊숙이 들어오면서 생산성 향상과 함께 보안, 개인정보 보호, 운영 안정성에 대한 관리 수요가 커지고 있다. 한국에서는 올해 1월 인공지능기본법이 시행됐고, 이재명 정부는 10월 국가 AI 정책 2.0을 통해 기술 활용 확대와 안전성 평가·검증체계 강화를 함께 추진하기로 했다.
글로벌 정보기술 연구기관 가트너(Gartner)는 10월 19일 미국 올랜도에서 열린 IT 심포지엄에서 AI의 경제적 가치와 위험이 서로 다른 속도로 증가하고 있다는 조사 결과를 발표했다. 부문별 책임자의 58%가 AI 사업에서 긍정적인 가치를 경험했다고 응답했지만 실제로 긍정적인 투자수익을 달성한 AI 활용 사업은 전체의 약 20%에 머물렀다.
기업의 AI 도입은 빠르게 확대되고 있다. 평균적인 기업의 AI 활용 사업 수는 1년 사이 400% 넘게 늘었다. 고객 상담과 문서 처리, 데이터 분석, 소프트웨어 개발을 비롯해 생산설비와 물류 관리에도 AI가 사용되고 있다. 업무 효율을 높이려는 투자가 증가하면서 여러 기술을 연결하고 운영하는 데 필요한 관리체계도 복잡해졌다.
가트너의 위험 증가 속도 조사는 CIO들의 인식과 평가를 바탕으로 한 결과다. AI 관련 사고 발생 건수가 경제적 수익보다 정확히 4배 증가했다는 의미와는 차이가 있다. 기업의 기술 책임자들이 AI 활용 확대 과정에서 위험관리 부담이 경제적 성과보다 빠르게 커지고 있다고 판단한 것이다.
특히 AI가 정보를 생성하는 수준을 넘어 업무를 직접 수행하는 환경에서는 관리 범위가 넓어진다. AI 에이전트는 사람의 요청에 따라 여러 프로그램과 데이터에 접근하고, 필요한 작업을 순차적으로 실행할 수 있다. 업무를 처리하는 과정에서 외부 시스템을 호출하거나 기업 내부의 정보를 검색하는 기능도 활용된다.
가트너가 2026년 2분기에 실시한 별도의 조사에서는 기업의 71%가 향후 12개월 안에 에이전트형 AI를 도입할 것으로 예상했다. 그러나 에이전트형 AI에 대한 거버넌스 역량을 갖췄다고 응답한 기업은 21%였다.
AI 에이전트의 도입 계획은 빠르게 확대되고 있지만 이를 관리하는 조직과 기술체계는 상대적으로 늦게 구축되고 있는 셈이다. 기업은 새로운 서비스를 개발하는 동시에 AI가 접근할 수 있는 정보와 실행 가능한 업무, 작업 결과를 확인하는 절차를 마련해야 한다.
고객정보를 처리하는 AI 에이전트의 경우에는 업무 수행에 필요한 데이터와 접근권한을 구분할 필요가 있다. 상담 내용을 요약하는 기능과 고객정보를 수정하는 기능은 서로 다른 수준의 권한을 요구한다. 외부 시스템에 정보를 전송하거나 계약 관련 문서를 작성하는 기능 역시 작업의 성격에 따라 별도의 검증 절차가 필요하다.
기업의 정보시스템은 기존에도 직원과 부서에 따라 접근권한을 구분해 운영해 왔다. AI 에이전트의 확대는 이러한 관리 대상을 사람의 계정에서 자동으로 작업을 수행하는 프로그램까지 넓히고 있다. 업무를 실행한 시스템과 사용한 데이터, 처리 결과를 기록할 수 있어야 책임관계도 구체화된다.
AI가 수행한 업무를 검증하는 비용은 기술 도입의 경제성을 판단하는 데 영향을 준다. 자동으로 작성한 문서의 정확성을 직원이 다시 확인해야 한다면 검토에 필요한 시간이 발생한다. 고객정보를 잘못 처리하거나 기업의 운영 시스템에 오류가 생겼을 때는 수정과 복구에 추가적인 비용이 필요하다.
AI를 도입해 절약한 업무시간과 시스템 운영비를 비교하는 과정에 검증과 보안, 사고 대응에 필요한 자원까지 포함해야 실제 경제적 성과를 평가할 수 있다. 기업 전체의 생산성이 개선되더라도 관리비용이 지속적으로 증가하면 투자수익에 영향을 미치기 때문이다.
가트너는 AI 사업의 가치와 위험을 함께 관리하기 위해 '가치·위험 플라이휠(Value-Risk Flywheel)'이라는 개념을 제시했다. 기술 도입을 통해 얻은 성과가 다음 사업에 활용될 수 있도록 경험과 데이터를 축적하고, 위험관리도 기업 전체의 운영체계 안에서 관리하도록 하는 방식이다.
AI 사업에서 성과가 축적되면 기업은 이미 검증된 기술과 업무 방식을 다른 부서에 적용할 수 있다. 반복적인 개발비용과 시행착오를 줄이면서 기술을 확산하는 구조다. 반면 시스템의 오류와 보안 취약점, 중복된 기술 운영이 누적되면 새로운 사업에서도 관리 부담이 커질 수 있다.
가트너는 기업이 기술의 발전 속도를 조절하고 위험을 관리하는 장치를 '좋은 제동(Good Drag)'이라는 개념으로 설명했다. 의사결정과 실행 기록을 남기고 보안을 점검하며 지출을 관리하는 활동이 여기에 해당한다. 기술 활용에 필요한 감독 절차를 마련해 사고로 인한 손실을 줄이고 안정적인 운영 기반을 확보하려는 접근이다.
기업의 관리체계는 업무의 중요도에 따라 다르게 적용할 수 있다. 직원이 내부 참고용 문서를 작성하는 AI와 고객의 재산이나 권리에 영향을 미치는 의사결정을 지원하는 AI는 필요한 검증 수준이 다르다. 처리하는 정보의 민감도와 오류가 발생했을 때의 영향을 고려해 관리 범위를 정하는 방식이다.
인공지능이 실제 사람의 권리와 생활에 영향을 미치는 영역에서는 이러한 구분이 더욱 중요해진다.
한국은 2026년 1월 22일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'을 시행했다. 2025년 1월 21일 제정된 법으로, AI 산업의 진흥과 함께 기술의 안전성과 신뢰성 확보에 관한 기본적인 사항을 규정하고 있다.
인공지능기본법은 국가 차원의 AI 정책 추진과 기술개발 지원, 산업 육성, 투명성 확보, 안전관리, 고영향 인공지능의 책임 있는 활용 등을 포괄한다. AI 기술을 개발하는 기업과 이를 이용해 서비스를 제공하는 기업의 역할을 구분하고, 기술이 사람의 생명과 안전, 기본권에 미치는 영향을 고려하도록 했다.
법에서 정한 고영향 인공지능은 사람의 생명과 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템이다. 적용 영역에는 에너지 공급과 먹는 물의 생산공정, 보건의료, 교통체계의 주요 운영, 채용과 대출 심사, 학생 평가, 공공기관의 주요 의사결정 등이 포함된다.
고영향 AI의 해당 여부는 활용 분야와 실제 의사결정 구조, 위험의 중대성 등을 종합적으로 고려해 판단한다. 법에서 열거한 분야에 AI를 활용한다는 사실만으로 모든 시스템이 동일하게 분류되는 구조는 아니다. 최종 의사결정에 사람이 참여하는 방식과 시스템의 통제 가능성도 관련 기준에서 고려된다.
채용과 대출 심사는 AI의 판단 결과가 개인의 경제생활과 권리에 영향을 미칠 수 있는 영역이다. 기업은 지원자의 정보를 분석하거나 대출 심사에 필요한 데이터를 처리하는 데 AI를 활용할 수 있다. 기술을 사용하는 범위와 실제 의사결정 과정에 따라 결과의 정확성과 설명, 사람의 감독이 중요해진다.
채용 업무에서는 AI가 지원자의 경력과 자격 정보를 정리할 수 있고, 금융 분야에서는 고객이 제출한 정보를 분석해 심사에 필요한 자료를 제공할 수 있다. 이러한 기능을 활용할 때는 데이터의 정확성과 평가 기준의 적절성, 결과를 확인하는 담당자의 역할을 구체적으로 정해야 한다.
고영향 AI 관련 사업자의 책무에는 위험관리방안의 수립과 운영, 이용자 보호, 사람의 관리·감독, 안전성 확보 조치의 문서화 등이 포함된다. 기술적으로 가능한 범위에서 AI의 판단에 활용된 주요 기준과 학습용 데이터의 개요 등을 설명하기 위한 방안도 마련해야 한다.
기업은 AI 서비스의 개발부터 실제 운영까지 어떤 위험이 발생할 수 있는지 살피고 관리할 수 있는 체계를 갖춰야 한다. 서비스의 적용 범위와 사용 목적, 관련 데이터의 특성, 결과의 검증 방식 등을 정리하는 과정이 필요하다.
AI의 활용 분야에 따라 관리에 필요한 전문인력과 기술도 달라진다. 의료 분야에서는 임상적 정확성과 환자의 안전을 고려해야 하고, 금융 분야에서는 고객정보 보호와 심사 결과의 적정성이 중요하다. 제조업에서는 설비의 운영 안정성과 생산공정의 특성을 반영해야 한다.
AI 기본법 시행으로 생성형 AI의 투명성 확보에 관한 규정도 적용되기 시작했다. 고영향 AI나 생성형 AI를 이용한 제품과 서비스를 제공하는 사업자는 해당 서비스가 AI를 기반으로 운영된다는 사실을 이용자에게 사전에 알려야 한다.
생성형 AI가 만든 결과물에 대해서도 AI 생성 사실을 표시하는 기준이 마련됐다. 실제와 구분하기 어려운 음성이나 이미지, 영상 등에는 이용자가 AI로 제작됐다는 사실을 명확하게 인식할 수 있도록 고지하거나 표시해야 한다.
표시 방식은 결과물의 성격과 이용환경에 따라 달라진다. 일반적인 생성형 AI 결과물에는 알림창과 이용자 인터페이스, 디지털 워터마크 등을 활용할 수 있으며, 실제 인물이나 상황과 구분하기 어려운 딥페이크에는 보다 명확한 식별 방식이 적용된다.
AI 생성 사실의 표시는 콘텐츠 제작과 유통, 소비자의 정보 이용 방식에도 영향을 준다. 기업은 결과물이 제공되는 경로와 표시 방법을 검토해야 하고, AI 콘텐츠를 여러 플랫폼에서 유통하는 경우에는 서비스별 운영 조건도 고려해야 한다.
콘텐츠에 AI 생성 사실을 표시하는 기능은 비교적 단순하게 구현할 수 있는 경우도 있지만, 영상과 음성 등 다양한 형태의 결과물을 관리하는 서비스에서는 개발과 운영에 필요한 작업이 늘어날 수 있다. 다른 플랫폼으로 결과물이 이동했을 때 표시 정보가 유지되는지 점검하는 일도 기술적인 관리 범위에 포함된다.
최첨단 AI 모델의 안전성 확보에는 별도의 기준이 적용된다. 정부는 학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산(FLOPs) 이상이고 최첨단 기술을 적용하며, 사람의 기본권에 광범위하고 중대한 영향을 미칠 위험이 있는 경우 등을 함께 고려하도록 했다.
이 기준에 해당하는 AI 시스템에는 개발과 활용 과정 전반의 위험 식별과 평가, 완화 조치, 안전사고를 감시하고 대응하는 체계 등이 요구된다. 대규모 모델의 기술적 특성과 사회적 영향을 함께 평가하는 구조다.
AI 안전성을 평가하는 작업은 개발자가 설계한 기능이 정상적으로 작동하는지 확인하는 데서 출발한다. 이후 시스템이 예상하지 못한 입력을 받았을 때 어떻게 반응하는지, 접근권한을 적절하게 준수하는지, 민감한 정보를 보호하는지 등을 살펴야 한다.
에이전트형 AI에서는 외부 도구를 실행하는 과정도 중요한 평가 대상이다. 문서를 검색하고 정보를 정리하는 기능과 실제 파일을 수정하거나 다른 시스템으로 데이터를 전달하는 기능은 위험의 범위가 다르다. 실행 권한이 넓어질수록 작업의 기록과 검증, 중단 절차를 정교하게 설계할 필요가 있다.
한국 인공지능안전연구소(AISI)는 올해 상반기 싱가포르 AI안전연구소와 함께 AI 에이전트의 데이터 유출 위험을 평가했다. 6월 공개된 공동 시험에서는 AI 에이전트가 업무를 수행하는 과정에서 민감한 정보를 부적절하게 조회하거나 전달할 수 있는 위험이 분석됐다.
시험에서는 모델의 업무 수행 능력이 높더라도 데이터 처리의 안전성이 함께 확보되는 것은 아니라는 결과가 나타났다. 실제로 도구를 실행하지 않았으면서 작업을 완료한 것처럼 응답하는 현상도 평가 대상에 포함됐다.
이러한 결과는 실험환경에서 확인된 위험 특성으로, 해당 모델들이 실제 이용자에게 동일한 피해를 일으켰다는 뜻은 아니다. 기업이 AI 에이전트를 업무에 도입하기 전에 실행 결과와 정보 접근권한을 함께 점검해야 하는 기술적 근거로 활용할 수 있다.
인공지능안전연구소는 국내외 AI 모델의 안전성을 평가하고 국제적인 검증 방법을 연구하는 역할을 맡고 있다. 올해에는 평가 결과의 공개 범위를 확대하고 해외 관련 기관과 평가 방법 및 기술을 공유하는 협력도 추진했다.
AI 안전성 평가에는 전문인력과 컴퓨팅 자원, 시험용 데이터가 필요하다. 고성능 모델의 위험을 분석하려면 여러 조건에서 반복적으로 시험해야 하고, 새로운 모델이 등장할 때마다 평가 방법도 개선해야 한다.
정부가 국가 AI 컴퓨팅 인프라와 독자 AI 모델 개발을 지원하는 동시에 안전성 평가체계를 강화하려는 배경에는 이러한 기술적 수요가 있다. AI 개발 역량이 확대될수록 모델의 성능과 안전성을 검증할 수 있는 기반도 함께 갖춰야 하기 때문이다.
인공지능기본법 시행 이후 기업의 준비 부담을 고려한 지원정책도 운영되고 있다.
과학기술정보통신부는 법 시행과 함께 최소 1년 이상 계도기간을 운영하기로 했다. 이 기간에는 사실조사와 과태료 부과를 유예하는 방식으로 기업이 새로운 기준에 적응할 시간을 제공한다. 인명사고와 중대한 인권침해 등 사회적으로 중대한 문제가 발생하는 경우에는 예외적인 조사가 가능하도록 했다.
법률은 1월 22일부터 시행됐으며, 계도기간은 관련 규정의 집행을 단계적으로 적용하기 위한 조치다. 기업이 이미 시행 중인 법률의 적용 범위와 이행 방법을 검토하면서 내부 운영체계를 정비할 수 있도록 지원하는 방식이다.
정부는 인공지능기본법 지원데스크도 운영하고 있다. 법률과 기술 분야의 전문가가 참여해 기업의 문의를 상담하고 관련 기준에 대한 해석과 준비 방법을 안내한다. 상담 과정에서 기업의 영업비밀을 보호하고 필요한 경우 익명으로 자문받을 수 있도록 지원한다.
투명성 확보와 최첨단 AI의 안전성, 고영향 AI의 판단 기준, 사업자의 책무, 영향평가 등에 관한 안내 지침도 마련됐다. 기업은 제공하는 서비스가 어떤 규정의 적용 대상인지 살펴보고 필요한 관리 절차를 준비할 수 있다.
중소 AI 기업에는 이러한 지원이 중요하다. 자체적인 법무·준법 조직과 AI 안전성 평가 인력을 갖춘 기업은 새로운 규정에 대응할 수 있는 내부 역량이 상대적으로 크다. 반면 기술개발 인력이 중심인 스타트업은 제품 개발과 함께 법률 검토, 성능 평가, 운영 기록 관리 등을 수행해야 한다.
공동으로 이용할 수 있는 평가 도구와 기술 지원, 관련 지침이 마련되면 기업의 준비에 필요한 시간과 비용을 줄일 수 있다. 여러 기업이 동일한 기술 기준을 참고해 제품을 개발하면 거래기업과 이용자도 일정한 수준의 정보를 바탕으로 서비스를 비교할 수 있다.
안전성 관리에 사용되는 비용은 기업의 성장 단계와 서비스의 성격에 따라 달라진다. 초기 개발기업은 제품의 기본적인 성능과 이용자 확보에 투자를 집중하지만 서비스가 확대되면 운영 안정성과 데이터 보호, 사고 대응을 위한 인력과 기술에 대한 수요도 증가한다.
금융과 의료, 교통 등 사람의 생활에 직접 영향을 미치는 영역에서는 높은 수준의 검증이 사업의 지속적인 운영과 연결된다. AI가 제공한 정보와 판단을 사람이 확인하는 절차, 사고 발생 시 필요한 기록과 복구 방식은 서비스의 신뢰성을 유지하는 요소다.
기업이 안전관리를 위해 지출하는 비용도 장기적인 경제성 평가에 포함된다. AI의 오류를 사전에 발견하는 데 투입한 자원과 사고가 발생했을 때의 복구비용, 서비스 중단에 따른 영업손실 등을 함께 고려하는 방식이다.
정기적인 성능 검증과 보안 점검, 내부 감사는 초기 운영비용을 높일 수 있지만 장기간 서비스를 안정적으로 제공하는 기반이 된다. 기업의 신뢰성과 고객 관계를 유지하는 데도 영향을 준다. 가트너가 제시한 '좋은 제동'은 이러한 관리활동을 기술 혁신과 함께 운영하는 접근이다.
안전관리 체계를 설계할 때는 업무별 위험 수준을 구분하는 방식이 중요하다. 모든 AI 서비스에 동일한 검증 절차를 적용하기보다 처리하는 데이터와 수행하는 작업, 예상되는 영향에 맞춰 관리 수준을 정할 수 있다. 일상적인 문서 요약과 산업설비 운영을 지원하는 AI에는 서로 다른 통제 수준이 필요하다.
기업의 투자 관점에서는 이러한 차등 관리가 운영 효율에 영향을 준다. 위험이 낮은 업무에서는 필요한 수준의 검증을 신속하게 진행하고, 사람의 안전과 권리에 영향을 미치는 업무에는 보다 정교한 시험과 감독을 적용하는 방식이다.
가트너가 조사한 2026년 3분기 기업의 기술·위험관리 현황에서는 CIO 가운데 기술 위험과 사업 위험을 체계적으로 연계해 관리한다고 응답한 비율이 25%였다. AI의 기술적 문제가 실제 사업 운영에 어떤 영향을 미치는지 연결해서 살피는 체계가 아직 일부 기업에 집중돼 있음을 보여준다.
AI 서비스의 기술적인 오류는 사업의 성격에 따라 서로 다른 손실로 이어질 수 있다. 고객 상담에서는 잘못된 안내를 수정하는 비용이 발생할 수 있고, 제조업에서는 설비의 작동과 품질검사에 영향을 줄 수 있다. 금융서비스에서는 거래의 정확성과 이용자 보호가 중요하다.
기업이 기술 위험을 경영관리와 연결하면 AI의 성능 개선을 넘어 서비스 운영의 안정성과 경제적 효과를 함께 살펴볼 수 있다. 정보기술과 보안, 법무·준법, 사업부서가 업무의 특성에 맞는 관리 기준을 공유하는 방식이다.
이재명 정부의 AI 정책도 산업적 활용과 안전성 확보를 함께 추진하는 방향으로 확대되고 있다.
10월 1일 대통령 주재 회의에서는 '문제해결 중심의 국가 AI 정책 2.0 추진 방안'이 논의됐다. 공공과 산업 현장에서 필요한 AI 서비스를 개발해 실제 수요와 시장으로 연결하고, 검증된 서비스의 해외 진출을 확대하는 내용이다. AI의 위험을 평가·검증하는 안전체계를 강화하고 기술 전환에 따른 일자리와 지역산업의 변화에 대응하는 방향도 포함됐다.
이재명 대통령은 새로운 AI 시장을 확대하는 과정에서 기술의 개발과 활용, 평가 및 안전 역량을 함께 높이는 방향을 강조했다. 산업에 필요한 AI 서비스를 개발하면서 이용자의 신뢰와 기술의 안정성을 확보할 수 있는 체계를 강화하려는 정책이다.
이재명 정부의 정책은 AI 기술 확보와 산업 전환에 대한 재정투자, 인공지능기본법의 시행과 현장 적용, 안전성 평가 역량 강화를 함께 추진하는 구조로 확대되고 있다. 2027년 정부 AI 예산안에는 독자 AI 모델과 컴퓨팅 인프라, 산업과 지역의 AI 활용, 전문인력 양성을 위한 투자가 반영됐다.
기술개발에 대한 재정투자는 국내 기업의 AI 활용 범위를 확대하는 기반이 될 수 있다. 안전성 평가와 검증체계는 개발된 모델이 실제 산업과 공공서비스에서 활용되는 과정의 신뢰를 높이는 역할을 맡는다.
국제시장에 진출하는 AI 기업에도 기술의 안전성과 운영관리 능력은 중요하다. 국가와 산업에 따라 적용되는 법률과 기준이 다르기 때문에 해외 서비스를 제공하는 기업은 현지의 개인정보 보호와 소비자 보호, AI 관련 규정을 함께 고려해야 한다. 기술의 성능뿐 아니라 실제 운영과 관리에 관한 정보를 제공할 수 있는 능력이 거래와 사업 확장에 영향을 미친다.
공공부문의 AI 도입에서도 안전관리와 서비스 품질을 연결하는 정책이 추진되고 있다. 정부는 공무원이 직접 개발한 AI 서비스를 실제 업무에 적용하기 전에 품질과 보안, 개인정보 보호 등을 검증하고 운영 주체를 정하는 방안을 마련했다. 새로운 기술의 실험과 행정서비스에서의 안정적인 운영을 구분해 관리하는 방식이다.
민간기업과 공공기관은 AI 활용 목적과 운영 책임에서 차이가 있지만 기술이 처리하는 정보와 업무의 중요도에 따라 관리체계를 마련해야 한다는 공통점이 있다. 특히 AI 에이전트가 여러 시스템을 연결해 작업을 수행하는 환경에서는 실행 결과와 접근권한, 담당자의 감독 범위를 명확하게 정하는 일이 중요하다.
인공지능기본법은 2026년 1월 시행 이후 투명성과 안전성, 고영향 AI 관리에 관한 제도적 기준을 마련했다. 정부는 최소 1년 이상의 계도기간과 지원데스크, 안내 지침을 통해 기업의 적응을 지원하고 있다. 10월에는 국가 AI 정책 2.0을 통해 위험 평가와 검증 역량을 강화하는 방향도 제시했다.
기업의 AI 사업에서는 새로운 기술을 도입하는 속도와 함께 운영 안정성, 비용관리, 이용자의 신뢰를 확보하는 능력이 중요해지고 있다. 모델의 성능을 평가하고 접근권한을 관리하며 사람이 필요한 경우 업무에 개입할 수 있도록 하는 절차가 실제 서비스 운영의 일부로 자리 잡고 있다.
가트너 조사에서 CIO의 86%가 AI 위험의 증가 속도를 우려했고, 에이전트형 AI에 대한 관리 역량을 갖춘 기업의 비율은 21%였다. 한국은 인공지능기본법 시행을 통해 기업의 투명성과 안전관리 기준을 마련했고, 이재명 정부는 기술 개발과 활용 확대를 지원하면서 위험 평가·검증체계를 강화하는 정책을 추진하고 있다.
AI의 경제적 성과는 서비스의 정확성과 운영비용, 업무 생산성뿐 아니라 장기간 안정적으로 사용할 수 있는 기술인지에 따라서도 달라진다. 2026년 시행된 인공지능기본법과 정부의 AI 안전정책은 이러한 기술 운영의 기준을 제도화하는 과정에 놓여 있다. 기업이 축적한 성과를 지속적으로 활용하기 위해서는 검증과 보안, 사람의 감독이 기술개발과 함께 작동하는 운영체계가 중요한 산업 경쟁력으로 자리 잡고 있다.