[KtN 박준식기자]인공지능(AI)은 인류의 생활을 혁신하는 기술이자, 민주주의를 위협할 수 있는 새로운 변수다. 「이재명정부 국정운영 5개년 계획(안)」은 이 양면성을 분명히 인식한다. AI는 의료, 교육, 행정 등 국민 생활을 바꾸는 도구로 쓰일 수 있지만, 동시에 가짜뉴스 생산, 정치적 선동, 사회 통제 수단으로 악용될 수 있다. 따라서 기술의 발전이 곧 민주주의의 후퇴로 이어지지 않도록, 신뢰할 수 있는 생태계와 윤리적 규범을 마련하는 것이 국가 전략의 핵심 과제로 제시됐다.

AI의 발전은 정보 환경 자체를 뒤흔들고 있다. 초거대 언어모델은 인간이 만든 텍스트와 거의 구별되지 않는 수준의 문장을 생산하며, 이미지와 음성을 조작하는 기술은 가짜뉴스를 사실처럼 보이게 만든다. 민주주의의 기반은 사실과 진실 위에 세워지지만, 사실과 허구가 뒤섞이는 환경에서는 국민의 합리적 선택이 어려워진다. 계획안은 이러한 위험을 명확히 지적하며, 신뢰 가능한 정보 체계를 마련해야 한다는 원칙을 제시한다.

여기서 중요한 것은 ‘신뢰할 수 있는 AI 생태계’라는 개념이다. 단순히 기술의 윤리적 사용을 권고하는 수준을 넘어, 제도적·사회적 장치를 마련하겠다는 구상이다. 데이터의 투명성, 알고리즘의 공정성, 개인정보 보호, 책임 있는 활용을 보장하는 체계가 필요하다. 이를 위해 계획안은 AI 윤리 규범을 수립하고, 법과 제도를 정비하며, 국제 협력 속에서 한국형 원칙을 세워나가겠다고 밝혔다. 기술의 진보가 민주주의의 약화를 의미하지 않도록, 제도적 울타리를 국가 차원에서 제공하겠다는 것이다.

민주주의 회복이라는 더 큰 틀에서 보아도 AI의 영향은 크다. 계획안은 “국민이 주인인 나라”를 국정 비전으로 내세우며, 국민 참여와 협치를 핵심 원칙으로 삼았다. 이는 곧 AI 시대의 민주주의 과제와 직결된다. 알고리즘이 여론을 조작하거나, 특정 집단의 이익을 강화하는 방향으로 설계될 경우, 국민은 민주적 과정에서 배제된다. 따라서 AI가 민주주의를 위협하는 도구가 아니라, 참여를 확대하고 공론장을 투명하게 만드는 도구가 되도록 하는 것이 목표다.

계획안이 제시하는 민주주의 회복 전략은 크게 세 가지다. 첫째, 정치와 공공 영역에서의 투명성 강화다. AI를 활용한 행정 서비스는 효율성을 높일 수 있지만, 동시에 의사결정 과정이 불투명해질 위험을 내포한다. 이를 방지하기 위해 알고리즘의 공개와 설명 가능성을 보장해야 한다. 둘째, 국민 참여 확대다. AI 기반 플랫폼이 국민의 의견을 수집하고 반영하는 과정에서 왜곡 없이 작동하도록 제도적 안전망을 마련하는 것이다. 셋째, 정보 신뢰 회복이다. 허위 정보 유통을 차단하고, 공적 기관의 정보 제공을 강화해 국민이 진실에 기반해 선택할 수 있도록 지원한다.

AI와 민주주의의 관계는 단순히 위험 관리 차원을 넘어, 새로운 기회로도 연결된다. 계획안은 디지털 기술을 활용한 직접 민주주의 실험을 강조한다. 온라인 공론장, 국민 참여 플랫폼, 실시간 여론 수렴 도구 등이 그 예다. 다만 이는 기술적 편의가 아니라, 민주적 원칙을 강화하는 방식으로 운영돼야 한다. 공정성과 투명성이 확보될 때, AI는 오히려 민주주의를 확장하는 수단이 될 수 있다.

국제적으로도 AI와 민주주의의 관계는 중요한 의제가 되고 있다. 미국은 빅테크 중심으로 AI를 발전시키면서도 선거 개입, 허위 정보 문제에 대한 규제를 강화하고 있고, 유럽은 ‘AI 규제법’을 통해 윤리와 책임을 제도화하고 있다. 중국은 국가 주도의 통제를 통해 AI를 관리한다. 이러한 다양한 접근 속에서 한국은 민주주의와 기술 발전을 동시에 추구하는 균형 전략을 선택하고 있다. 이는 단순히 규제와 성장의 균형이 아니라, 국민 신뢰와 국가 혁신을 동시에 확보하려는 선택이다.

AI의 악용 가능성은 선거와 같은 핵심 민주주의 제도에서 더욱 선명해진다. 허위 정보가 유포되고, 특정 후보를 지지하거나 반대하는 조작된 콘텐츠가 대규모로 생산되면, 국민의 선택은 왜곡될 수밖에 없다. 계획안은 이러한 위험을 최소화하기 위해 공공 차원의 대응 체계를 마련하겠다고 강조한다. 기술적 차단 장치와 법적 규제, 그리고 시민 사회와의 협력 모델이 동시에 필요하다.

그러나 민주주의에 대한 위협은 단순히 가짜뉴스에만 있지 않다. AI가 사회 통제의 도구로 활용될 가능성 또한 경계해야 한다. 국민을 감시하거나, 여론을 인위적으로 조정하는 방식은 민주주의의 근간을 흔든다. 따라서 AI 활용 원칙은 언제나 인간의 존엄과 자유, 그리고 참여를 보장하는 방향으로 설정되어야 한다.

「이재명정부 국정운영 5개년 계획(안)」이 제시한 AI 전략의 특징은 기술 개발과 윤리 규범을 동등한 위치에 둔다는 점이다. AI 고속도로와 K-AI 시티 같은 인프라 투자가 혁신경제의 기반이라면, 신뢰할 수 있는 AI 생태계와 윤리 원칙은 민주주의의 안전망이다. 이 두 축이 균형을 이룰 때만, 한국은 AI 강국을 넘어 민주적 AI 공화국으로 도약할 수 있다.

향후 5년은 기술과 민주주의가 충돌할 것인지, 아니면 조화를 이룰 것인지를 결정하는 시기가 될 것이다. AI가 허위 정보와 선동의 무기가 될지, 아니면 참여와 투명의 도구가 될지는 국가의 선택과 실행에 달려 있다. 국민이 신뢰할 수 있는 환경을 체감할 때, 민주주의는 오히려 더 강해질 수 있다.

대한민국은 지금 AI 공화국을 향한 길 위에서 중대한 기로에 서 있다. 기술 발전을 민주주의와 결합시키는 일, 이것이 「이재명정부 국정운영 5개년 계획(안)」이 제시한 핵심 메시지다. 앞으로의 5년 동안, 국민은 가짜뉴스와 선동의 불안이 아니라, 투명성과 참여의 기회를 경험할 수 있을까. 답은 실행력과 신뢰 속에 있다.