"내 통화 내용 다 털리고 있었다고?"… 신형 AI 스마트폰 녹음 기능의 배신

[KtN 신미희기자] 스마트폰에 탑재된 실시간 통화 녹음과 텍스트 변환, 그리고 인공지능(AI)을 통한 자동 요약 기능은 바쁜 현대인들에게 없어서는 안 될 필수 기능으로 자리 잡았다. 하지만 편리함의 이면에 도사린 개인정보 유출 위험이 수면 위로 드러나며 사용자들의 불안감이 커지고 있다.

최근 출시된 최신형 AI 스마트폰들과 통신사들의 AI 통화 비서 서비스에 포함된 '통화 자동 요약 및 텍스트 변환 기능'을 사용할 때, 사용자의 명확한 인지나 동의 과정이 불충분한 상태에서 음성 및 텍스트 데이터의 일부가 외부 클라우드 서버로 전송되고 있다는 보안 전문가들의 지적이 제기되었다. 제조사와 서비스 제공업체들은 데이터 전송 시 강력한 암호화 알고리즘을 적용하고 요약이 완료되는 즉시 데이터를 파기하거나 익명화 처리한다고 해명하고 있으나, 사용자들은 내밀한 사적 대화가 외부 서버에 기록되고 분석된다는 사실 자체에 강한 거부감을 보이고 있다.

클라우드 전송의 잠재적 위험과 개인정보 보호법 충돌 우려

글로벌 IT 전문 매체와 국내외 보안 업계가 우려하는 핵심은 '데이터의 이동 경로와 저장 및 처리 방식'이다. 스마트폰 기기 자체 내에서 데이터를 처리하는 '온디바이스(On-device) AI' 기술이 적용된 일부 기능을 제외하고, 고도화된 긴 문장 요약이나 복잡한 맥락 분석을 수행하는 대다수의 AI 기능은 데이터를 외부 클라우드 서버로 전송해 처리하는 하이브리드 혹은 클라우드 기반 방식을 채택하고 있다.

보안 전문가들은 이 과정에서 데이터가 서버로 전송되는 도중 패킷 탈취나 서버 자체의 해킹, 혹은 내부 관리자나 작업자의 보안 설정 오류 및 실수로 인해 대량의 개인정보가 외부에 노출될 가능성을 배제할 수 없다고 경고한다. 실제로 최근 국내외에서 AI 통화 요약 서비스의 서버 저장 데이터가 시스템 오류나 작업자 과실로 인해 일시적으로 노출되거나 타인에게 전송되는 보안 사고가 발생하면서 이러한 우려는 현실이 되었다.

또한 통화 상대방의 동의 없이 대화 내용 전체가 텍스트화되어 제3자(클라우드 및 AI 제공 기업)의 서버로 전송되는 행위가 현행 개인정보 보호법이나 음성권 침해 소지가 있다는 법적 지적도 끊이지 않고 있다. 통화 주체인 사용자 본인은 서비스 이용 약관에 동의했더라도, 아무런 고지를 받지 못한 통화 상대방의 목소리와 대화 정보까지 무단으로 수집·가공되는 구조적 한계가 존재하기 때문이다.

내 정보 지키는 '온디바이스 AI' 설정법과 대책

개인정보 유출에 민감한 사용자라면, 스마트폰 설정 내 'AI 기능' 또는 '개인정보 보호' 메뉴를 통해 데이터 처리 방식을 직접 통제할 필요가 있다.

궁극적으로는 제조사와 서비스 운영사들이 기능 활성화 단계에서 데이터의 클라우드 전송 여부와 저장 기간, 파기 방식 등을 사용자가 직관적으로 이해할 수 있도록 명확히 고지하고 선택권을 부여해야 한다. '보안과 암호화'라는 추상적인 안심책을 넘어, 가장 사적인 음성 데이터를 다루는 만큼 철저한 통제권 반환과 실질적인 기술적 안전장치 마련이 강력히 요구되는 시점이다.