[AI 경제 트렌드 기획③] AI 검색이 만드는 필터버블

[KtN 임우경기자] 모든 사용자가 같은 질문을 해도, AI는 각기 다른 답을 내놓는다. 질문자는 하나인데 해석은 여럿이다. 이는 단순한 기술의 유연성일까, 아니면 정보 통제의 새로운 장치일까. 생성형 AI가 정보를 ‘요약’하고 ‘가공’하면서, 그 응답은 이제 더 이상 객관적 데이터가 아니다. 오히려 AI는 질문의 문맥을 전제로 답변을 설계하며, 그 설계는 플랫폼의 알고리즘, 기업의 정책, 사용자의 데이터 이력에 의해 조용히 조율된다. 이것이 바로 AI 시대의 필터버블이다.

생성형 AI, 필터버블을 강화하는가

전통적 검색 엔진은 동일한 검색어에 대체로 동일한 결과를 제공했지만, 생성형 AI는 질문자의 의도와 배경을 분석한 뒤, ‘최적화된’ 응답을 제시한다. 이 최적화는 사실상 개인화(personalization)이며, 그 과정에서 특정 방향의 해석만 반복적으로 주입될 가능성이 커진다.

오픈서베이 리포트는 한국·미국·일본 사용자 모두 ChatGPT나 Gemini를 통해 ‘스크랩·요약·정리’된 정보를 빈번히 소비하고 있으며, 특히 한국의 경우 ‘자료 수집’과 ‘학습 목적’의 활용이 두드러진다. 이처럼 AI에 의해 축약된 정보만을 반복적으로 소비하게 될 경우, 사용자는 자신이 보고 싶어 하는 정보의 '반향실(에코 챔버)' 안에 갇히게 된다.

정보 해석의 독점, 새로운 ‘지식 권력’의 등장

정보를 찾는 시대는 끝났다. 이제는 정보를 가공하고 해석하는 능력이 플랫폼의 자산이자 권력이 된다. 사용자가 AI에게 무엇을 묻든, 그 응답은 단일한 사실보다 ‘AI가 판단한 우선순위’에 기반해 배열된다. 그리고 그 판단은 결국 특정 기업의 알고리즘이 규정한다.

이 구조는 플랫폼이 사용자의 인식 구조를 ‘은밀히 설계’할 수 있게 만든다. 예컨대, 같은 정치적 이슈를 검색해도 어떤 유저에게는 중립적 요약이, 또 어떤 유저에게는 특정 입장을 반영한 응답이 제공된다. AI가 만든 지식은 '팩트'라기보다, '선별된 서사(narrative)'다. 정보의 진실성이 아니라, 설득 구조가 작동하는 것이다.

알고리즘 감시 자본주의: 행동 데이터의 수집과 통제

생성형 AI는 단순히 텍스트를 생성하지 않는다. 사용자와의 상호작용을 통해 질문 패턴, 관심사, 언어 스타일, 심지어 감정 상태까지 수집한다. 이 데이터는 플랫폼 기업에게 있어 ‘비가시적 자산’이며, 그것은 고도화된 알고리즘 훈련에 재투입된다. 사용자는 AI에게 묻는 동시에, 자신의 사고 구조를 ‘제공’하고 있는 셈이다.

이 과정은 Zuboff가 지적한 감시 자본주의(surveillance capitalism)의 연장선 위에 있다. 다만 지금은 '검색 행위'라는 훨씬 더 일상적이고 개인적인 영역에서 이루어지고 있으며, 정보는 사용자의 자산이 아닌, 플랫폼의 권력이 된다. 질문은 자유롭지만, 그 응답은 조율된다.

기술이 아닌 ‘거버넌스’가 필요하다

AI가 단지 정보를 요약하는 기능을 넘어, 사용자의 인식을 설계하는 구조로 확장될수록, 이 영역은 기술의 문제가 아니라 ‘통치(governance)’의 문제로 진화한다. 생성형 AI가 해석을 독점할 경우, 정보 접근의 민주성과 공정성은 구조적으로 위협받는다. 이를 견제할 수 있는 것은 개별 사용자의 판단 능력이 아니라, 공적 시스템에 의한 알고리즘 투명성 확보, 데이터 사용 제한, 편향 감시 체계 구축이다.

AI 검색이 만드는 필터버블은 자율적 탈출이 어려운 구조다. 해석의 반복은 사고의 자동화를 부르고, 자동화는 질문의 빈곤을 낳는다. 정보는 풍부해지지만, 그 다양성은 줄어들 수 있다.

질문은 자유롭다. 그러나 답은 시스템이 정한다

우리는 AI 검색 시대, 정보의 해석이 '개인화'라는 이름 아래 통제되는 시대를 마주하고 있다. 질문의 자유는 존재하지만, 그 자유가 시스템 설계에 의해 조율된다면, 그것은 진정한 자유일 수 없다. 생성형 AI가 필터버블을 강화할 가능성은 충분히 존재하며, 이는 기술적 진보가 가져올 수 있는 가장 조용한 독점이 될 수 있다.