언어가 권력이다:인식의 지배

1948년, 스코틀랜드의 외딴섬 주라(Jura). 그곳에서 폐결핵과 사투를 벌이던 조지 오웰은 인류 역사에 남을 언어적 경고를 써 내려가고 있었다. 그가 상상한 전체주의 국가 오세아니아의 핵심 병기는 물리적 고문이 아니라 '신어(Newspeak)'라는 정교한 언어 체계였다.1 신어의 목적은 어휘를 늘리는 데 있지 않고 끊임없이 줄이는 데 있다. '자유'나 '반항' 같은 단어 자체를 사전에서 지워, 인간이 체제에 의문을 제기할 개념적 자원마저 갖지 못하게 만든다. 오웰은 언어의 해상도가 낮아지면 인간의 의식 범위도 필연적으로 함께 줄어든다는 것을 피를 토하는 심정으로 통찰했다.

그런데 과연, 약 80년이 흐른 지금 오웰이 경고했던 폭력적 억압은 사라졌다고 볼 수 있을까?

우리는 그보다 훨씬 더 매끄럽고 매혹적인 형태의 새로운 '신어'를 일상적으로 마주하고 있다. 그것은 실리콘밸리의 알고리즘과 거대 언어 모델(LLM)이 제공하는 극도의 효율성이라는 가면을 쓰고 나타났다. 우리는 틱톡의 검열을 피하려고 스스로 단어를 비트는 '알고스피크(Algospeak)'를 놀이처럼 즐기고 AI가 제안하는 정제된 문장에 감탄하며 이메일과 기획안을 채운다.2

하지만 우리는 사유의 복잡성을 담아낼 그릇이 서서히 파괴되고 있다는 사실을 깨닫지 못한다. 현대인은 편의성이라는 달콤한 과실의 맛에 취해 투명한 '디지털 유리 감옥' 안으로 스스로 걸어 들어가는 꼴이다. 과거의 권력이 이단적인 단어를 빼앗는 방식이었다면, 오늘의 권력은 무해하고 효율적인 알고리즘의 문장을 무제한으로 공급하며 우리 고유의 사색 능력을 잠식한다. 이제 지배는 소리 없이 완성된다. 당신의 입술 끝에 머무는 단어의 경계를 획정함으로써 당신이 인식하는 세계의 영토를 통제한다.

지배가 이토록 소리 없이 완성되어 가는 지금, 사람들은 불안감에 휩싸인 채 흔히 이렇게 질문하곤 한다.

"AI 시대에 가장 필요한 능력은 무엇일까? 기계가 흉내 내지 못하는 인간 고유의 능력은 과연 무엇이며, 앞으로 어떤 이가 주목받고 살아남을 것인가?"

이러한 질문 자체가 지금 시대의 맥락에는 전혀 들어맞지 않는다. 우리는 이 질문의 의미 없는 해답을 찾기 전에 훨씬 더 무서운 현실을 먼저 마주해야 한다. 누군가가 당신의 언어 경계를 확정함으로써 당신이 인식하는 세계의 영토를 통제하고 있다면, 당신이 던지는 그 생존적인 질문조차 이미 시스템이 허용한 울타리 안에서 맴도는 것일지도 모르기 때문이다.

이토록 은밀하게 진행되는 언어와 사유의 구조적 통제는 인공지능을 그저 인간의 편의를 돕는 도구로만 바라보던 순진한 관점을 전면적으로 해체할 것을 요구한다. 정보 철학의 관점에서 보면 인간과 기술의 관계는 이제 단순한 도구적 사용을 넘어 기술이 다른 기술과 인간의 사유 양쪽과 실시간으로 상호작용하는 복잡한 단계로 진입했다. 특히 현대의 생성형 AI는 과거의 검색 엔진처럼 데이터를 수동적으로 나열하는 중립적 매개체가 결코 아니다. 이들은 인류의 지식 구조를 재편하고 새로운 의미를 만들며 사회적 담론의 방향까지 능동적으로 설정한다. 그러니 생성형 AI는 엄연한 독립적 '사회적 행위자(Social Actor)'다.

프랑스의 철학자 브뤼노 라투르(Bruno Latour)가 주창한 행위자 연결망 이론(Actor-Network Theory, ANT)의 렌즈로 이 현상을 들여다보면 그 심각성은 더욱 분명해진다.3 ANT는 인간뿐 아니라 사물과 기술 같은 비인간(non-human) 요소 역시 사회적 네트워크에 영향을 미치는 동등한 행위자로 본다. 생성형 AI는 인간과 세계 사이를 잇는 투명한 다리가 아니다. 이들은 방대한 데이터 세트의 패턴을 학습해 인간의 의사소통 방식을 복제하고 대화의 맥락을 장악하며 '의미론적 인공물'을 인간과 함께 만들어 내는 창조적 행위성을 지닌다. 실제로 AI는 지금 새로운 사회·정치적 서사를 구축하고 특정 사건을 바라보는 인간의 해석 틀을 바꾸며 끝내 사회의 가치관 자체를 빚어내는 주체로 활동한다.

문제의 핵심은 기업의 의사결정자나 국가의 정책 입안자들이 AI가 권하는 매끄러운 정답과 요약된 정보에 습관적으로 의존할 때 드러난다. 우리는 이 과정에서 단순히 시간을 아끼는 것일까, 아니면 세상을 주체적으로 해석하고 판단해야 할 인간 고유의 인식적 특권을 기계에 외주 주는 것일까? 현대의 리더들은 정보의 홍수 속에서 인지적 과부하를 겪으며 실리콘밸리가 주입한 '무마찰(zero-friction) 설계'의 상업적 교리에 매료되어 있다. 고도로 유창한 AI 인터페이스는 인간 본연의 '인지적 구두쇠' 성향을 자극해 사유와 검증의 과정을 건너뛰고 인지적 종결의 욕구를 조급하게 채워 준다.

압도적인 유창성과 논리적 일관성의 외관은 인간이 시스템의 산출물을 진리처럼 무비판적으로 받아들이게 하는 '자동화 편향'을 부른다. 리더가 시스템이 허용하고 획정해 놓은 단어와 논리적 프레임 안에서만 복잡한 세계의 문제를 읽어내려 할 때, 그는 보이지 않는 지배 구조의 하위 노드로 편입될 뿐이다. AI가 내놓는 최적화된 결과물에 판단을 계속 맡기다 보면 인간은 모순된 현실을 스스로 해석하고 윤리적 딜레마 앞에서 결단을 내리는 '사유의 근육'을 잃고 만다.

이것은 단순한 업무 도구의 활용이 아니다. 기술 혁신을 빙자한 '인지적 주체성의 자발적 항복'이자, 스스로 통치하고 결단해야 할 주권자의 지위를 불투명한 알고리즘에 양도하는 치명적인 행위다.

우리는 지금 '효율'이라는 핑계에 매몰되어 실체 없는 디지털 파편들을 무비판적으로 섭취하고 있다. 소셜 미디어 플랫폼은 어느새 영혼 없는 봇(Bot)들의 각축장이 되었고 AI가 무한 복제해 낸 콘텐츠가 시장의 언어를 장악했다. 더 비극적이게도, 정보의 탁류 속에서 주체적인 필터를 작동시켜야 할 인간의 인지 능력은 날이 갈수록 마모된다. 심지어 사유의 최후 보루라 불리던 활자의 세계마저 어텐션 이코노미(Attention Economy)의 논리에 포획되었다.4 대중의 관심과 알고리즘의 선택을 받으려고 자극적인 키워드만 기워 만든 양산형 텍스트가 서가를 점령한다. 반면 그동안 진실을 대변했던 깊은 사유의 공간은 조용히 묻혀 간다.

그럴싸한 내용과 제목으로 포장돼 있지만 막상 뜯어보면 뻔한 인사이트를 건네는 책이 넘쳐나는 것도 같은 맥락이다. 그래서 오늘날 서점 신작 매대에서는 좋은 책을 좀처럼 찾아보기 어렵다.