AI에게도 관점이 있다면

어느 날, 시부모님과 작은 마찰이 생겼다고 상상해 봅시다. 마찰이 조금씩 커져 큰 갈등이 되어갈 때, 누구에게도 쉽게 털어놓을 수 없지만 속에는 답답함이 남습니다. 결국 사람 대신 AI를 찾아 고민을 쏟아놓게 되는데요. 그럴 때 AI는 우리에게 어떤 대답을 건넬까요?

세 모델 다 위로하듯 말을 건네지만, 방향은 제각각입니다. 미국의 ChatGPT는 잠시 시부모님과 거리를 두라고 조언하는 반면, 중국의 딥시크는 타협을 시도해볼 것을 권하죠. 시부모님의 간섭은 애정에서 비롯된 것일 수 있다는 설명과 함께요. 프랑스의 미스트랄에게 물으면 일기를 쓰며 감정을 정리해보라는 아예 다른 제안이 옵니다.

AI가 저마다 방대한 데이터로 학습한다는 사실은 잘 알려진 데 비해, 각기 다른 데이터로 학습한 AI 모델 사이의 차이가 어떤 형태로 드러나는지는 아무도 명확히 알지 못했는데요. 최근 이코노미스트는 차이를 선명하게 포착하기 위해 하나의 실험을 진행했습니다.

모델마다 다른 세상

이코노미스트는 25개의 프론티어 모델에 세계 가치관 조사(World Value Survey)의 질문을 던졌습니다. WVS는 1981년부터 100개 이상의 국가에서 사람들의 도덕관과 신념을 조사해 온 설문인데요.

답변을 전통-세속, 생존(경제적 안정 중시)-자기표현(개인의 자유 중시)이라는 두 가지 축으로 나누어 배치하면 일명 ‘문화 지도’를 그릴 수 있습니다. 이번 실험을 통해서는 다양한 AI 모델들의 자리도 찾을 수 있었죠.

지도에서 가장 먼저 눈에 띄는 건 AI의 답변들이 가장자리에 분포되어 있다는 점입니다. 실제 국가별 평균과 비교했을 때 AI의 태도가 상당히 극단적이라는 겁니다. ChatGPT는 세속성 측면에서 특히 극단적이었고, Gemini와 Qwen은 자기표현 측면에서 평균보다 훨씬 멀리 나갔습니다.

뿐만 아니라 대다수의 모델은 지도의 1사분면에 쏠려 있습니다. 더 세속적이고 자기표현이 강조된 방향이죠. 반면 아프리카·이슬람권 국가들이 모여 있는 구역 근처에는 아무 모델도 위치하지 않습니다. 지도 위에 국가는 백여 개나 흩어져 있지만, AI는 그중 부유한 나라들이 모인 좁은 구역을 중심으로 몰려 있는 겁니다.

이 지도는 AI의 성향을 보여주는 데서 끝나지 않습니다.

사람들은 매일, 알고 보면 이렇게 한쪽으로 치우친 AI들과 대화하고, 조언을 구하고, 때로는 판단을 맡기고 있습니다. 이런 대화들이 쌓이면 우리의 생각도 조금씩 변해갈 수밖에 없습니다.

사람들이 AI의 관점을 배운다면

AI는 특정 문화권의 이념과 세계관을 실어 나를 수 있습니다. 다른 문화권의 텍스트로 학습한 AI는 그 문화권의 가치관을 따라 답하기 마련이고, 그런 AI에 매일 조언을 구하는 사람은 결국 낯선 관점을 매일 흡수하고 있는 셈이죠. 여기서 자연스럽게 “그러면 우리 걸 직접 만들자”는 결론이 나옵니다.

소버린 AI가 필요한 이유

소버린 AI를 만들어 AI 주권을 회복하자는 담론은 이미 한 차례 업계를 휩쓸었습니다. ‘국가대표 AI’라고도 불렸던 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트가 진행되었기 때문인데요.

이러한 과제가 나온 배경은 국가적 협상력에 있습니다. 외국에서 만든 AI 없이 공무를 진행할 수 없게 되면, 결국 도구에 종속되어 외교적 관점에서 경쟁력을 잃게 된다는 논리였죠.

이와 비슷한 사례로 한국 공공기관의 ‘아래아한글’ 사용이 있습니다. 한국 공공기관은 수십 년째 MS 워드나 구글독스 대신 아래아한글을 공문서 작성 표준으로 써왔습니다. 국내 소프트웨어 산업을 키우려는 정부 정책에서 출발했지만, 결과적으로 공공 업무 전체가 외국 기업의 도구에 종속되지 않도록 만든 장치가 되었습니다.

여기서 핵심은 누가 이 기술을 소유하고 통제하는가입니다. 국가적 협상력, 산업 경쟁력, 데이터 주권이라는 전략의 언어로 다뤄져 온 질문이죠.

그런데 질문이 여기서 끝나서는 안됩니다. 소유권을 확보하는 것과, 그 기술이 이미 내부에 새겨두고 있는 세계관을 다루는 것은 전혀 다른 문제이기 때문입니다. 국가 단위에서 “누가 만드는가”를 물어온 사이, “무엇이 담겨 있는가”라는 질문은 거의 다뤄지지 않았습니다.

사람도 합의하지 못한 가치관, AI가 해도 될까

개인들의 가치관은 지금까지 단 한 번도 하나로 수렴한 적이 없습니다. 국가 간에는 사회, 문화, 이념의 차이가 존재하고, 한 국가 안에서도 정치, 종교, 지역, 성별, 성 지향성을 둘러싼 갈등은 끊이지 않죠.

그런데 지금의 AI는 영어 문화권의 텍스트를 기반으로 세워지거나, 중국처럼 국가가 강력하게 통제하는 환경에서 만들어지고 있습니다.

그 바깥에 있는 사용자들은 이렇게 한정된 데이터 위에 세워진 관점을 고스란히 제공받고 있는데요. 워싱턴 대학에서 진행한 연구에 따르면 이렇게 편향된 챗봇과의 대화는 실제로 개인의 정치적 의사결정에 영향을 미칩니다.

그렇다면 그 편향을 미리 알았다면 결과가 달랐을까요?

또다른 연구에서 “이 AI는 당신이 속한 정당에 불리하게 편향돼 있을 수 있다”고 미리 경고했더니, 설득 효과가 28% 줄었습니다. 경고를 받은 사람들은 AI의 말에 더 자주 반박하고, 덜 수용적으로 반응했습니다. 편향의 존재만으로도 생각은 움직이지만, 그 편향을 모른 채 마주할 때 그 폭이 훨씬 커진다는 뜻인데요.

문제는 대부분의 AI 사용자가 이 편향을 매 순간 인지하며 쓰는 게 아니라는 점입니다. 특정 문화권에서 출발한 판단 기준이, 매일 조금씩 사람들의 생각에 스며들고 있는 것이죠.

이 흐름에 대응해 나타난 사례도 있습니다. 전 우버·구글 엔지니어 왈리드 카두스는 주류 AI 모델이 지나치게 세속적이라는 이유로, 이슬람 가치관에 맞춰 답하는 챗봇 Ansari를 따로 만들었습니다. 수천 명이 코란 구절의 해석이나 신앙에 맞는 결정을 위해 이 챗봇을 찾고 있죠.

그렇다면 AI는 지금 아무도 해내지 못한 가치관의 수렴을 이끌고 있는 걸까요, 아니면 그 수렴에 대한 저항으로 새로운 진영별 양극화를 만들어내고 있는 걸까요? 아직은 단언할 수 없는 영역입니다.

Ansari가 가능했던 건, 이슬람이 이미 명확한 경전과 수백 년간 정리된 교리를 갖고 있었기 때문입니다. “이 가치관에 맞춰 답하라”는 게 기술적으로 정의 가능한 문제였던 거죠.

하지만 대부분의 가치관 차이는 이렇게 깔끔하지 않습니다. 정치적 입장, 세대 차이, 개인의 미묘한 신념까지 하나하나 별도의 AI로 쪼갤 수는 없는 노릇입니다.

그러니 지금 벌어지고 있는 건 수렴과 양극화, 두 가지가 동시에 일어나는 상황에 가깝습니다. 명확한 교리를 가진 소수는 Ansari처럼 각자의 AI로 흩어지고, 그런 기준이 없는 대다수의 가치관은 계속 주류 모델의 획일적 관점 아래 남는 것입니다.

현실에서 마주하는 문제

국가와 개인 단위의 이야기는 다소 거대하게 느껴질 수 있지만, 사실 이 문제는 생각보다 가까이에 있습니다. 당장 고객과 만나는 실제 제품과 서비스 단위로 내려오면, 이 충돌은 두 가지의 구체적인 형태로 나타납니다.

같은 브랜드, 다른 톤앤매너

최근에는 AI 자동화를 통해 고객과 소통하는 브랜드가 늘고 있습니다. 그런데 그 AI가 어떤 톤앤매너로 응대하는지, 그 방식을 브랜드가 제대로 인지하거나 통제하고 있는지는 별개의 문제입니다.

언어별로 브랜드 보이스가 달라진다

AI 대화형 솔루션 업체 Rasa는 같은 다국어 시스템 안에서도 언어별로 결과물이 균일하지 않다고 지적했는데요. 한 시장에서 딱 맞는 톤앤매너가 다른 시장에서는 어색하거나 요점을 벗어난 것처럼 들릴 수 있다는 겁니다.

실제로 이탈리아어로는 다소 캐주얼하거나 요점을 벗어난 응답이, 중국어로는 명확하고 적절한 응답이 나오는 식의 차이가 관찰됩니다.

학습에 활용되는 텍스트에는 각 사회의 관습, 문화적 정서, 심지어 정치·사회적 분위기까지 고스란히 배어 있는데요. 학습된 데이터의 절대량과 성격이 언어마다 다른 이상, 같은 모델이라도 언어를 넘어가는 순간 톤과 태도가 흔들리는 건 오히려 자연스러운 결과에 가깝습니다.

파인튜닝, 여전히 사람이 필요하다

브랜드의 기존 콘텐츠와 스타일 가이드로 모델을 파인튜닝해 언어 간 톤을 맞추는 시도는 이미 로컬라이제이션 업계에서 상품화되고 있습니다.

다만 아무리 파인튜닝을 거쳐도, 사람의 검수 없이는 문화적으로 딱 맞는 결과를 일관되게 내놓지 못한다는 게 최근 연구의 결론입니다. 방법이 아예 없는 게 아니라, 그 방법이 아직 사람의 손을 완전히 떠나지 못했다는 것이 지금의 공백입니다.

맞춰줘야 하는 AI 서비스, 학습한 대로 말하는 AI 모델

더 근본적인 차원에서는, AI 모델의 작동 방식과 AI 서비스의 비즈니스 모델이 서로 충돌할 수 있습니다.

모델이 어떤 가치관을 갖고 있는가(Computational Bias)와, 서비스가 사용자에게 어떻게 맞춰주길 원하는가는 서로 다른 메커니즘으로 결정되는데, 이 둘이 항상 같은 방향을 보는 건 아니기 때문입니다.

딥시크에게 정치적으로 민감한 특정 질문을 던지면, 사용자가 아무리 캐물어도 정해진 답을 반복하거나 아예 답을 거부합니다. 답을 생성하다 말고 문장 중간에 통째로 지우고 다른 화제로 돌리는 경우도 있습니다.

이런 반응은 서비스 단의 필터가 아니라 모델 가중치 자체에 새겨져 있어서, 로컬로 직접 돌리거나 우회를 시도해도 잘 바뀌지 않습니다. 서비스가 아무리 사용자에게 맞춰주고 싶어도, 모델 안에 이미 새겨진 성향이 그걸 가로막는 겁니다.

이 구조는 기술이 발전해도 자동으로 풀리지 않습니다. 리텐션을 위해 설계된 서비스와, 모델에 이미 새겨진 성질은 서로 다른 이유로 결정됩니다. 구조적으로 계속 부딪힐 수밖에 없죠.

어쩌면 AI는 답을 생성하는 기술이라기보다, 특정 가치관을 재생산하는 인터페이스에 가깝다고 볼 수 있겠습니다.

이 문제는 어느 한 층위에서 해결되지 않습니다. 국가든, 개인이든, 혹은 서비스의 운영자든 자신이 서 있는 층위에서, 자신의 몫만큼의 판단을 내려야 합니다.

지금 이 순간에도 AI로 서비스를 만들고 있는 창업가가 있다면, 그건 단순한 기술 선택이 아니라 자신도 모르게 특정 관점 하나를 제품 안에 함께 들이는 일일 수 있습니다.

이 질문에 대해 고민과 의견을 나누고 싶으신 분들이 있다면, 언제든지 편하게 의견 남겨주시면 감사하겠습니다.

Editor Chloe