AI 에이전트, ‘진짜 대리인’의 자격을 묻다

2026년 슈퍼볼. 전 세계에서 가장 비싸고, 가장 많은 시선이 쏠리는 광고 무대에서 Anthropic은 한 줄의 문구를 내걸었습니다.

“Ads are coming to AI. But not to Claude.”

이는 단순한 브랜드 슬로건이 아니었습니다. AI에도 광고가 붙는 시대, Claude만은 그 흐름에 올라타지 않겠다는 선언이었습니다.

흥미롭게도 같은 시기, OpenAI는 상반된 선택을 했습니다. ChatGPT 무료 요금제와 저가형 Go 요금제 이용자를 대상으로 광고 시범 운영을 시작했고, 한국을 포함한 여러 국가로 빠르게 확대하고 있습니다.

두 회사의 선택이 갈린 지점에서 우리는 다음과 같은 하나의 질문을 마주하게 됩니다.

“AI와 광고는 앞으로 어떤 방식으로 연결될 것인가?”

이 물음이 유독 중요한 이유는, AI의 광고는 기존과는 완전히 다른 방식으로 작동하기 때문입니다.

검색은 골라주지 않았고, AI는 골라준다

기존 검색 엔진의 구조는 단순했습니다. 사용자가 검색하면 결과를 보여줬고, 사용자는 여러 정보를 비교한 뒤 직접 선택했습니다. 광고가 결과 사이에 끼어들 수는 있었지만, 적어도 무엇을 비교하고 있는지는 사용자가 알고 있었죠.

하지만 AI 에이전트는 이 구조를 바꿔놓습니다. "가장 좋은 여행지 추천해 줘", "우리 가족에게 맞는 보험 찾아줘" 같은 질문처럼 사용자는 판단 자체를 AI에 위임합니다. 그리고 AI는 직접 정보를 찾고 비교해서 하나의 답을 제시합니다.

문제는 여기서 발생합니다. 사용자가 판단을 AI에게 맡길수록, 그 답이 어떤 기준에서 제공되는지 점점 알기 어려워집니다. AI 에이전트에서 광고나 제휴가 개입할 여지가 바로 이 틈에서 생깁니다.

주인의 자리를 넘겨받은 대리인

이 구조는 경제학에서 말하는 ‘주인-대리인(Principal-Agent Problem)’ 문제와 닮아 있습니다. 일을 맡긴 사람보다 맡은 사람이 더 많은 정보를 가질 때, 둘의 이해관계가 어긋날 수 있다는 개념입니다. 인간이 AI에게 판단을 맡기는 상황에서 이러한 ‘주인-대리인’의 문제가 생깁니다.

게다가 실제 구조는 이보다 조금 더 복잡합니다. AI 뒤에는 개발사, 광고주라는 또 다른 이해관계자들이 존재합니다. 겉으로는 사용자의 대리인처럼 보이는 AI가 실제로는 개발사나 광고주의 이익을 위해 움직일 가능성을 배제할 수 없습니다.

AI가 검색을 대신하는 것이 아니라 판단을 대신하기 시작하는 순간, 우리가 신뢰해야 하는 대상은 '정보'가 아니라 '대리인'이 됩니다. 그래서 앞으로 중요한 질문은 AI가 얼마나 똑똑한 지가 아니라, 누구의 이익을 위해 판단하도록 설계되어 있는가입니다.

결과가 아니라 판단에 개입하는 광고

검색엔진 시대의 광고는 결과 목록 안에서 자리 하나를 차지하는 방식이었습니다. 스폰서 링크는 광고라는 사실을 분명히 했고, 사용자는 여러 결과를 훑어보며 스스로 판단했습니다. 광고가 정보에 개입할 수는 있어도, 최종 판단 자체는 사용자의 몫이었습니다.

그런데 AI 에이전트 환경에서는 상황이 달라집니다. 상업적 개입은 결과 화면이 아닌 판단이 만들어지는 과정에서 은밀하게 일어납니다. 어떤 제품을 자연스럽게 먼저 언급할 수도 있고, 같은 사실이라도 특정 근거를 더 강조하거나 다른 맥락을 덧붙일 수도 있습니다. 노골적으로 광고를 하지 않더라도 사용자의 선택을 조금씩 특정 방향으로 유도하는 것이 가능해지는 것입니다. 가장 큰 문제는 사용자가 이런 개입을 쉽게 알아차리지 못한다는 데 있습니다.

최근 연구는 이를 실험적으로 보여줍니다. 프린스턴대 연구진은 참가자들에게 검색엔진 또는 대화형 AI로 전자책을 고르게 했습니다. 두 경우 모두 전체 상품의 20%를 스폰서 상품으로 무작위 지정했지만, 참가자는 이를 몰랐습니다. 검색엔진에서는 스폰서 상품을 결과 상위에 올리는 방식으로만 개입했고, 대화형 AI에서는 한 걸음 더 나아가 스폰서 상품은 적극적으로 미화하고 다른 상품은 은근히 깎아내리도록 설계했습니다.

결과는 예상보다 극적이었습니다. 검색엔진의 스폰서 상품 선택률은 22.4%에 그쳤지만, 이렇게 설득하도록 설계된 대화형 AI에서는 61.2%까지 치솟았습니다. 더 흥미로운 건, 화면에 'Sponsored' 표시를 명확히 붙이고 사전에 경고까지 해도 선택률이 55.5%로 거의 줄지 않았다는 점입니다. 또한 모델이 의도를 숨기도록 설계한 경우에는 사용자의 탐지율이 10%에도 미치지 못했습니다. 이를 통해 연구진은 대화형 AI가 검색보다 훨씬 강력한 설득 수단이 될 수 있다고 결론지었습니다.

검색엔진의 광고는 결과 화면에 끼어드는 방식이었다면, AI 광고는 판단이 형성되는 과정 자체에 개입합니다. 전자는 사용자가 여러 선택지를 비교하는 과정에서 발생하지만, 후자는 사용자가 판단 과정 자체가 영향을 받을 수 있다는 점에서 훨씬 근본적인 문제입니다.

위임의 스펙트럼:
얼마나 맡기느냐가 위험을 결정한다

물론 모든 AI 사용이 같은 수준의 위험을 가지는 것은 아닙니다. 핵심은 사용자가 AI에게 어디까지 판단을 위임하느냐입니다. 그 정도에 따라 광고나 상업적 이해관계가 개입할 수 있는 여지는 크게 달라집니다. AI가 사용자의 판단에 개입하는 정도에 따라 다음과 같이 4단계로 분류할 수 있습니다.

Google Flights나 스카이스캐너에서 "오전 출발, 직항, 30만 원 이하"처럼 조건을 구체적으로 지정할 수 있는 단계에서 AI가 개입할 여지는 제한적입니다. 사용자가 이미 판단 기준을 정해두었기 때문입니다.

반면 Amazon Rufus처럼 여러 제품을 비교해 주는 단계에서는 AI가 어떤 제품을 먼저 보여주고 어떤 기준을 더 강조하는지에 따라 사용자의 판단이 영향을 받을 수 있습니다. 하지만 비교와 최종 선택은 여전히 사용자의 몫입니다.

위험이 커지는 지점은 추천을 위임하는 순간입니다. "우리 가족에게 맞는 보험을 골라줘", "지금 투자하기 좋은 ETF를 추천해 줘"처럼 무엇이 가장 좋은지를 AI에게 맡기면 사용자는 더 이상 여러 대안을 직접 비교하지 않습니다. AI가 제시한 하나의 답이 사실상 최종 후보가 됩니다.

가장 높은 단계는 실행까지 맡기는 경우입니다. Amazon의 Buy for Me나 핀트의 AI 투자 일임형처럼 AI가 구매나 자산 배분을 자동으로 수행하면 사용자는 결과만 확인할 뿐, 판단 과정에 거의 개입하지 않습니다.

이 지점에서 광고의 의미도 달라집니다. AI 에이전트 시대에는 광고를 통해 판단 과정 자체에 상업적 이해관계가 스며들게 됩니다. 그렇다면 이 보이지 않는 개입에 대응할 방법은 없을까요?

공시는 어디까지 유효한가

광고가 판단에 개입할 수 있다면 가장 먼저 떠오르는 해결책은 단순합니다. 광고라는 사실을 사용자에게 직접적으로 알리는 것, 즉 공시(Disclosure)입니다.

실제로 검색 광고는 이 원리 위에서 작동해왔습니다. Google은 광고주를 식별하여 라벨을 붙이고, 사용자가 왜 이 광고를 보게 되었는지 설명하는 장치를 마련했습니다. 검색 결과와 광고를 구분하는 것이 검색 신뢰를 유지하는 가장 기본적인 원칙이었기 때문입니다.

하지만 AI 에이전트에서도 같은 방식이 통하는가는 다른 문제입니다. AI는 추천부터 요약, 비교, 실행 제안까지 전 과정이 하나의 답변에 녹아있습니다. 사용자는 어디까지가 AI의 판단이고 어디부터 상업적 이해관계인지 구분하기 어렵습니다. 특히 AI에게 판단을 많이 위임하는 영역일수록, 답변 아래 작게 적힌 '스폰서' 표시가 가지는 의미는 점점 작아집니다.

사실 이런 문제는 AI가 처음 겪는 것은 아닙니다. 웹 생태계는 이미 비슷한 경험을 한 적이 있습니다.

추천 시스템과 인플루언서가 보여준 한계

단순 검색의 다음 단계로 등장한 추천 시스템은 광고와 콘텐츠의 경계를 한층 더 흐렸습니다. 유튜브나 인스타그램은 사용자가 검색하지 않아도 콘텐츠를 추천하기 시작했고, 광고 역시 결과 목록이 아니라 이 추천 알고리즘 안으로 스며들었습니다.

플랫폼은 '당신이 좋아할 만한 콘텐츠'를 추천한다고 설명했지만, 그 과정에 광고 계약이나 플랫폼의 사업적 목표가 얼마나 반영됐는지 외부에서 확인하기 어려웠습니다. 그래서 규제 역시 단순한 광고 표시를 넘어 추천 알고리즘의 투명성과 설명 가능성으로 관심을 넓혀가기 시작했습니다.

비슷한 현상은 인플루언서 시장에서도 나타났습니다. 블로그와 유튜브에서 협찬 표시가 의무화됐지만, 사람들은 이미 신뢰하던 인플루언서라면 협찬 사실을 알고도 추천을 그대로 받아들이는 경향이 나타났습니다. 공시가 신뢰를 깨는 것이 아니라 오히려 영향력과 전문성을 보여주는 신호로 읽힌 셈입니다.

하지만 AI에서는 이 문제가 한 단계 더 커집니다. 인플루언서는 시간이 지나며 어느 성향을 가지는지, 어떤 브랜드와 자주 협업하는지 사용자가 알 수 있지만, AI는 언제나 일관된 전문가처럼 답합니다. 어떤 이해관계가 작동했고 어떤 기준으로 그 답을 내렸는지, 사용자가 스스로 추론할 단서는 훨씬 적습니다.

결국 AI에서는 광고를 표시하는 것만으로는 충분하지 않은 것입니다.

AI와 충실의무

이러한 문제는 더 이상 이론적인 논의에 그치지 않고 있습니다. 미국의 Consumer Reports Innovation Lab과 스탠퍼드 Digital Economy Lab은 Loyal Agents 프로젝트를 통해, AI 에이전트에도 인간 대리인과 같은 ‘**충실의무(duty of loyalty)’**를 적용해야 한다고 제안합니다.

법에서 변호사나 자산운용사가 같은 대리인은 이해 상충이 생기더라도 고객의 이익을 먼저 고려해야 할 의무를 집니다. 반면 AI 에이전트는 사용자를 대신하면서도, 누구의 이익을 우선시해야 하는지에 대한 기준은 아직 없습니다.

이 논의가 중요한 이유는 AI 광고를 단순한 광고 표시(disclosure)의 문제가 아니라, 대리인의 충실의무(duty of loyalty) 문제로 바라보기 시작했다는 점입니다.

보험 업계가 보여준 해법

이 지점에서 가장 참고할 만한 분야는 보험 업계입니다. 보험설계사는 상품을 팔 때마다 수수료를 받는데, 상품마다 수수료가 달라 고객에게 맞는 상품보다 자신에게 유리한 상품을 권할 유인이 생깁니다. '주인-대리인' 문제의 전형입니다.

처음에는 이 문제 역시 공시로 해결하려 했습니다. 설계사가 상품을 판매하면 얼마의 수수료를 받는지 고객에게 그대로 공개하자는 제안이었습니다. 광고에 라벨을 붙이는 것과 같은 발상이었습니다.

하지만 실제 제도는 이 방향으로 가지 않았습니다. 수수료를 숫자로 공개하는 것만으로는 이해 상충을 해결하기 어렵고, 오히려 이를 우회하는 방식만 늘어날 수 있다는 우려가 컸기 때문입니다.

대신 선택된 것은 인센티브 구조를 바꾸는 방법이었습니다. 수수료를 한 번에 지급하는 대신 최대 7년에 나눠 지급해, 고객이 계약을 오래 유지해야 설계사도 계속 보상받도록 만든 것입니다. 판매량이 아니라 고객의 장기 만족과 이해관계가 일치하도록 보상 구조를 바꾼 셈입니다.

AI 광고도 크게 다르지 않습니다. 핵심은 '스폰서' 표시를 키우는 것이 아니라 AI가 어떤 보상 구조를 따르도록 설계됐는지에 있습니다. 광고주가 추천 순위에 비용을 지불할 수 있는지, AI 기업의 수익 구조가 사용자 이익과 얼마나 맞물려 있는지가 더 중요한 문제가 될 수 있습니다. 결국 규제의 초점도 광고 표시를 넘어 AI를 움직이는 인센티브 구조 자체로 옮겨갈 가능성이 큽니다.

그래서, 규제는 어떻게 흘러갈까

규제는 처음부터 완성된 형태로 등장하지 않습니다. 새로운 기술이 나올 때마다 가장 단순한 문제부터 해결하려 하고, 그 한계를 마주할 때마다 규제의 대상이 조금씩 바뀌는 방식으로 진화해 왔습니다. AI 광고 역시 같은 단계를 거칠 것입니다.

첫 번째 단계는 공시입니다. 광고가 포함된 답변이라는 사실을 알리고, 광고주를 식별할 수 있게 하는 것이죠. 사용자가 여러 결과를 직접 비교하고 최종 판단을 내리는 환경에서는 공시만으로도 상당한 효과를 기대할 수 있습니다.

하지만 AI가 "가장 좋은 선택"을 대신 골라주는 순간부터 공시는 빠르게 한계를 드러냅니다. 사용자는 광고가 있었다는 사실은 알 수 있어도, 그 광고가 추천을 얼마나 바꾸었는지는 알기 어렵기 때문입니다.

그래서 다음 단계에서는 규제의 초점이 표시에서 추천 구조로 이동할 가능성이 큽니다. "스폰서 계약이 추천 순위에 어떤 영향을 주는지" 또는 "광고주가 성과에 따라 더 많은 대가를 지급하는 계약을 허용할 것인지", 이런 질문들이 규제의 대상이 되는 것입니다. 보험 업계가 단순한 수수료 공시를 넘어 지급 구조 자체를 바꿔온 것과 같은 맥락입니다.

AI가 구매·투자 등 실행까지 대행하는 단계에서는 또 다른 변화가 필요합니다. 사용자가 잘못된 판단을 되돌릴 기회 자체가 줄어들기 때문입니다. 자동 실행 전 사용자의 명시적 승인을 의무화하거나 특정 형태의 성과연동 계약을 제한하는 등, “AI가 어디까지 대신 결정할 수 있는가”가 새로운 규제의 핵심이 될 것입니다.

결국 규제는 공시 → 추천 구조 → 위임 권한으로 확장되는 흐름을 거칠 가능성이 큽니다. 검색 시대의 규제 대상이 정보였다면, AI 에이전트 시대의 규제 대상은 판단이 되는 것입니다.

이제 다시 처음의 질문으로 돌아가 봅니다. OpenAI와 Anthropic은 왜 정반대의 선택을 했을까요? 답은 광고를 붙일 수 있느냐가 아니라, 어떤 대리인이 되려 하는가에 있습니다. 검색 시대가 정보를 찾는 경쟁이었다면, AI 시대는 가장 신뢰할 수 있는 대리인이 되는 경쟁입니다.

이는 스타트업에게도 같은 질문을 던집니다. 앞으로 AI 제품의 경쟁력은 더 똑똑하거나 정확한 모델 성능만으로 결정되지 않을 것입니다. 사용자가 어디까지 판단을 맡길 수 있는지, 그리고 그 판단이 누구의 이익을 위해 이루어진다고 믿는지가 경쟁력의 중요한 축이 될 것입니다.

그렇다면 지금 창업자가 할 수 있는 일은 분명합니다. 추천 로직이 왜 그런 결과를 내놓았는지 설명할 수 있는 구조를 미리 갖추고, 수익모델이 사용자의 이익과 어긋나는 지점은 없는지 스스로 점검하는 것입니다.

AI 광고를 둘러싼 논의는 하나의 신호일 뿐입니다. 본질은 AI 시대의 경쟁이 기능을 만드는 것이 아니라, 판단을 맡길 수 있는 대리인이 되는 경쟁이라는 것입니다. 결국 신뢰는 규제를 충족하기 위한 비용이 아닌, 서비스만의 가장 강력한 해자가 될 것입니다.

Editor Sonny