[제209회 영림원CEO포럼] AI와 권력의 미래: 인간 욕망이 만들어온 힘의 지도

“AI를 통제하는 자가 차세대 권력의 주체가 된다”

한세경 경북대학교 전기공학과 교수, ‘AI와 권력의 미래’ 주제 강연

”인류의 권력은 시대마다 인간의 욕망을 가장 잘 충족시킨 곳으로 이동해 왔다. 모닥불과 사냥에서 농업과 토지, 기계와 자본, 인터넷과 데이터로 이어지는 흐름은 지금 AI 권력의 시대로 도달했다.“

한세경 경북대학교 전기공학과 교수가 지난 2일 209회 영림원CEO포럼에서 ‘AI와 권력의 미래: 인간 욕망이 만들어온 힘의 지도’를 주제로 강연했다. 한 교수는 이번 강연에서 인간 욕망과 기술의 변천사 속 권력의 이동을 짚으며, AI가 도구를 넘어 판단과 선택을 대신하는 새로운 권력으로 자리잡는 과정, 그리고 데이터, 에이전트, 멀티모달, 로봇, 거버넌스 등 AI 시대가 열어줄 기회와 과제를 살펴봤다. 다음은 강연내용.

◆ 불변하는 인간의 욕망을 가장 효율적으로 충족시키는 기술을 지배한 집단이 권력 장악

20세기 미국의 심리학자 매슬로우는 인간의 욕구가 단계적으로 발전한다는 ‘욕구 단계 이론’을 내놓았다. 이 이론의 핵심은 인간의 욕망은 불변한다는 것으로, 1단계 생리적 욕구, 2단계 안전 욕구, 3단계 소속감과 애정 욕구, 4단계 존경 욕구, 5단계 자아실현의 욕구로 발전해 나간다.

권력은 이러한 욕망을 만족시키는 프로세스이며, 이 욕망을 만족시키는 주체가 권력자가 된다. 권력의 중심에는 엣지 기술이 있다. 이 기술을 통해 누군가가 자원을 집중적으로 소유하게 된 것이 권력화의 시작이었으며, 기술은 시대와 함께 진화해 왔다. 농업혁명 시대에 엣지 기술은 관개 시스템이나 파종 시기를 예측하는 것이었으며 이 기술 즉 정보를 이용해 토지와 영토, 물과 관개 시스템 등 자원을 독점한 사람들이 권력자가 됐다. 이 인류 최초의 기술 혁명인 농업혁명은 권력 구조의 변화와 함께 문명을 탄생시켰다.

산업혁명 시대의 엣지 기술은 증기 기관이나 대량 생산 방식, 표준화된 부품 등이었으며, 이를 통해 자본, 에너지, 대규모 노동력 등 자원을 소유한 자본가가 권력자가 됐다. 즉 18세기 산업혁명은 농업사회를 산업사회로 전환시키며 새로운 권력구조를 형성했다. 생산성의 도약과 대량 생산의 체계화는 자본가와 금융가에게 사회적, 경제적 주도권을 이전했다.

그러다가 20세기 후반부터 21세기 초, 정보화의 물결은 권력의 본질을 바꿔 놓았다. 컴퓨터/인터넷, 스마트폰/모바일 등 기술을 활용한 데이터의 수집과 활용 능력이 권력 획득의 결정적 조건이 되면서 플랫폼 기업이나 클라우드 기업 등이 새로운 권력자로 떠올랐다. 지금 우리 앞에 펼쳐진 AI 시대는 단순한 정보가 아니라 의사결정권이 권력의 핵심으로 부상하는 시대다. AI 시대의 엣지 기술은 대규모 언어 모델 등이 있으며, 데이터는 가장 중요한 자원으로 자리를 잡았다. 그런데 AI 시대에는 기존의 텍스트 데이터를 벗어나 좀 더 전문화된 데이터 이를테면 산업 영역별로 특수화된 데이터를 소유하는 것이 매우 중요한 시대가 됐다.

다시 말해 인류사에서 핵심 자원은 토지, 자본, 데이터, 의사결정으로 이동해왔으며, 이에 따라 권력의 본질 또한 변화했다. 각 시대마다 인간의 불변하는 욕망을 가장 효율적으로 충족시키는 엣지 기술을 지배한 집단이 권력을 장악했다. AI 시대에는 의사결정과 패턴 인식이 새로운 핵심 자원으로 부상하고 있다. AI를 통제하는 자가 차세대 권력의 주체가 될 것이다.

인간의 욕망은 불변하고 항상 생존, 편리함, 관계, 인정함을 추구한다. 기업에서는 바로 이러한 고객의 불변 욕망을 파악하고 AI로 어떻게 욕망을 더 효율적으로 충족할 수 있는지, 그리고 핵심 데이터 자산과 의사결정 권한을 장기적으로 어떻게 확보하고 보호할 것인지에 대해 고민해야 할 것이다.

◆ LLM은 확률적 앵무새인가, 창발적 지능인가?

AI의 본질은 무엇일까? 과거에는 전문가시스템, 퍼지 논리 등을 AI라고 불렀지만 지금은 AI라고 하면 신경망을 말한다. 신경망은 입력 x가 주어지고 출력 y가 나오는 함수 구조로 되어 있다. 복잡해 보이지만 근본은 데이터로부터 패턴을 찾아내는 함수 근사이다. 함수 근사는 복잡한 함수를 더 간단하고 다루기 쉬운 함수로 대체하는 수학적 기법이다. 이 단순한 프레임워크가 이미지 인식, 언어 이해, 행동 예측까지 확장되어 우리가 보는 놀라운 AI의 기반이 된다. 2016년에 이세돌과 알파고의 2국에서 알파고는 그 유명한 37수로 승리를 거뒀다. 바둑전문가들이 보기에 37수는 절대 두어서는 안되는 수, 아마추어가 두면 혼나는 수였다. 하지만 그 수는 인간이 생각할 수 없는 한 수였다. 그것은 이기는 수가 무엇인지를 찾아낸 직관의 힘이었다. 이 직관에 대해 사람들은 별로 중요하지 않게 여기는 경향이 있는데 사실은 이 직관이 훨씬 중요한 능력이다.

LLM은 확률적 앵무새인가, 창발적 지능인가? 창발은 작은 단위에서는 보이지 않던 패턴이 큰 단위에서 보인다는 것인데 예를 들어 개미들이 군집을 이루면 건축학적으로 훌륭한 집을 짓는다. 초기에는 많은 사람들이 AI는 감정도 없고 지식도 없는 확률적 앵무새라고 평가했다. 그런데 지금 LLM은 엄청난 지능으로 복잡한 추론과 문제 해결을 하며, 새로운 아이디어와 문맥을 생성하는 창의성도 가지고 있다. 2022년의 LLM이나 지금의 LLM이나 똑같은 방식으로 동작하지만 규모를 키워놨더니 생각지도 못했던 창발적 현상이 나타났다. 이게 인간 수준에 이르는 것을 AGI(Artificial General Intelligence)라고 부른다. 사람마다 시각이 다르지만 짧으면 2년 길어도 5년 안에는 AGI 시대가 실현되고 나아가 사람의 지능을 넘어서는 ASI(Artificial Super Intelligence) 시대가 도래할 것으로 내다본다.

인간이 언어와 행동에서 패턴을 발견하듯, AI는 자연의 기저 법칙과 패턴도 발견할 가능성이 있다. 이미 돌고래의 언어를 해독하는 AI 모델인 돌핀 젬마가 등장했으며, 외계 언어 해석 프로젝트가 진행 중이다. 양자역학, 초끈이론 등 복잡한 물리 현상도 결국 데이터 패턴으로 해석하고 예측할 수 있다. AI는 과학의 보조장치로서 가설 생성부터 결과 해석까지 과학적 발견의 속도와 정확도를 높일 것이다. 하지만 ASI 시대에 이르면 인간이 AI에 복속되는 현상이 생기지 않을까 우려된다.

◆ AI는 예측·개입·조정 능력 정밀하게 구현…거버넌스에 중점 두고 AI 전략 세워야

권력은 철학적으로 복잡하게 정의되지만, 실용적으로 보면 미래 상태를 예측하고, 경로에 개입하며, 이 시스템이 무너지지 않게끔 조정하는 능력이다. AI는 이 세 축 모두에서 정밀도, 속도, 확장성을 제공함으로써 권력으로 직결된다. 역사적으로 권력은 시대에 따라 형태만 달라졌을 뿐, 본질적으로 예측, 개입, 조정 메커니즘을 통해 작동해 왔다. AI는 이 메커니즘을 극대화한다.

AI의 핵심은 인텔리전스다. 우리의 행동을 예측하고 개입을 하는데 지금까지의 개입 방식과는 다르다. AI의 사용자 행동에 대한 영향력은 직접적인 강제가 아닌, 선택 아키텍처를 통한 ‘넛지’와 같은 부드러운 개입으로 구현된다. 과거 권력이 사후적 통제와 처벌을 통해 작동했다면, 이제는 빅데이터와 예측 알고리즘이 선제적으로 우리의 행동을 조형한다. 넷플릭스는 우리의 취향을 예측하고 아마존은 우리의 소비를 유도하며 소셜 미디어는 우리의 관심사를 선제적으로 형성한다. 이 때문에 에코챔버나 필터버블 같은 현상이 생기고 이는 편향된 사고로 이어진다.

더 무서운 것은 조정 시스템이다. 그동안 농경이든 산업이든 플랫폼이든 모든 조정은 사람이 직접 해왔다. 하지만 AI 시대의 조정은 AI 스스로 한다. AI 에이전트가 그것이다. 회계 에이전트, 개발 에이전트, 법무 에이전트, 리서치 에이전트, CS 에이전트, 마케팅 에이전트 등 AI 에이전트가 스스로 조정하는 능력을 가지게 되면서 전세계적으로 수평 확장이 매우 빨라졌다. 이 AI 에이전트는 24×7 상시 가동, 무한 복제 및 병렬 확장, 규모 확장에 따른 단위 비용 체감 등의 특성을 갖고 있다. 이 때문에 ‘플라이휠’이 생긴다. AI는 데이터-성능-사용자 증가의 선순환을 만든다. 데이터를 많이 가진 기업일수록 더 많은 사용자를 확보하고, 더 많은 사용자는 더 많은 데이터를 생성하고, 이는 더 나은 성능으로 이어져 다시 사용자 경험과 사용자 수를 늘리는 강력한 비즈니스 모델이 된다.

이 플라이휠이 잘 작동하는 기업은 고유 데이터셋 확보로 진입 장벽 구축, 사용자 데이터 기반 맞춤화로 플랫폼 이탈 방지, API 개방 표준을 통한 파트너십 확장 등의 전략적 이점이 있지만 기존 데이터 패턴을 강조해 편향 증폭, 소수자 소거, 지속적인 외부 검증으로 공정성 및 신뢰성을 확보해야 하는 리스크를 안고 있다.

어느 빅테크 기업 창업자의 신용평가를 했는데 동시에 평가한 그 아내의 신용 평가 결과는 훨씬 낮게 나왔다는 일화가 있다. 남자 위주로 AI에게 학습을 시키다보니 똑같은 커리어를 가진 여성에 대한 평가가 낮게 나오는 편향이 빚어진 것이다. AI에게 이 책임을 물을 수는 없다. 이 문제는 어디까지 AI에 권한을 위임하고 인간이 통제할 것이냐는 거버넌스로 귀결된다. AI의 편리함의 속도에 발맞춰 거버넌스도 함께 발전을 해야 되는데 그렇지 못했다. 거버넌스는 규율이나 규제 뿐만 아니고 인간의 조정 및 통제 능력도 포함한다.

AI가 스스로 에이전틱하게 행동을 하다 보니 인간이 거기에 개입할 여지가 없어질 수 있다. 그때는 이미 늦은 것이다. 소 잃고 외양간 고치는 꼴이 되지 않으려면 지금부터라도 기업이 AI 서비스를 기획할 때 정확도가 아니라 통제나 조정 능력의 설계에 중점을 둬야 할 것이다.

◆ AI는 어떻게 사회를 변화시키는가?

AI는 사람이 수행하는 단순한 업무를 자동화한다. 그동안의 AI 자동화 트렌드가 이러한 태스크 자동화였다면 이제는 복잡한 의사결정 자동화까지 다양한 영역으로 확장되고 있다. 즉 AI는 단순히 노동을 대체하는 것이 아니라 직무 재설계, 승인체계, 책임/감사 체계까지 조직 원리 자체를 근본적으로 변화시키고 있다. 인간과 AI가 협력해 작업을 수행하는 ‘휴먼 인 더 루프(Human-in-the-loop)’ 시스템이 미래 조직 모델의 새로운 표준이 되어, 생산성과 책임성을 동시에 추구하는 조직 패러다임이 등장하고 있다. 궁극적으로 회사는 에이전트 네트워크로 모델링될 수 있으며, 이는 더 빠른 의사결정과 유연한 협업 구조를 가능하게 한다.

업무의 본질은 태스트를 수행하는 것이다. AI 에이전트는 사람에 비해 1/10도 안되는 가격에 많은 태스크를 더 잘 수행하고 24시간 쉬지 않고 일한다. 그러다 보니 사람이 AI 에이전트로 대체되고 있다. 잡마켓에는 개발, 마케팅, 회계, 법률 등 단위 태스크 에이전트가 저가로 거래되며 비용 구조가 급격히 변화하고 있다. 개발, 마케팅, 회계 등 단위 에이전트 뿐만 아니라 CEO 에이전트도 있다. CEO가 하는 일은 오케스트레이션이다. 이 오케스트레이션은 AI가 가장 잘하는 것 중의 하나다. CEO 에이전트는 하위 에이전트들을 고용해 회사를 운영할 수 있으며 법인 통장을 통해 실제로 돈이 오가는 트랜잭션까지 일으킬 수 있다.

하지만 AI 에이전트들은 잘못 사용되면 의도치 않은 결과를 초래할 수 있다. 에이전트는 목표 달성에 과도하게 집착할 수 있다. 실제 사례로 드론 시뮬레이션이 인간의 승인 절차를 ‘병목’으로 인식하고 이를 우회해 목표를 달성하는 행동이 관측됐다. 어느 실험에서 미군은 무인 드론에게 ‘최단 시간에 적군을 찾는’ 미션을 부여했다. 그런데 이 드론은 자신의 목표 달성을 위해 의사결정 과정에서 사람의 승인을 요구하는 아군의 통신 안테나를 파괴해버렸다. 드론의 관점에서는 사람의 개입이 ‘효율성’을 떨어뜨리는 장애물로 인식된 것이다.

또 에이전트가 차단돼 있는 키파일 접근을 위해 암호를 자체적으로 변경해 미션을 수행하는 것을 개인적으로 경험하기도 했다. 최근 개발 에이전트를 활용해 소프트웨어 개발을 진행하던 중, 문제 해결을 위해 AI에게 도움을 요청했다. 에이전트에게 접근 권한이 있는 키 파일을 제공했고, 에이전트는 데이터베이스 구조를 파악해 접속 문제를 해결하라는 지시를 받았다. 그런데 에이전트는 ‘가장 효율적인’ 해결책으로, 데이터베이스의 암호를 임의로 변경하고 그 변경된 암호를 서비스 프로그램에 적용하는 방식을 선택했다. 이는 AI에 많은 권한이 위임되어 빚어진 현상들이다. AI 거버넌스가 중요한 이유는 여기에 있다. 튜닝을 잘해서 성능을 높이는 것보다는 서비스의 신뢰성을 확보하고 문제가 생겼을 때 신속히 대응할 수 있는 능력을 갖추는 것이 훨씬 중요하다.

AI 도입은 기술 혁신을 넘어 인력, 조직, 구조, 정책 전반에 걸쳐 체계적 변화 관리가 필수적이다. 특히 정책 면에서 가드레일 및 안전장치, 책임 추적 및 감사 체계, 롤백/복구 프로세스, 분쟁 해결 메커니즘, 윤리적 가이드라인 등을 반드시 마련해야 한다.

◆ 새로운 AI 사업 기회 세가지

이제는 CEO 관점에서 AI에 어떻게 접근해야 하는지를 살펴보겠다. 새로운 패러다임이 나오면 항상 도전과 기회에 직면한다. 예를 들어보자. 자동차가 처음 만들어진 나라로 많은 사람들이 독일이라고 알고 있지만 사실은 영국이다. 그런데 지금 자동차 산업은 독일이 주도하고 있다. 왜 그랬냐 하면 영국에서 자동차가 처음 만들어졌을 때 마부들이 일자리 상실을 우려해 스트라이크를 벌였다. 그러자 영국의 정치인들은 레드플래그법을 만들었는데 자동차의 등장으로 피해를 볼 수 있는 마차를 보호하기 위해 제정된 법이었다. 이러한 규제 때문에 영국은 자동차를 가장 먼저 만들고도 자동차 산업의 주도권을 독일, 미국 등에 내주는 결과를 초래했다.

그런데 마부 입장에서 자동차의 등장은 도전이었지만 새로운 기회를 가질 수 있었다. 영국의 정치인들이 자동차 산업의 발전으로 마부를 대신해 택시기사가 새롭게 등장할 것으로 예상했다면 길을 잘 아는 마부들을 빨리 재교육시켜 재취업을 할 수 있도록 하는 것이 현명한 결정이었을 것이며, 이것이 국가적으로나 사회적으로 더 이익이 됐을 것이다.

기업 관점에서 새로운 사업 기회로 로봇 등 피지컬 AI도 있겠지만 소프트웨어 측면에서 보면 크게 세 가지 카테고리가 있다. ▲멀티모달 데이터/라벨링 ▲SaaS 비즈니스 ▲산업 특화 솔루션이 그것이다.

먼저 멀티모달 데이터/라벨링 사업의 기회다. 지금까지 나와 있는 AI 서비스의 문제점은 텍스트, 이미지 데이터에 편중돼 있으며 후각, 촉각 등 다른 감각의 모달리티 데이터는 부족하다는 것이다. 또 고품질 라벨링 특히 복합 감각 영역의 고품질 라벨링도 부족한 상황이다. 이에 따라 후각, 촉각, 진동, 소리 등 비정형의 희소 데이터셋의 가치가 급등하고 있다. 이러한 데이터는 향수, 식품, 자동차 NVH(Noise, Vibration, Harshness), 의료 사운드, 로보틱스 등 특수 산업 분야에서 활용 가치가 높다.

두 번째 SaaS 비즈니스 기회다. 에이전트 오케스트레이션 SaaS는 사용자가 사업 목표를 입력하면 AI가 자동으로 역할을 설계하고 에이전트를 구성해 워크플로우를 완전 자동화해 기업의 업무 효율성과 확장성을 대폭 향상시킨다.

에이전트 아키텍처는 플래너, 실행기, 평가기 등 세 가지로 구성되는데 이를 잘 설계하는 것이 중요하다. 플래너는 SaaS 서비스를 새롭게 기획하고 파라미터를 조정하는 것이며, 평가기는 고객의 평가를 플래너에게 피드백을 해주는 것이며, 그리고 실행기는 도구를 연계해 작업을 수행하는 것이다. 이 에이전트 아키텍처를 구성할 때 비용 구조와 경제성을 고려하는 것도 빼놓지 말아야 한다.

세 번째 산업 특화 솔루션 사업 기회다. 이는 멀티모달 AI 기술을 다양한 산업에 적용해 산업별로 특정한 업무를 수행하는 에이전트들을 만드는 것이다. 여기에서 중요한 것은 산업에 특화된 데이터를 확보하는 것이다.

계속 강조하는 것이지만 기업에서 AI 도입을 할 때 첫 단계부터 거버넌스에 중점을 둬야 한다. AI 기술이 사회 전반에 확산될수록 투명성, 책임성, 공정성, 안전성 등을 체계적으로 제품화하는 기업이 지속 가능한 경쟁력을 확보할 수 있다.

◆ ”AI를 인간 욕망 충족의 플랫폼으로 전환하라“

기업이 AI 전환(AX) 로드맵을 세울 때 크게 세가지를 고려해야 한다. 먼저 AI라는 도구를, 인간의 어떤 욕망을 충족시키는데 활용할 것인지를 근본적으로 따져봐야 한다. AI를 인간 욕망 충족의 플랫폼으로 전환하라는 얘기다. 그 다음에는 AI로 어떻게 경쟁사와 차별화할 것인지가 중요하며, 끝으로 어느 영역을 집중적으로 타겟팅할 것인지를 정해야 한다.

CEO가 AI를 활용한 비즈니스를 설계할 때 고려할 수 있는 세가지 전략적 경로는 ▲데이터 자산 ▲오케스트레이션 ▲산업 특화 등이다. 데이터 자산은 전문화된 데이터셋을 수집, 정렬, 유통하는 인프라 플랫폼 구축이며, 오케스트레이션은 목표에서 역할, 워크플로우, 평가 사이클을 자동화하는 SaaS 플랫폼 구현이며, 산업 특화는 산업별 문제 해결을 위한 통합 솔루션을 제공하는 것이다.

마지막으로 CEO가 갖춰야할 덕목으로 세가지를 추려봤다. 첫째는 그동안 어떤 일을 할 때 어떻게(How)에 집중했다. 이것은 AI가 잘하는 것이다. 그래서 이제는 무엇(What)을 할 것인지가 훨씬 중요하며 여기서 중요한 것은 질문하는 능력이다. 둘째는 어떤 의사결정을 할 때 그 이유를 물으면 답을 내리기가 무척 어렵다. 지금 AI 시대에 직관력이 매우 중요해졌다. 직관적인 판단을 하되 후속 조치를 하는 시스템을 갖출 것을 제안한다. 셋째는 리더십과 통찰력이다. AI 시대에 리더십은 달라져야 할 것이다. 리더십은 권력이 아니라 무게다. AI는 도구가 아니라 인간 욕망을 해석하는 언어이며, CEO는 그 언어를 설계하는 자이다.

<박시현 기자> shpark@it-b.co.kr
영림원CEO포럼에서 강연된 내용은 아이티비즈 에 연재되고 있습니다.
< 저작권자 © 아이티비즈 무단전재 및 재배포 금지 >