[제219회 영림원CEO포럼] AI시대의 사회, 경제, 그리고 경영: 예측과 준
“AI는 모든 걸 고치고 모두를 죽일 것이다”
Executive Summary
|
황승진 미국 스탠포드 경영대학원 석좌 명예교수, ‘AI 시대의 사회, 경제, 그리고 경영’ 주제 강연
황승진 미국 스탠포드 경영대학원 석좌 명예교수가 3일, 219회 영림원CEO포럼에서 ‘AI 시대의 사회, 경제, 그리고 경영: 예측과 준비’를 주제로 강연했다.
황승진 교수는 ‘AI는 모든 걸 고치고 모두를 죽일 것이다’라는 부제의 이번 강연에서 ”AI에는 많은 불확실성이 있다. AI가 개인, 기업, 사회에 미칠 영향에 대해 전문가들은 긍정에서 부정까지 극단적으로 의견을 달리한다“며 이러한 불확실성 속에서 우리는 지금 어떻게 준비해야 하는지를 설명했다.
또 테크놀로지의 일반적인 특성을 들어 ”AI도 하이프 사이클, 점진적 확산, 승자독식 등의 현상을 보일 것“이라며 ”AI 시대의 기업 시스템은 ‘통합’과 ‘자동화’라는 추세에 맞춰 발전할 것“이라고 밝혔다. 그럼에도 ”핵 확산이나 유전자 편집 등 재앙의 가능성이 있는 AI 시대에 대비해 국가적, 인류적 연구와 합의가 필요하다“고 강조했다. 다음은 강연내용.
◆ AI 시대에 회사를 차별화하는 방법은 ‘질문’
AI가 본격적으로 우리 인간 사회에 입성한 지 4년이 됐다. 우리가 AI를 잘 이해하고, 이 AI가 우리 사회와 기업에 어떤 영향을 미칠지, 어떤 준비를 해야하는 지가 이번 강연의 주제다.
많은 회사가 인턴이나 주니어급의 인력 고용을 줄이고 있다. 비용 절감의 효과는 있지만 리더를 어떻게 키울 것인지가 큰 문제가 된다. AI의 영향에서 의사나 변호사 같은 전문직도 예외는 아니다. 앞으로 어떤 직업이 남고 어떤 직업이 없어질 것인가? 이것은 매우 심각한 얘기다.
내가 아는 벤처캐피탈리스트는 ”AI 때문에 세상의 모든 비즈니스가 평준화될 것이다. 제미나이, 클로드 등에 문제를 넣으면 답이 다 똑같이 나올 것이기 때문이다“라고 말했다. 그러자 이 얘기를 들은 다른 사람은 ”아니다. 이제부터 회사가 차별화하는 방법이 있다. 그것은 ‘질문’이다. 어떤 질문을 하느냐가 회사의 운명을 좌우할 것“이라고 했다. ‘답’을 주는 직업은 없어지고, ‘질문’을 할 수 있는 직업만이 남을 수 있다는 얘기다.
이번 강연의 부제는 ‘AI는 모든 걸 고치고 모두를 죽일 것이다’이다. △신비로운 AI △AI의 미래: 불확실성 △테크놀로지의 특성 △AI의 발전 방향 △AI 시대에 대비 등 다섯 가지를 얘기하고자 한다.
◆ 신비로운 AI…“우리는 아직 AI에 대해 잘 모른다”
첫 번째, 신비로운 AI부터 시작하자. 간단히 말해 우리는 AI에 대해 잘 모른다. 일반인은 물론 컴퓨터 과학자조차도 자기가 AI를 만들었지만 AI가 어찌 그리 똑똑한지에 대해 잘 모른다. 미스테리다. AI 신경망 모델을 학습시키는데 패러미터가 커지면 어떤 기능이 갑자기 생긴다. 1977년 노벨 물리학상을 수상한 필립 워런 앤더슨은 무엇을 늘리거나 합쳐 없던 현상이 갑자기 생겨나는 현상인 ‘에머전스(Emergence)’라는 개념을 확립했다. 그는 1972년 과학 학술지 사이언스에 발표한 ’More is Different‘라는 제목의 논문에서 이 에머전스 이론을 주창했다. 이를테면 강아지에게 먹이를 줬더니 큰 강아지가 된 것이 아니라 아주 딴 애가 됐다는 말이다. 또 수소(H)와 산소(O)를 합치니까 물(H₂O)이라는 아주 다른 것이 생기는 것도 마찬가지다. 그래서 AI 사이언스는 과학이 아니라 연금술이라는 얘기마저 나온다. 그만큼 우리는 아직 AI에 대해 잘 이해하지 못하고 있다.
AI의 두 번째 미스터리는 왜 환각이 일어나고 이를 제어하지 못하느냐이다. 세 번째 미스테리는 ’모라벡의 역설(Moravec’s Paradox)‘이다. 이 모라벡의 역설은 한 마디로 인간에게 쉬운 것은 AI에게 어렵고, 반대로 인간에게 어려운 것은 AI에게 쉽다는 게 핵심 개념이다. 예를 들면 인류 중 가장 똑똑한 수학자들이 모여 100년 동안 못 풀었던 문제를 AI는 5~10분만에 풀 수 있는 기가 막힌 능력을 갖고 있다. 그럼에도 인간이라면 두세 살 먹은 어린아이도 금방 알 수 있는 것을 AI는 모른다.
AI의 발전에 결정적인 역할을 했던 기술 중 하나로 ’이미지넷 프로젝트‘가 있다. 이미지넷은 방대한 규모의 이미지 데이터베이스로, 스탠포드대학교의 페이페이 리 교수가 2006년 이 프로젝트를 시작해 2009년 완성했다. 그녀는 2012년 이미지넷을 활용한 이미지넷 대회를 열었는데 이때 우승한 팀과 모델이 ’알렉스넷‘이다. 딥러닝의 역사를 만들어 낸 알렉스넷의 개발에는 토론토 대학교의 알렉스 크리제브스키, 일리야 수츠케버, 제프리 힌튼 교수가 참여했다. 일리야 수츠케버는 오픈AI의 공동 창립자이며, 제프리 힌튼 교수는 딥러닝 발전에 결정적인 기여를 한 공로로 2024년 노벨 물리학상을 수상했다. 두세 살 먹은 어린아이가 금방 알 수 있는 것을 AI가 알 수 있게 된 것은 딥러닝 기술에 힘입은 것이며, 이게 현실화된 것은 최근의 일이다.
지금까지 신비로운 AI에 대해 얘기했다. 결론은 거듭 말해 아직까지 우리는 AI에 대해 잘 모르고 있다는 것이다. 이것은 문제다. 빌게이츠는 핵폭탄이나 유전자 편집 등 AI가 인류에게 끼칠 재앙을 우려해 AI의 개발을 제재해야 한다고 주장했다. 많은 사람들도 이 주장에 동의하고 있다. 그런데 인간이 AI에 대해 잘 모르는데 어떻게 제재할 수 있을까?
◆ AI를 바라보는 전문가들의 세 가지 시각 ’낙천가 vs 비관론자 vs 별거 아냐 파‘
이제 AI의 미래에 대해 생각해 보자. AI를 바라보는 전문가들의 시각은 크게 세 가지로 나뉜다.
첫 번째는 ’낙천가‘이다. 이들은 “AI는 모든 걸 고친다”고 주장한다. 예를 들어 농업이나 공업에 적용하면 결핍이 없어지고, 또 질병도 다 고치며, 비효율도 없앨 수 있다고 한다. 그 대표적인 예로 테슬라의 FSD(Full Self-Driving), 신약 개발 등을 든다. 젠슨 황 엔비디아 창업자, 다리오 아모데이 앤트로픽 창업자, 순다르 피차이 구글 CEO 등 모든 AI 사업가들이 AI의 미래에 대해 낙천적인 입장이다. 이런 낙천적인 주장의 근거는 간단하다. 단적으로 월가의 투자가들이 AI에 거대한 투자를 하고 있다는 것이다. 즉 AI가 전 세계 산업의 생산성을 혁신해 천문학적인 가치 창출과 이익을 낼 수 있을 것으로 보고 있다.
두 번째는 ’비관론자‘로서, “AI는 모두를 죽인다”고 주장한다. 직장이 고갈되고, 또 젊은 사람들이 돈이 없다 보니 돈이 돌지 않아 경제가 침체하거나 침몰하고, 나아가 인간이 AI를 남용할 것을 우려한다.
실제로 새로운 테크놀로지가 나왔을 때 범죄자들이 가장 먼저 움직인다. AI가 나쁜 사람들의 손에 들어갔을 때는 더욱 파괴적일 수 있다. 앤트로픽이 올해 초 내놓은 새로운 AI 모델인 클로드 미토스는 모든 엔터프라이즈 시스템 내에 있는 취약점을 아주 빨리 쉽게 찾아낸다. 이게 나쁜 사람들의 손에 들어가면 회사는 다 망가지고, 심지어 모든 엔터프라이즈 시스템이 해커들의 세상이 돼버릴 것이다.
AI 비관론자들이 주장하는 또 하나의 문제는 AI가 인간에게 도전할 것이라는 얘기다. AI는 어떤 의사를 갖고 있지 않은 완전히 기계다. 자기 목적 달성을 위해 무조건 작동한다.
AI 비관론의 주창자는 제프리 힌튼 교수가 대표적이다. 그는 구글에서 오랫동안 일했는데 이를 후회하면서 AI 기술의 위험성을 경고하기 위해 퇴사했다.
세 번째는 ’별거 아냐‘파다. 대표적인 사람이 스탠포드 경영대학원 채드 존스 교수다. 채드 존스 교수는 그동안의 역사에서 자동차, 인터넷 등 수많은 테크놀로지가 나왔지만 이것에 관계없이 GDP는 꾸준히 2% 증가했다고 했다. 그의 주장에 의하면 테크놀로지 자체의 좋고 나쁨을 떠나 테크놀로지에 반감하는 사람이 있고, 또 과거의 것을 무너뜨리며 함부로 고칠 수도 없다며 새로운 테크놀로지의 도입을 주저하는 등 테크놀로지의 수용에 여러 요소가 영향을 끼친다. 이 여러 요소 가운데 진전의 속도를 결정하는 것은 가장 뛰어난 요소가 아니라 가장 뒤처진 ‘최약자(weakest Link)’다. 아무리 기술이 뛰어나도 최약자가 버티고 있는 한 급격한 성장은 이뤄지지 않는다는 얘기다.
◆ 테크놀로지는 어떻게 보급되는가?
테크놀로지가 일반적으로 어떻게 보급되는지에 관한 이론으로 세 가지가 있다. △하이프 사이클 △점진적 확산 △승자독식이 그것이다.
첫 번째, 하이프 사이클(Hype Cycle)에 따르면 어떤 테크놀로지가 됐건 맨 처음에 완전히 세상을 바꿀 것처럼 확 떴다가 거품이 꺼져 바닥으로 떨어지고 다시 올라가서 안정적으로 시장의 주류로 자리 잡는다.
예를 들면 우리나라에서도 1990년대 후반 광케이블 설치 붐이 일었다가 과도 투자와 파산이 일어났고 결국은 나중에 초고속 인터넷의 기반이 됐다. AI도 마찬가지다. 처음에 세상을 다 바꿀 것처럼 떠올랐다가 요새 조금 가라앉고 있다. 그렇다고 거품이 꺼져 망하고 있는 것은 아니다. 여기서 주의해야 할 것이 있다. 하이프라는 게 투자가 간에 기대감이 최고조에 달하며 거품이 형성되는 현상이지 테크놀로지와 우리는 관계가 없다. 인터넷이 떴다가 가라앉았지만 없어진 것은 아니며 지금 잘 쓰고 있다.
AI는 지금 정점에 있지만 다음에 한번 내려갔다가 결국은 다시 돌아와 적정선에서 이용될 것이다. 하이프 사이클을 가장 설명한 사람은 워렌 버핏이다. 워렌 버핏은 “자동차 혁명은 미국을 변형시켰다. 그러나 초기에 있었던 2천 개의 자동차 제조업자 가운데 현재 3개만 살아 남았다”고 했다.
점진적인 확산은 특정 테크놀로지를 도입해 기존 업무 구조를 갑자기 한순간에 바꾸는 것이 아니라 천천히 나아가자는 것이다. AI의 경우 예를 들면 콜센터에서 AI가 보조 안내원 역할을 한다든지, 의료 분야에서 AI가 독립적인 의사 역할을 하기보다는 보조 진단 역할을 하거나 그리고 제조 현장에서 로봇이 조립 공정을 보조하는 것 등이다.
미국의 대표적인 마케팅 학자 프랭크 배스는 소비자가 신제품이나 신기술을 수용하고 확산하는 과정을 수학적으로 예측하는 확산 모델을 만들었다. 이 확산 모델에 따르면 테크놀로지의 확산 과정에는 처음에 시도하는 혁신자(리더)가 있고 그 다음에 이를 쫓아가는 모방자(팔로우)가 있다. 혁신자는 새제품을 가장 먼저 구매하는 사람들이며, 모방자는 다른 사람들의 사용 경험에 영향을 받아 제품을 구매하는 사람들이다. 초기에는 판매가 느리게 늘어나다가 모방 효과로 급증한 뒤, 시장 포화 상태에 이르면서 다시 완만해지는 현상을 보인다. AI도 마찬가지다. 현재 AI가 할 수 있는 것과 실제로 쓰고 있는 것의 격차는 매우 크다. 점진적으로 발전이 이뤄지고 있다는 얘기다. 그만큼 우리가 갈 길이 아직 멀다.
제조 산업에서 생산을 하려면 노동, 설비, 기술 등 세가지가 필요하다. 노동과 설비를 넣으면 넣을수록 생산량이 늘어나는데 어느 정도에 이르면 별로 효과가 없다. 하지만 기술은 게임이 다르다. 기술을 가진 자에게는 승자독식이라는 원리가 성립된다.
◆ AI 시대의 기업 시스템 발전의 두 축 ‘통합’과 ‘자동화’
이번에는 AI가 기업에 어떤 변화를 불러일으킬 것인가를 살펴보겠다. 결론적으로 AI 시대의 기업 시스템은 ‘통합’과 ‘자동화’라는 두 개의 추세에 맞춰 발전할 것이다.
기업 시스템에는 ERP를 비롯해 CRM, MES, HRM, BRM 등이 있다. 과거에는 ERP, MES, CRM 등 각 시스템마다 유저 인터페이스가 따로 있었다. 그래서 사용자가 시스템별로 개별 접속해야 하는 불편함이 컸다. 그러나 지금은 여러 시스템의 데이터를 모두 통합할 수 있고, 또 AI 에이전트라는 게 있어 내가 알고 싶은 것을 알아서 다 챙겨준다. 옛날에는 SQL 언어를 사용해 원하는 정보를 검색했지만 지금 제일 인기 있는 프로그래밍 언어는 영어다.
세계에서 네 번째로 큰 광산 회사의 시스템 담당 매니저가 나를 찾아온 적이 있다. 이 매니저의 요구 사항은 다양한 제조업체의 수백개의 장비와 기계의 현황을 사무실에 앉아서 일목요연하게 파악하고자 했다.
대시보드라는 개념은 모든 회사의 모든 정보가 요약돼 나한테 가장 적합한 방법으로 한 스크린에 뿌려주는 것이다. 이 매니저가 원하는 것은 바로 이것이었다. 그런데 기계마다 제조업체가 다르다 보니 이를 구현하기가 너무 복잡했다. 전문가들이 그 해결책으로 제시한 것은 각자의 기계마다 모두 출력은 PDF로 하면 된다는 것이었다. PDF로만 만들면 LLM이 PDF의 모든 정보를 뽑아낼 뿐만 아니라 기계의 상태 등을 다 담아 정리해서 대시보드를 만들어 준다는 것이다. 이것이 통합이다. 앤드류 응 스탠포드 교수는 “PDF가 AI의 금광이다”라고 했다.
그런데 대시보드는 한 페이지에 요약한 것이지 자세한 내용은 보여주지 않는다. 자세한 내용을 알려면 클릭을 몇 번 더 해야 한다. 하지만 사용자가 직접 AI 모델을 활용해 시스템에 직접 요청해 이 문제를 해결할 수 있다. AI를 활용해 기존보다 훨씬 좋은 대시보드 시스템을 만들 수 있다는 얘기다.
데이터 통합의 또다른 예로 ‘언더웨어 폭파범’이 있다. 사건의 전말은 다음과 같다. 2009년 12월 25일 암스테르담에서 디트로이트로 향한 노스웨스트 253 비행기에 탑승한 289명 중에 나이지리아 국적의 ‘우마 파룩 압둘무탈랍’이라는 사람이 있었다. 우마는 속옷에 사제 폭탄을 지니고 디트로이트에 가까이 왔을 때 폭탄을 점화하려고 했다. 폭탄이 불량이어서 불발에 그치고 주위의 탑승객들이 진압해 체포했다.
이 사건을 놓고 여러 가지 얘기가 나왔는데 그 중에 이 사람의 행적에 대한 분석이 나왔다. 첫째, 이 사람은 과격파 목사가 이끄는 무슬림 교회의 성실한 신도였는데 이것은 FBI 기록에 있었다. 둘째, 우마의 부친이 아들의 수상한 행실을 동네 경찰에 신고했다. 이는 지역 경찰서에 기록됐다. 셋째, 이전에 우마가 영국으로 여행 비자 신청이 기각된 사실이 영국보안국에 기록돼 있었다. 넷째, 우마가 오래 전부터 비행기 예약을 했는데 이는 항공 관리국에 기록이 남아 있었다.
이 모든 걸 합쳐 놓고 보면 우마가 매우 위험한 인물이라는 걸 알 수 있지만 하나의 기록만으로는 근거가 모자랐다. 데이터베이스 내부는 물론 외부에 있는 데이터 통합이 필요한 이유다.
이 사건은 흩어져 있는 데이터의 소유자가 다르고, 같은 회사라 하더라도 시스템이 분리돼 있고, 그리고 이름이 길기 때문에 하나라도 오탈자가 있으면 딴 사람이 되어 버리는 등 문제점을 통해 데이터 통합 활동에서 중요한 것이 무엇인지를 일깨워 준다.
◆ 데이터 통합, ‘모래상자’ 모델에서 ‘마차바퀴’ 모델로 진화
데이터 통합은 현재의 ‘모래상자’ 모델에서 ‘마차바퀴(Hub & Spokes)’ 모델로 진화해야 한다.
모래상자 모델은 ERP, MES, CRM 등 각 시스템이 따로 데이터를 관리하지만 ‘마차바퀴’ 모델은 중앙의 허브가 모든 정보를 모으고 조율한다. 이를테면 “방금 구마모토에서 지진이 일어났다. 어느 부품의 공급이 걱정이지?” 또는 “이 한 거래를 끝내는 데 23일 걸렸다. 도대체 왜 이리 오래 걸리지” 등의 문제를 풀려면 LLM 기반의 허브를 중앙에 두고 이를 각자의 시스템과 연계해 통합 운영하는 마차바퀴 모델과 AI 에이전트가 필요하다.
통합과 AI 에이전트 자동화가 합쳐진 LLM 기반 기업 시스템으로 대시보드를 볼 수 있고, 작업의 흐름을 만들 수 있으며, 여기저기 데이터를 가져가다 분석을 할 수 있다.
마차바퀴 모델은 허브를 가운데 놓지 않고 위쪽으로 올려, 1층에는 LLL이나 시스템들이 살고, 2층에는 허브가 사는 모델로 바꿀 수 있다. 1층은 데이터 계층, 2층은 시맨틱 계층 즉 의미 계층 또는 의미 번역 계층이 되는 셈이다. 이 모델 자체를 온톨로지라고 부른다. 이를 통해 복잡한 기업 시스템을 챗GPT와 똑같은 인터페이스로 운영할 수 있다.
온톨로지가 하는 일은 서로 다르게 부르는 이름을 하나로 묶어 표준화하며, 현실 세계에 존재하는 사물이나 개념의 본질을 명확히 정의하고 체계적으로 분류하고, 각 사물이 가진 특징이나 성질을 데이터로 표현해 사물과 사물이 서로 어떻게 연관되어 있는지 연결고리를 만든다. 그리고 이러한 개념과 관계들을 그래프 형태로 시각화하고, 사람이 알고 있는 지식을 기계가 이해하고 추론할 수 있는 형태로 바꾸어 데이터 관리, 검색, AI 서비스 등에 활용한다.
AI 에이전트는 자율적인 소프트웨어 시스템으로 워크플로우의 자동화, 다단계 작업, 혼자서 길을 찾고 다른 앱을 불러들이는 기능을 갖고 있으며, LLM의 실력을 빌려 작동한다. 에이전트는 여려 명일 수 있으며, 규칙 기반에서 졸업했다.
주식 분석가는 AI 에이전트의 자동화를 통해 SNS, 리포트, 데이터베이스, 월드와이드웹, 미디어 등을 가져다가 매일 아침 읽고 보고서를 만들어낸다. 또 연구 보고서의 작성에 에이전트 1은 시장 추세 등을 연구하고, 에이전트 2는 기본 개념을 확립해 초안을 작성하며, 에이전트 3은 거기다가 도표를 삽입하는 등 3명의 AI 에이전트가 분업해 일을 한다.
강연을 요약하면 AI에는 많은 불확실성이 있으며, AI의 미래에 대해 의견이 다르다. 또 기술의 확산에는 룰이 있어 단기적 전망은 가능하다. 그리고 기업 시스템의 추세는 통합과 자동화다.
빼놓을 수 없는 것이 AI 재앙의 가능성이 있다는 점이다. 국가적, 인류적 연구나 합의가 필요하다. 이제 각 분야는 AI 기술의 영향을 예측하고 이에 대비하기 시작했다. 또한 국가마다 준비위원회를 만들어 거버넌스를 논하고 대학마다 비 기술 분야에서의 학문적 연구와 강의를 시작했다. 스탠포드는 휴먼 AI(HAI) 조직으로, MIT는 아이스버그 프로젝트를 통해 인간과 AI의 화합된 미래를 연구하고 있다. 이제 기업도 각자 고민하고 준비해야 할 것이다.
<박시현 기자> shpark@it-b.co.kr
영림원CEO포럼에서 강연된 내용은 아이티비즈 에 연재되고 있습니다.
< 저작권자 © 아이티비즈 무단전재 및 재배포 금지 >