이렇게 생성형 AI 시대를 대비하라, 글로벌 싱크탱크 맥킨지의 제언

맥킨지 앤 컴퍼니 생성형 AI 리포트

2024.08.26



산업 혁명 시대에 이런 일이 일어났어요. 사람들이 기계를 부순 거예요. 당시 등장한 방직기가 일거리를 줄인다는 생각 때문이었죠. 한두 사람이 그런 게 아니라 집단적인 움직임이 벌어졌죠. 기계 파괴 운동으로 불리는 ‘러다이트 운동’이에요. 시간이 지나면서 이 말은 신기술에 반대하는 용어로 쓰이기 시작했죠. 


신기술의 등장에 반대할 수는 있지만, 그 거대한 흐름을 막기는 어려워요. 산업은 생산성을 높이는 방향으로 진화하니까요. 변화의 물결 속에서 일자리를 지키려면, 신기술을 부수는 게 아니라 어떻게 활용할지 고민해야 하죠. 이는 2023년부터 불어오기 시작한 ‘생성형 AI 시대’에도 유효해요. 그래서 오늘은 생성형 AI 관련 리포트를 스터디 해봤어요.    


글로벌 컨설팅 회사인 맥킨지 앤 컴퍼니에서는 2023년부터 본격적으로 생성형 AI에 대한 많은 리포트들을 발행했는데요. 생성형 AI의 도입 현황뿐만 아니라, 앞으로의 잠재력, 그리고 이 잠재력을 가치로 전환하기 위한 방법, 현업에서는 어떻게 적용하고 있는지 등 비즈니스적 관점에서 생성형 AI를 다루고 있어요. 오늘은 그 리포트들을 총망라해 비즈니스에서 이해해야 할 산업 속 생성형 AI를 살펴볼게요.


맥킨지 앤 컴퍼니 생성형 AI 리포트 미리보기

 #1. 생성형 AI, 경제적 잠재 가능성은 얼마나 될까?

 #2. 잠재 가능성을 가치로 전환하기 위해서는?

 #3. 리테일 업계에서는 생성형 AI를 어떻게 활용하나?

 생성형 AI를 안전하면서도 빠르게 구현하려면?




업무적으로 챗GPT를 사용해 보신 적 있나요? 워낙 화제이니 적어도 호기심에라도, 한 번쯤 챗GPT에 질문을 던져본 적이 있을 거예요. 챗GPT로 대표되는 생성형 AI는 2023년 한 해 동안 그야말로 뜨거운 감자였어요. 생성형 AI를 발견하고, 그 가능성에 귀추가 주목되었던 시기였죠. 2024년 들어서는 생성형 AI를 실제로 현업에 접목헤 비즈니스적인 결과물을 얻기 시작했고요.


그렇다면 업무 목적으로 생성형 AI를 사용하는 사람들은 얼마나 될까요? 2024년 초, 다양한 산업과 규모의 회사에서 일하는 사람들 1,363명을 대상으로 진행한 ‘AI에 관한 맥킨지 글로벌 서베이’에 의하면, 응답자의 65%가 소속된 회사에서 최소 1개 이상의 조직이 생성형 AI를 활용하고 있다고 답했어요. 이는 불과 10개월 전 실시했던 설문 조사 결과의 2배에 가까운 수치예요.


생성형 AI를 활용하는 대표적인 조직은 마케팅 및 영업, 그리고 제품 및 서비스 개발 부서인 것으로 조사됐어요. 생성형 AI를 도입했을 때 가장 큰 가치를 창출할 수 있는 부서들이죠. 이 두 부서를 포함해 전반적으로 생성형 AI를 업무에 활용하는 비율은 급격하게 증가하고 있어요. 미래에도 이런 추세는 이어질 거라는 전망이에요.


생성형 AI는 업무뿐만 아니라 개인 생활에도 스며들고 있어요. 2023년에는 직장과 개인 생활 모두에서 생성형 AI를 사용한다고 했던 응답자의 비율이 14%에 그쳤어요. 그런데 이 수치가 2024년에는 26%로 증가해, 약 2배 정도 상승했죠. 아시아 태평양, 중국, 개발도상국, 북미, 유럽 등의 지역으로 나누어 봤을 때에도 비율의 차이는 있지만, 직장과 개인 생활 모두에서 생성형 AI를 사용하는 추세는 지역을 막론하고 공통적으로 증가하고 있어요. 




또한 동일한 서베이에서 생성형 AI 도입이 실제로 사업적 결과로 이어졌다는 것도 밝혀졌어요. 조직 내 부서별로 생성형 AI 도입으로 비용 감소 또는 매출 증가의 효과가 얼마나 있었는지 조사했는데요. 그 결과 비용 감소 관점에서 5% 이상의 효과가 있었다고 답한 비율이 가장 큰 부서는 HR이었어요. 매출 관점에서 5% 이상의 효과가 있었다고 답한 비율이 가장 큰 부서는 공급망 및 재고 관리 영역이었고요. 이처럼 생성형 AI는 현업에서 즉각적인 효과를 드러내고 있어요.


맥킨지 앤 컴퍼니에서는 2023년부터 본격적으로 생성형 AI에 대한 많은 리포트들을 발행했어요. 생성형 AI의 도입 현황뿐만 아니라, 앞으로의 잠재력, 그리고 이 잠재력을 가치로 전환하기 위한 방법, 현업에서는 어떻게 적용하고 있는지 등 비즈니스적 관점에서 생성형 AI를 다루고 있어요. 그 리포트들을 총망라해 비즈니스에서 이해해야 할 산업 속 생성형 AI를 살펴볼게요.



#1. 생성형 AI, 경제적 잠재 가능성은 얼마나 될까?


생성형 AI의 부상은 수십 년간 쌓여 온 AI에 대한 연구 덕분이에요. 그 결과 챗GPT, 깃허브 코파일럿, 스테이블 디퓨전 등 최근 주목받는 생성형 AI 도구들이 등장했죠. AI의 분야는 다양하지만, 그 중에서도 생성형 AI에 대한 투자는 빠르게 증가하고 있어요.


맥킨지 앤 컴퍼니의 <The economic potential of generative AI: The next productivity frontier> 리포트에 따르면 2023년 1~5월까지 5개월 동안에만 생성형 AI에 대한 투자금이 약 120억 달러(약 16조2천억원)에 달했다고 해요. 생성형 AI에 대한 VC와 민간 투자는 2017년부터 2022년까지 연평균 성장률 74%로 증가해 왔고요. 같은 기간 AI에 대한 투자는 연평균 29% 증가한 것에 비하면 그 속도가 더 빠르다는 것을 알 수 있어요.


생성형 AI가 점점 더 많은 투자를 유치하고 있다는 것은, 그만큼 더 많은 경제적 가치를 창출할 수 있는 힘이 있다는 의미이기도 해요. 맥킨지 앤 컴퍼니는 산업과 기능, 2가지 축으로 생성형 AI 사용 사례 63가지를 분석했어요. 산업에는 리테일, 부동산, 금융, 헬스케어, 에너지 등 21개 산업이, 기능에는 마케팅 및 세일즈, CS, 제품 R&D, 소프트웨어 엔지니어링 등 16개 영역이 포함되어 있죠.


그 결과 생성형 AI는 산업과 부서를 막론하고, 연간 2조 6천억~4조 4천억 달러(약 3,510조~5,940조원)에 해당하는 가치를 더할 수 있다고 추정하고 있어요. 이는 전체 AI의 영향을 15~40% 증가시킬 수 있는 규모의 가치예요.


생성형 AI는 대부분의 산업에 큰 영향을 미칠 것으로 예상돼요. 하지만 그 중에서도 은행, 리테일 및 CPG(Consumer Packaged Goods), 제약 및 의료 부문에서는 특히 더 큰 영향력을 발휘할 거예요. 은행 산업 전체 내 주요 부문에서 생성형 AI 사용 사례가 구현되면 연간 2천억~3,400억 달러(약 270조~459조원)에 해당하는 가치가 창출될 것으로 추산돼요. 리테일 및 CPG의 경우 잠재적 영향은 연간 4천억~6,600억 달러(약 540조~891조원)에 이를 것으로 예상되고요.




생성형 AI가 특히 큰 가치를 창조하는 영역은 고객 운영, 마케팅 및 영업, 소프트웨어 엔지니어링, 그리고 R&D예요. 예를 들어 생성형 AI는 고객과의 상호 작용을 지원하거나, 마케팅 및 영업 콘텐츠를 생성하거나, 자연어 프롬프트를 기반으로 컴퓨터 코드를 생성하는 등의 작업을 지원할 수 있어요.


이처럼 생성형 AI는 업무 활동을 자동화하여 역량을 강화하는 효과가 있어요. 생성형 AI를 포함한 AI 기술들은 근무 시간의 60~70%를 차지하는 작업들을 자동화할 수 있는 잠재력이 있을 정도예요. 같은 시간에 더 많은 일을, 혹은 같은 일을 한다면 더 짧은 시간에 끝낼 수 있도록 도와주죠. 게다가 그 속도도 점차 빨라지고 있어요. 생성형 AI가 자연어를 이해하는 능력이 점점 향상되고 있기 때문이에요. 특히 생성형 AI는 다른 유형의 업무보다 지식 관련 업무에 더 큰 영향을 미칠 거예요.



#2. 잠재 가능성을 가치로 전환하기 위해서는?


생성형 AI는 노동 생산성을 크게 높일 수 있는 잠재력이 있어요. 하지만 이 잠재력은 저절로 가치로 전환되지 않아요. 지금까지 인간이 했던 작업을 생성형 AI가 할 수 있도록 전환하는 데에 투자가 필요하죠. 새로운 솔루션을 광범위하게 배포하고 개선할 수 있는 조직적, 기술적 역량을 구축해 비즈니스를 재구성해야 해요. 맥킨지 앤 컴퍼니의 <A generative AI reset: Rewiring to turn potential into value in 2024>에서는 생성형 AI를 활용해 사업적 가치를 창출하는 방법에 대해 다뤄요.


이 리포트에서는 먼저 생성형 AI를 도입함으로써 경쟁 우위를 가질 수 있는 부분을 파악해야 한다고 말해요. 생성형 AI가 생산성을 개선할 수 있다고 해서 경쟁 우위의 창출로 이어지는 것은 아니거든요. 예를 들어 볼게요. 많은 회사가 고객 서비스 부문에서 생성형 AI를 도입하고자 해요. 그런데 고객 서비스는 대부분의 회사에서 핵심 사업이 아니라 상품 또는 서비스의 역량이에요. 이 경우 생성형 AI가 생산성을 높이는 데는 도움이 될 수 있겠지만, 경쟁 우위를 창출하지는 못하죠.


경쟁 우위를 만들기 위해서 회사는 먼저 3가지 생성형 AI 코파일럿*의 원형인 ‘테이커(Taker)’, ‘셰이퍼(Shaper)’, ‘메이커(Maker)’ 간 차이를 이해해야 해요. 테이커는 API 및 구독 서비스를 통해 도구를 사용하는 유형이고, 셰이퍼는 소유 데이터로 사용 가능한 모델들을 통합하는 유형, 그리고 메이커는 LLM*을 구축하는 유형을 뜻해요. 현재로서는 메이커 방식은 너무 비싸기 때문에, 대부분의 기업들은 테이커 모델을 선택하고 셰이퍼 앱을 구축하는 게 가장 좋은 방법이라고 해요.


*코파일럿: 일상적인 작업을 이전보다 더 빠르게 수행할 수 있도록 도와주는 AI 부조종사


*LLM: 텍스트를 인식하고 생성하는 등의 작업을 수행할 수 있는 일종의 인공 지능(AI) 프로그램


생성형 AI의 단기적 가치는 사람들이 현재 업무를 더 잘 수행할 수 있는 능력과 밀접하게 연관되어 있어요. 기업은 생성형 AI 코파일럿이 가장 큰 영향을 끼칠 수 있는 곳에 집중해야 하죠. 예를 들어 유지 관리가 비즈니스의 중요한 영역이라면, 생성형 AI 코파일럿이 유지 관리 보고서를 검토하고 해당 업무의 직원과 시간을 많이 보내면 큰 변화를 가져올 수 있는 부분을 빠르게 파악할 수 있어요. 장비 고장 문제를 식별하거나 근본 원인을 파악해 평소보다 더 신속하게 해결책을 제안하는 등 생산성을 증가시키고 수익을 창출할 수 있죠.


그리고 기업은 필요한 생성형 AI 특정 기술을 명확히 하고, 개발해야 해요. 필요한 특정 기술을 파악하고, 이를 잘 활용하는 방법을 배우는 일을 시간이 필요한데요. 적절한 수준의 역량에 도달하는데 수개월이 소요되죠. 회사의 규모에 맞게 역량을 구축하기 위해서는 견습, 다른 사람을 교육하기 위한 교육, 실무자 커뮤니티 구축 등이 필요해요.


성공적인 생성형 AI 기술은 단순한 코딩 능력 이상이에요. 솔루션에 집중할 곳을 찾아내는 기술, 문제와 답변의 맥락을 고려하는 상황적 이해, 지식 전문가와 협업하는 기술, 문제 발생 시 원인을 파악하는 일 등 다양한 역량을 갖추고 있어야만 생성형 AI 기술을 효과적으로 사용할 수 있어요. 생성형 AI 기술을 다루는 인재라면, 순수한 코더를 넘어 이러한 기술을 잘 갖추어야 해요.


맥킨지 앤 컴퍼니의 또 다른 생성형 AI 리포트, <Strategic alliances for gen AI: How to build them and make them work>에서는 기업이 생성형 AI 공급업체들과 어떻게 협업해야 하는지 전략적 제휴 관점에서 필요한 조언을 해줘요. 이미 많은 회사들이 생성형 AI 공급업체들과 함께 일하고 있지만, 전통적인 공급업체 계약처럼 접근해서는 안된다고 말하죠. 그리고 3가지 영역에 집중해 전략적 제휴를 최대한 활용하라고 조언하고 있어요.


1. 협업에 대해 더 깊이 파고 드세요.

    

    생성형 AI 공급 업체와 함께 일할 때에는 기존 공급업체와 함께 작업할 때보다 더 높은 수준의 신뢰와 협업이 필요해요. 신중한 투명성, 빈번한 커뮤니케이션, 계획, 개발 및 지속적인 관리 전반에 걸친 명확한 일치가 요구되죠.

    

2. 확장성, 상호 운용성, 재사용성을 제공하는 공급업체를 집중적으로 살펴보세요.

    

    단일 공급업체가 회사에 필요한 모든 것을 제공할 수는 없어요. 해당 솔루션이 회사의 생성형 AI 생태계의 다른 구성 요소와 얼마나 잘 작동하는지 이해하고 있어야 해요.

    

3. 미래를 스스로 통제하세요.

    

    공급업체의 역량을 레버리지하는 것과 공급업체에 지나치게 의존하는 것 사이에서 균형을 맞추는 것이 중요해요. 즉, 유연한 인프라에 투자하고, 공급업체 성과를 지속적으로 모니터링하고, 지적 재산(IP) 경계를 명확히 하면서 보상을 성과에 연결해야 해요.

    


#3. 리테일 업계에서는 생성형 AI를 어떻게 활용하나?


생성형 AI는 이미 많은 업계에서 활용되고 있어요. 생성형 AI를 적극적으로 도입한 업계 중 하나는 소매업인데요. 2022년 말부터 리테일 업계에서는 생성형 AI의 잠재력을 깨닫고 발 빠르게  움직이기 시작했어요. 생성형 AI는 리테일 업계에 2,400억~3,900억 달러(약 324~527억원) 규모의 경제적 가치를 제공할 것으로 예상되고 있기 때문이에요.


이에 맥킨지 앤 컴퍼니에서는 <LLM to ROI: How to scale gen AI in retail> 보고서를 통해 어떤 사용 사례가 가치를 제공할 수 있는지, 그리고 이런 기술을 성공적으로 확장하기 위해서는 어떤 조직적 변화가 필요한지 발표했어요. 이 보고서에서는 리테일 업계에 종사하는 50명 이상의 임원들을 대상으로 한 설문 조사 결과도 포함되어 있죠.


생성형 AI의 힘을 활용하는 데 성공한 리테일 기업은 일반적으로 두 가지 영역에서 탁월함을 보였어요. 하나는 생성형 AI를 다양한 분야에 분산하는 대신, 특정 영역을 변환하는 데 어떻게 도움이 될 수 있는지 고려한다는 점이에요. 또 다른 하나는 파일럿 단계에서 대규모로 배포해 효과적으로 전환한다는 점이었어요. 이를 위해서는 데이터 우선순위 지정 및 기술 통합뿐만 아니라 광범위한 AI 도입을 지원하기 위한 상당한 조직적 변화가 필요해요.


그렇다면 생성형 AI는 소매업을 어떻게 혁신하고 있을까요? 조사 결과, 크게 2가지 방법이 있었어요. 하나는 회사의 내부 가치 사슬에 생성형 AI를 실행하고 솔루션을 확장해, 리더가 정보에 입각한 결정을 더 빠르게 내릴 수 있도록 돕는 거예요. 마케팅, 유통, 백오피스 업무 등 가치 사슬의 각 단계에서 생산성과 효율성을 높이고 있어요.


예를 들어 아마존의 경우, 광고주가 더 나은 광고 경험을 제공할 수 있도록 2023년 말부터 이미 AI기반 이미지 생성도구를 출시했어요. 이 도구는 생성형 AI 텍스트 프롬프트를 사용하여 기존 제품 사진을 보다 현실적인 라이프스타일 이미지로 변환해요. 소파라면 흰 바탕의 소파가 아니라 거실에 있는 소파 사진을 생성하는 식이에요. 이 도구는 광고 클릭률을 최대 40%까지 향상시켰다고 해요.


생성형 AI의 가치는 아마존의 사례처럼 일상 업무를 효율 또는 효과의 관점에서 개선하는 것 이상이에요. 인사이트, 근본 원인 등을 자동으로 생성해 회사의 의사결정을 가속화하는 데에도 도움을 주고 있어요. 소매 오퍼레이션은 정량화하거나 추적하기 어려운 수많은 요인들이 얽혀 있어요. 그렇기 때문에 성과 분석이나 예측이 힘든데요. 과거에는 매출 감소의 원인들을 수동으로 파악하고, 이를 피하기 위한 전략을 세우는 데에 많은 시간이 소요되었어요. 반면 생성형 AI를 활용해 주요 성과 인사이트와 제안된 대응이 포함된 개인화된 보고서를 얻을 수 있어요.


내부 가치 사슬을 강화하는 것에 더해 생성형 AI가 소매업을 혁신하는 또 하나의 영역은 고객 경험이에요. 생성형 AI는 고객과의 상호작용을 확장, 관계를 돈독하게 하고, 개인화해 더 만족스러운 고객 경험을 구현하고 있어요. 특히 자연어 모델을 기반으로 하는 생성형 AI 챗봇의 고급 대화 기능은 스마트 쇼핑 도우미를 주요 쇼핑 채널로 만드는 효과도 있죠.


생성형 AI 기반 챗봇 어시스턴스는 고객 경험을 재창조하는 데에 큰 역할을 해요. 하지만 많은 소매업체가 챗봇에 대해 우려하는 것은 비용이에요. 생성형 AI 챗봇을 도입할 때에 발생하는 비용은 여러 요인이 있지만, 그 중에서도 LLM API를 사용하는 비용에 대한 우려가 큰데요. 다행히도 LLM API를 사용하는 비용은 2023년부터 극적으로 낮아졌어요. AI 전문가들은 앞으로도 계속해서 하락할 것으로 전망하고 있으며, 일부는 향후 2~3년 내에 최대 80%까지 낮아질 것으로 예측하고 있어요. 실제로도 생성형 AI 챗봇을 구축한 경험에 따르면, 생성형 AI 챗봇 도입에 따른 효과가 LLM 비용을 상쇄하고 있고요.


채팅봇에 투자할 준비가 되어 있지 않다면, 스마트 검색 기능을 출시하는 것도 추천해요. 스마트 검색 도구를 사용하면 채팅봇과 대화할 수는 없지만, 질문을 통해 추천 제품 목록을 생성할 수 있죠. 기존 검색은 키워드 매칭에 의존하는 반면, 생성형 AI로 구동되는 스마트 검색은 검색어의 맥락과 의도를 이해해 검색 결과를 보여 줘요. 채팅봇만큼의 개인화는 어렵지만, 개발이 더 쉽고 비용이 더 적게 드는 장점이 있어요.



생성형 AI를 안전하면서도 빠르게 구현하려면?


생성형 AI는 장점이 많고, 거스를 수 없는 시대의 흐름이에요. 그렇다고 ‘완벽한’ 기술인 건 아닌데요. 위험과 기회를 모두 안겨주는 기술이죠. 데이터 프라이버시, IP 침해와 같은 데이터 관리 위험에서 부정확한 아웃풋이나 설명 부족과 같은 모델 매니지먼트 리스크까지 그 범위와 종류는 다양해요. 여기에 생성형 AI의 남용 문제도 무시할 수 없는 수준이에요.


생성형 AI와 관련된 위험을 인식하고 있으니, 관리만 잘한다면 기술의 가치를 극대화할 수 있을 거예요. 이에 맥킨지 앤 컴퍼니는 <Implementing generative AI with speed and safety> 리포트를 통해 생성형 AI와 관련된 리스크를 어떻게 대응할 것인지에 대해 제안하고 있는데요. 생성형 AI 도입의 안전성과 지속 가능성을 보장하기 위해서는 거버넌스 및 위험 관리가 수반되어야 한다고 강조하고 있어요.


기업은 편견, 개인 정보 보호 문제, 부정확성과 같은 각 생성형 AI 사용 사례와 관련된 잠재적 위험을 매핑해야 해요. 그리고 이런 위험을 효과적으로 관리하기 위해서는 기술적, 비기술적 조치를 해야 해요. 데이터 접근 제한, 감독 인력과 같은 기술적 통제와 동시에 조직 전체에 걸쳐 거버넌스를 구축하고, 책임 있는 AI 문화 육성 등과 같은 비기술적 조치가 모두 필요하죠.


생성형 AI가 수반할 수 있는 위험을 방지하기 위해서는 거버넌스 및 조직 변화가 필수적인데요. 생성형 AI로 인해 조직이 거버넌스 관점에서 바꿔야 할 가능성이 높은 3가지 핵심 요소들을 소개할게요. 먼저 최소 월별 주기를 가진 교차 기능적(Cross functional), 그리고 책임 있는 생성형 AI 조정 위원회를 구성하는 거예요. 여기에 AI 가이드라인 및 정책, 책임감 있는 AI 인재 및 문화가 뒤따라요.


뿐만 아니라 이 보고서에서는 생성형 AI의 이점을 발견하고 도입하는 데에 속도가 중요하지만, 주의를 기울여 균형을 찾는 것도 중요하다고 말하고 있어요. 위험에 대한 정기적인 재평가와 이를 완화화기 위한 명확한 로드맵을 포함하는 균형 잡힌 접근 방식을 권장하는 거예요.


이처럼 생성형 AI가 수반하는 위험성을 분석하고, 이를 방지하기 위해 노력하는 것은 생성형 AI를 가장 빠르게, 그리고 가장 적합한 곳에 도입하는 일 못지 않게 중요해요. 신기술의 성패는 기술 자체가 아니라 기술이 내포한 리스크에 함정이 있는 경우가 많으니까요.


지금까지 맥킨지 앤 컴퍼니의 보고서와 함께 생성형 AI의 현 주소와 대비해야 하는 위험까지 알아봤어요. 업무에 생성형 AI 도입을 고민하고 있었거나, 생성형 AI에 대한 막연한 걱정이 있었던 분들에게 오늘의 콘텐츠가 도움이 되기를 바랄게요. 더 자세한 내용은 아래의 맥킨지 앤 컴퍼니의 보고서를 참고해 보세요.





Reference

The state of AI in early 2024: Gen AI adoption spikes and starts to generate value, McKinsey & Company

The economic potential of generative AI: The next productivity frontier, McKinsey & Company

A generative AI reset: Rewiring to turn potential into value in 2024, McKinsey & Company

Strategic alliances for gen AI: How to build them and make them work, McKinsey & Company

LLM to ROI: How to scale gen AI in retail, McKinsey & Company

Implementing generative AI with speed and safety, McKinsey & Company

나머지 스토리가 궁금하신가요?

시티호퍼스 멤버십을 시작하고
모든 콘텐츠를 자유롭게 읽어보세요!

이 콘텐츠도 마음에 들 거예요!