AI를 도입한 기업이 그렇지 않은 기업보다 성과가 더 좋다는 사실, 이제 그리 놀라운 뉴스는 아닙니다.
그런데 이와 관련해 흥미로운 데이터가 있습니다.
AI를 도입했는데도 전혀 성과를 내지 못하는 기업이, 그렇지 않은 기업 못지않게 많다는 것입니다. BCG의 2025년 보고서에 따르면 AI에 투자한 기업 중 60%가 가시적인 성과를 거의 보지 못하고 있습니다. 돈을 쓰고, 사람을 뽑고, 프로젝트를 시작했는데도 달라진 게 없는 것이죠.
반면 나머지 40%, 그중에서도 특히 상위 5%에 해당하는 기업들은 매출 성장률, 주주수익률, 영업이익 모든 면에서 평균을 압도하는 성과를 냅니다.
같은 시기에 AI를 두고 이렇게 극명한 결과가 나오는 이유는 뭘까요?
이에 대해 글로벌 컨설팅 기업들은 'AI 리더'와 'AI 라거드'를 구분하는 프레임을 제시하고 있습니다. 이 프레임을 바탕으로 두 유형의 조직이 어떤 차이로 인해 AI 경쟁에서 격차가 만들어 내는지를 분석하고 있죠.
오늘은 팀스파르타에서 여러 보고서를 바탕으로 ‘AI 리더’와 ‘AI 라거드’를 나누는 기준은 무엇인지, AI 라거드 조직이 어떤 함정에 빠지는지, AI 라거드는 추격을 어떻게 시작할 수 있는지를 분석해 보겠습니다.
AI를 도입해도 뒤처지는 기업, AI 라거드
라거드(laggard)는 사전적으로 느림보, 뒤처진 사람을 말합니다.
따라서 AI 라거드(AI laggard)는 AI 기술·역량이 동종 업계 평균보다 낮고 AI에 소극적인 조직을 말하는데요. AI 라거드는 단순히 AI를 안 쓰는 게 아니라 AI 확산 속도, 투자 규모, 성과(매출·생산성) 등에서 AI 리더 기업과 뚜렷한 격차를 보이는 조직입니다.
AI 리더 기업 연구하다 발견한 불편한 다수, AI 라거드
2022년 챗GPT로 AI 붐이 일어나면서 많은 기업들이 AI를 빠르게 도입했습니다. 당시 88%의 기업이 AI를 도입했지만, 실제 가치를 창출한 기업은 6% 미만으로 극히 적었죠.
이후 맥킨지, 보스턴컨설팅그룹(BCG) 등 글로벌 컨설팅 기업들이 이 격차를 분석하기 시작했습니다. 그리고 보고서를 통해 AI 경쟁의 상위 5~20% 기업을 ‘AI 리더’로, 하위 60~80%를 ‘AI 라거드’로 구분하면서 용어가 퍼지기 시작했습니다.
맥킨지가 1,000개 이상의 기업을 분석한 보고서에 따르면 AI 라거드의 AI 성숙도는 AI 리더보다 약 60% 뒤처집니다. AI 라거드의 총주주수익률(TSR)도 AI 리더 기업의 1/2에서 1/6 정도에 그치죠.
더구나 이 수치들은 2024년에 발표된 것이기 때문에, 현재는 그 격차가 더 벌어졌을 것으로 보입니다. AI를 성공적으로 도입한 AI 리더는 시너지 효과를 통해 투자·역량·성과가 복리로 늘어나고 있기 때문이죠.
이처럼 시간이 지날수록 AI 라거드는 AI 리더를 점점 따라잡기 어려운 위치에 처하게 됩니다.
AI 라거드 조직의 공통점 4가지
BCG에 따르면, 미래형 AI를 구축한 기업은 5%에 불과합니다. 35%는 AI를 확대 중이고, 나머지 60%는 돈을 썼지만 성과를 거의 보지 못하고 있습니다.
이 60%에 해당하는 AI 라거드 조직은 공통된 몇 가지 패턴을 갖고 있는데요. 주요 특징을 꼽으면 다음과 같습니다.
1) 시범 프로젝트를 확장하지 못한다
AI 라거드가 AI에 투자를 안 하는 건 아닙니다. 오히려 AI에 돈과 인재를 쏟아붓기도 하죠.
그러나 AI 시범 프로젝트(파일럿)나 개념 증명(PoC)만 반복할 뿐, 이를 실제 워크플로우나 제품·서비스에 붙이지 못합니다. 즉, AI 프로젝트를 실제 사업 규모로 키우지 못하는 것이죠.
예를 들면 예산 10억을 투입하여 챗봇 PoC를 성공적으로 만들어 놓고, 이를 고객센터 전체 시스템으로 확장하거나 매출로 연결하지 못합니다. 파일럿 성공 이후에는 데이터 통합, 기존 시스템과의 연동, 현업 부서의 수용이라는 훨씬 더 복잡한 문제들이 기다리고 있기 때문이죠.
AI 라거드는 이런 문제들을 뒤로 밀쳐두다 몇 개월 뒤 예산을 삭감하고, 프로젝트를 유야무야 접어버립니다.
2) 운영 모델이 미성숙하다
AI 라거드는 AI를 위한 인프라, 데이터, 거버넌스가 준비되어 있지 않습니다.
조직 전반에 AI를 성공적으로 도입하기 위한 기반을 마련해놓지 않은 채, ‘2026년, 업계 AI 1등!’ 같은 멋진 슬로건만 내놓는 셈이죠.
오래된 클라우드 서버, 흩어져 있는 데이터, 불명확한 책임 소재, AI 규정의 부재 등등의 환경에서 AI 프로젝트를 시작하면 그 결과가 좋지 않은 것은 뻔한 일입니다.
BCG에서도 AI 확장을 막는 장애물의 70%가 기술 문제가 아닌 사람과 프로세스, 즉 변화 관리와 거버넌스에 있다고 분석하는데요. AI 리더 기업들이 데이터 품질, 보안, 명확한 책임 체계를 먼저 정비하는 이유가 바로 여기에 있습니다.
3) 위험을 과대평가하고, 기회를 과소평가한다
AI로 인한 보안·품질 문제에만 집중하여 AI 도입을 미루었다가 AI 라거드가 되어버린 조직들이 많습니다.
물론 리스크를 인지하고 관리하는 것 자체는 옳습니다. 문제는 '관리'와 '회피'를 혼동하는 것이죠. AI 리더 기업들은 규제와 보안 이슈를 도입의 조건으로 삼아 해결하며 나아갔지만, AI 라거드는 이를 도입의 장벽으로 삼아 출발선 자체를 뒤로 미룬 것입니다.
4) 조직 내 AI 역량 격차가 크다
AI 라거드 조직에서는 AI 리터러시를 비롯해 프롬프트 엔지니어링, 데이터 인프라, MLOps(기계 학습 운영) 등과 같은 필요 역량이 부서별로 쪼개져 있거나 소수 팀에 몰려 있습니다.
데이터팀이 클라우드를 구축해도 영업팀은 막상 엑셀 데이터만 쓰고 있거나, 개발팀만 MLOps를 이해하고 마케팅은 이를 전혀 알지 못하는 상황인 것이죠. 전사적인 공통 플랫폼이 없거나, 프롬프트는 복사·붙여넣기로만 쓰는 것도 마찬가지입니다.
결국 AI 프로젝트는 특정 팀만 잘하는 영역이 되고, 전사적인 시너지는 일어나지 않습니다.
AI 리더와 AI 라거드 사이에 생긴 거대한 협곡
AI를 일찍 도입한 리더 기업들은 AI 라거드보다 AI 예산을 평균 2배 이상 지출했습니다.
그 결과 AI 도입 분야에서 매출이 2배 증가하였고, 비용은 40% 더 절감하는 성과를 누렸죠. BCG의 2025년 보고서에 따르면 AI 리더 기업의 매출 성장은 AI 라거드 대비 1.7배, 3년 주주총수익률 3.6배, 영업이익은 1.6배에 이릅니다.
나아가 스스로 학습, 추론, 행동으로 복잡한 문제를 해결하는 AI 에이전트가 등장하면서 AI 리더와 AI 라거드의 격차는 점점 더 빠르게 커지고 있습니다. 2025년 기준 AI 리더 기업의 1/3은 이미 AI 에이전트를 사용 중이며, AI 예산의 15%를 투자하고 있습니다. 반면 AI 라거드의 투자는 거의 0%죠.
일부 분석에서는 점점 더 커지고 있는 AI 라거드와 AI 리더 기업의 격차를 ‘AI 협곡(AI carvern)’이라고 부르는데요. AI 협곡의 무서운 점은 단순히 격차가 크다는 게 아닙니다. 문제는 시간이 지날수록 따라잡기 위해 필요한 자원과 시간이 기하급수적으로 커진다는 것이죠.
AI 리더 기업들은 데이터, 인재, 경험이 계속 축적되고, 이것이 다음 AI 투자의 기반이 됩니다. 반면 AI 라거드는 여전히 기초 단계에서 같은 실수를 반복하며 출발선 가까이에 머무르게 됩니다.
AI 라거드, 다시 앞서나갈 수 있을까?
보고서마다 그 비율은 다르지만, AI 리더라고 불릴 수 있는 기업은 여전히 소수입니다. 반면 AI 라거드에 속하는 조직은 최소 과반 이상이죠.
이 말인 즉슨, AI 라거드도 아직까지는 AI 경쟁에서 크게 뒤처지지 않았을 가능성이 높다는 것입니다.
대신 보다 더 정교하고 체계적인 전략을 취해야 하죠. AI 라거드 조직이 집중과 선택을 통해 빠른 추격을 시작한 사례는 쉽게 찾아볼 수 있습니다.
맥킨지 보고서에 등장한 익명의 한 글로벌 소비재 기업은 그간 200개가 넘는 AI 파일럿 프로젝트에 돈을 분산 투자 해왔습니다. 그러나 그 어떤 프로젝트도 큰 성과를 거두지 못하자, 경영진은 디지털 수요·운영·비즈니스 모델이라는 3가지 우선순위를 정했습니다. 그리고 명확한 KPI와 직원 교육, 파트너십에 집중했죠. 그로부터 2~3년 뒤 기업의 AI 성숙도는 15~20% 상승했고, 영업 이익도 10~20% 증가했습니다.
JP모건도 빠른 추격에 성공한 AI 라거드 사례입니다. JP모건은 2023년까지만 해도 AI 도구, 앱, 챗봇을 전혀 도입하지 않았습니다. 이는 AI 열풍에 휘둘리지 않고 치밀하게 계획된 전략이었는데요. JP모건은 신중하게 종합적인 계획을 수립하여 2024년에야 첫 IndexGPT를 출시·도입했습니다. AI가 뉴스·트렌드를 석해 특정 테마를 주제로 한 맞춤형 주식 인덱스를 자동으로 만들어주는 도구였죠. 이를 통해 JP모건은 블룸버그, 골드만 등과의 AI 경쟁에서 선두에 올랐고, 2025년 글로벌 투자은행 중 처음으로 ‘AI 진전’에서 1위를 차지했습니다.
두 사례의 공통점은 명확합니다. 무작위로 시도하지 않았다는 것이죠. 무엇을, 왜, 어떤 순서로 도입할지 전략적으로 정하고, 그 과정에서 사람과 교육에 집중 투자했습니다. AI 라거드가 AI 리더로 전환하는 전환점에는 항상 이 두 가지가 있었습니다.
AI 라거드의 가장 큰 추진력, 교육에서 나옵니다
AI 라거드가 빠지는 함정들을 들여다보면 공통된 구조가 보입니다.
기술과 도구는 있는데, 그것을 실제 업무에 연결할 사람이 없다는 것이죠. 결국 조직 구성원이 AI를 제대로 이해하고 활용하지 못하기 때문입니다. BCG가 AI 전환 실패 원인의 70%를 기술이 아닌 '사람과 프로세스'로 진단하는 것도 같은 맥락입니다.
이처럼 올바른 교육과 체계적인 역량 개발이 뒷받침된다면, AI 라거드도 충분히 빠르게 궤도에 오를 수 있습니다.
스파르타 AI 기업교육은 바로 이 지점에서 출발합니다.
전사 공통의 AI 리터러시부터 산업·직무·직급·역량 수준별 맞춤 커리큘럼까지, 조직의 AI 역량 공백을 체계적으로 채워드립니다. AI 역량 진단 및 니즈 분석을 통해 우리 조직에서 실제로 AI가 막히는 지점을 먼저 파악하고, 강사·기술 튜터의 밀착 관리와 전담 PM의 컨설팅으로 교육 효과가 현장에 안착할 때까지 함께합니다.
과거의 AI 파일럿 프로젝트가 흐지부지 끝났던 이유, AI 교육의 부재 때문일 수 있습니다. 그렇다면, 팀스파르타가 다시 강력한 부스터를 달아드릴 수 있습니다.
차별화된, 압도적인 성과를 자랑하는 스파르타 AI 기업교육과 함께라면 AI 라거드에서 AI 리더 조직으로의 전환, 빠르게 가능합니다.
팀스파르타가 압도적인 교육 관리 시스템으로 여러분의 성공을 최우선으로 돕겠습니다.
Share article