Korea Business Review
Korea Business Review

management-article

성공적인 AX 도입을 위한, CEO의 필요역량 — 도입률 88%, 성과 기업 6%. 격차를 가르는 다섯 가지 리더십

도입은 상수, 성과는 변수 — 맥킨지 조사에서 기업의 88%가 AI를 사용하지만 전사 이익 기여 5% 이상의 고성과 기업은 약 6%에 불과하다. 거버넌스 오너십 — CEO가 AI 거버넌스를 직접 감독하는 것이 생성형 AI의 손익 기여와 가장 강하게 연관된 요인으로 나타났다. 재설계 감각 — 고성과 기업의 55%는 AI 도입 시 워크플로를 근본적으로 다시 설계했다. 나머지 기업은 20% 안팎에 그쳤다. 환경 설계의 힘 — 대한상의 분석 결과 대·중소기업의 AI 활용 격차 13.8%포인트는 조직 환경을 통제하면 4%포인트로 줄었다. 의심하는 판단력 — 콘페리 조사에서 채용 최우선 역량 1위는 AI 기술이 아니라 AI의 결과물을 평가하고 기각할 줄 아는 비판적 사고(73%)였다.

김민경 책임기자입력 2026년 8월 12일수정 2026년 8월 12일
Share
자동조종장치가 정교해질수록 기장의 수동 조종 감각은 흐려진다. AI 시대의 경영 판단력도 다르지 않다.[사진 = KBR 자료사진]
자동조종장치가 정교해질수록 기장의 수동 조종 감각은 흐려진다. AI 시대의 경영 판단력도 다르지 않다.[사진 = KBR 자료사진]

도입은 상수, 성과는 변수 — 맥킨지 조사에서 기업의 88%가 AI를 사용하지만 전사 이익 기여 5% 이상의 고성과 기업은 약 6%에 불과하다. 거버넌스 오너십 — CEO가 AI 거버넌스를 직접 감독하는 것이 생성형 AI의 손익 기여와 가장 강하게 연관된 요인으로 나타났다. 재설계 감각 — 고성과 기업의 55%는 AI 도입 시 워크플로를 근본적으로 다시 설계했다. 나머지 기업은 20% 안팎에 그쳤다. 환경 설계의 힘 — 대한상의 분석 결과 대·중소기업의 AI 활용 격차 13.8%포인트는 조직 환경을 통제하면 4%포인트로 줄었다. 의심하는 판단력 — 콘페리 조사에서 채용 최우선 역량 1위는 AI 기술이 아니라 AI의 결과물을 평가하고 기각할 줄 아는 비판적 사고(73%)였다.

성공적인 AX 도입을 위한, CEO의 필요역량 도입률 88%의 시대, 성과는 6%만 낸다. AI 전환의 마지막 병목은 기술이 아니라 최고경영자 자신이다


도입의 시대가 끝나고, 성적표의 시대가 시작됐다

숫자부터 보자. 맥킨지가 2025년 11월 발표한 '스테이트 오브 AI' 조사(2025년 6~7월 조사, 105개국 1,993명 응답)에서 응답 기업의 88%가 최소 한 개 이상의 업무 기능에서 AI를 사용하고 있다고 답했다. 1년 전의 78%에서 다시 10%포인트 올라간 수치다. 이제 "AI를 도입할 것인가"라는 질문은 경영 의제에서 사실상 사라졌다. 문제는 그다음이다. 같은 조사에서 AI로 전사 영업이익의 5% 이상을 만들어내며 '고성과 기업'으로 분류된 곳은 전체의 약 6%에 불과했다.

PwC가 2026년 1월 다보스에서 공개한 제29차 글로벌 CEO 설문(95개국 4,454명)은 이 간극을 CEO의 언어로 번역한다. AI가 비용 절감과 매출 증가를 모두 가져다줬다고 답한 CEO는 8명 중 1명(12%)뿐이었고, 56%는 아직 유의미한 재무 성과를 보지 못했다고 답했다. 그럼에도 CEO들이 꼽은 최대 고민은 "우리가 기술 변화를 따라잡을 만큼 빠르게 전환하고 있는가"였다. 42%가 이를 최우선 관심사로 지목해, 혁신 역량이나 중장기 생존성에 대한 우려(각 29%)를 크게 앞질렀다.

더 흥미로운 것은 그 후속편이다. PwC가 2026년 8월 초 공개한 CEO 스냅숏 조사(같은 응답자군에서 추출한 59개국 351명, 2026년 5~6월 조사)에 따르면, 불과 8개월 사이 CEO의 절반(51%)이 AI의 사업 영향이 달라졌다고 답했다. 39%는 긍정적 성과를 유지하거나 키웠고, 16%는 부정적 영향이 이어지거나 악화됐다. AI의 가치는 지금 이 순간에도 기업 사이를 이동하고 있다는 뜻이다. 순위표는 아직 잉크가 마르지 않았다.

그렇다면 6%와 94%를 가르는 변수는 무엇인가. 2025년 하반기부터 2026년 8월 현재까지 발표된 주요 조사들에서 가장 일관되게 함께 등장하는 변수 중 하나는 기술 스택이나 예산 규모, 인재 시장 상황이 아니었다. 최고경영자가 이 전환을 어떤 역량으로 지휘하느냐였다. 물론 경영 성과에는 산업 구조, 자본력, 경쟁 강도 등 다른 변수도 함께 작용한다. 다만 여러 조사에서 반복적으로 관찰되는 연관성이라는 점에서, 이 글은 최신 데이터를 근거로 성공적인 AX(AI 전환)와 가장 자주 함께 나타나는 CEO의 다섯 가지 역량을 정리한다.


역량 하나, 거버넌스를 손에서 놓지 않는 오너십

직관에 반하는 결과부터 소개한다. 맥킨지가 2025년 3월 발표한 조사 분석(2024년 7월 조사 기반)에서, 생성형 AI의 손익 기여와 가장 강하게 연관된 요인은 첨단 기술 스택도, 데이터 과학자의 수도 아니었다. 25개 경영 속성을 놓고 상관관계를 분석한 결과, 1위는 'CEO가 AI 거버넌스를 직접 감독하는가'였다. 책임 있는 개발과 배포를 위한 정책, 프로세스, 기술 체계를 최고경영자가 자기 의제로 쥐고 있는 기업일수록 실제 이익 기여가 높았다는 이야기다.

2026년의 데이터는 이 결론을 더 무겁게 만든다. 딜로이트가 2026년 1월 발표한 '엔터프라이즈 AI 현황' 조사(24개국 이사급 이상 3,235명, 2025년 8~9월 조사)에서 응답자의 74%는 2027년까지 자율적으로 업무를 수행하는 AI 에이전트를 최소한 중간 수준 이상으로 활용할 것이라고 전망했다. 그런데 에이전트를 관리할 성숙한 거버넌스 체계를 갖췄다고 답한 기업은 21%에 그쳤다. 자율성이 커지는 속도를 통제 체계가 따라가지 못하고 있는 것이다.

새로 자리에 오른 CEO일수록 이 공백을 더 크게 느낀다. 글로벌 컨설팅사 콘페리의 CEO·이사회 설문 최신판에 따르면, 최근 선임된 초임 CEO 가운데 AI와 신기술 리스크를 관리할 자신이 있다고 답한 비율은 49%에 그쳤고, 이사회 구성원의 확신은 그보다 낮았다. 취임 초기부터 거버넌스 공백을 안고 출발하는 CEO가 절반에 가깝다는 뜻이다. 반면 PwC의 29차 설문은 반대편의 보상을 보여준다. 책임 있는 AI 프레임워크와 전사 통합이 가능한 기술 환경 같은 기반을 먼저 다진 기업의 CEO는 그렇지 않은 기업보다 유의미한 재무 성과를 보고할 확률이 3배 높았다.

경영 인사이트: 브레이크는 멈추려고 다는 게 아니다

자동차에 강력한 브레이크를 다는 이유는 멈추기 위해서가 아니라, 안심하고 속도를 내기 위해서다. AI 거버넌스도 같다. 준법 부서에 맡겨둘 서류 업무가 아니라, 조직이 겁 없이 가속할 수 있게 만드는 성장 장치다. 평소 위임에 능한 CEO일수록 이 지점에서 역설을 받아들여야 한다. 대부분의 실행은 과감히 내려보내되, AI에 무엇을 어디까지 맡기고 어디서 사람이 개입하는지에 대한 원칙만큼은 CEO의 책상 위에 있어야 한다. 특히 취임한 지 얼마 안 된 경영자라면, 거버넌스 원칙을 세우는 일을 '나중에 할 일'이 아니라 '가장 먼저 할 일' 목록의 맨 위에 놓아야 한다.



역량 둘, 업무를 '얹는' 게 아니라 '다시 그리는' 재설계 감각

맥킨지 조사에서 고성과 기업과 나머지를 가른 가장 뚜렷한 행동 차이는 워크플로 재설계였다. AI를 배치하면서 업무 프로세스를 근본적으로 다시 설계했다고 답한 비율이 고성과 기업은 55%, 나머지 기업은 20% 안팎이었다. 약 세 배 차이다. 고성과 기업은 또한 AI로 점진적 개선이 아니라 사업의 변혁을 노린다고 답할 확률이 세 배 이상 높았다.

딜로이트 조사도 같은 그림을 그린다. 조사 기업의 34%는 AI로 신제품과 새 사업 모델을 만들며 근본적 전환을 시작했고, 30%는 핵심 프로세스를 AI 중심으로 재설계하고 있으며, 나머지 37%는 기존 프로세스를 거의 바꾸지 않은 채 표면적으로만 AI를 쓰고 있었다. 세 집단 모두 생산성 개선은 얻고 있지만, 사업 자체를 다시 상상하는 곳은 첫 번째 집단뿐이라는 게 보고서의 진단이다. PwC의 별도 분석에서도 제품, 서비스, 고객 경험 전반에 AI를 폭넓게 적용한 기업은 그렇지 않은 기업보다 이익률이 4%포인트 가까이 높았다.

역사는 반복된다. 100여 년 전 공장에 전기가 들어왔을 때, 많은 경영자는 증기기관이 있던 자리에 전기 모터를 그대로 앉혔다. 생산성은 좀처럼 오르지 않았다. 도약은 전기의 특성에 맞춰 공장 배치와 작업 흐름 자체를 다시 설계한 다음에야 찾아왔다. 경제사 연구자들이 즐겨 인용하는 이 일화는 오늘의 AX에 그대로 겹쳐진다. 기존 결재 라인과 부서 칸막이를 그대로 둔 채 AI만 얹으면, 우리는 증기기관 자리에 모터를 놓은 그 공장이 된다.

경영 인사이트: 질문을 바꾸면 설계가 바뀐다

임원회의에서 "AI를 어디에 쓸 수 있을까"라고 물으면 답은 대개 비슷하다. 회의록 요약, 보고서 초안, 고객 응대. 나쁘지 않지만 거기까지다. 질문을 바꿔보자. "이 업무는 애초에 왜 이런 모양으로 설계돼 있었나. 사람의 시간이 희소자원이던 시절의 제약이 사라진다면, 이 일은 어떤 모양이어야 하나." 첫 번째 질문은 도구를 고르게 하고, 두 번째 질문은 사업을 다시 그리게 한다. 워크플로를 다시 설계한 기업의 비율이 그렇지 않은 기업보다 뚜렷이 높았던 것도 바로 이 두 번째 질문을 먼저 던진 결과일 가능성이 크다.


역량 셋, 사람이 움직일 환경을 설계하는 힘

기술과 프로세스가 준비돼도 사람이 쓰지 않으면 AX는 파워포인트 속 전략으로 남는다. 갤럽이 2026년 5월 기준으로 집계한 미국 직장인 조사에서, 회사가 AI를 업무에 통합하는 명확한 계획을 소통했다고 답한 직원은 25%에 그쳤다. 4명 중 3명은 회사의 AI 전략이 무엇인지 모른 채 일하고 있다는 뜻이다. 매일 AI를 쓰는 직원도 15%에 머물렀다. 반면 AI를 도입한 조직의 구성원 중 65%는 AI가 자신의 생산성과 효율에 긍정적이었다고 답했다. 쓰는 사람은 효과를 보는데, 조직이 쓰게 만들지 못하고 있는 것이다.

갤럽의 '글로벌 직장 현황 2026' 보고서는 이 문제의 지렛대가 어디 있는지 보여준다. 관리자가 팀의 AI 활용을 적극 지원하는 경우, 직원이 "AI가 일하는 방식을 바꿨다"고 강하게 동의할 확률은 8.7배, "AI 덕분에 내가 가장 잘하는 일에 집중할 기회가 늘었다"고 답할 확률은 7.4배 높았다. 문제는 그 지렛대 자체가 흔들리고 있다는 점이다. 같은 보고서에서 글로벌 관리자 몰입도는 2022년 31%에서 2025년 22%로 급락했다.

한국 데이터는 CEO가 만드는 '조직 환경'의 힘을 정량적으로 보여준다. 대한상공회의소 경제연구원이 2026년 6월 발표한 보고서에 따르면 대기업 근로자의 생성형 AI 활용률은 66.5%, 중소기업은 52.7%로 13.8%포인트 차이가 났다. 그런데 교육, 비용 지원, 도입 계획 같은 조직 환경 변수를 같은 조건으로 놓고 분석하자 기업 규모 자체에서 비롯되는 격차는 4%포인트 수준으로 줄었다. 회사가 AI 사용을 적극 권장하기만 해도 근로자의 활용 확률이 15.5%포인트, 구독료 등 비용을 지원하면 8.1%포인트 올라갔다. 격차의 정체는 규모가 아니라 환경이었고, 환경은 경영진이 만드는 것이다.

흥미로운 후속 발견도 있다. AI로 절약한 시간을 어디에 쓰는지 묻자 대기업과 중소기업 근로자 모두 '기존 업무의 품질 향상'을 첫손에 꼽았지만, 그다음 순위에서 갈렸다. 대기업 근로자는 '새로운 프로젝트와 업무 수행'을, 중소기업 근로자는 '휴식과 재충전'을 택했다. 보고서는 절감된 시간을 새로운 부가가치 창출에 재투입하는 방식의 차이가 중장기적으로 생산성 격차로 누적될 가능성을 지적했다. 시간을 벌어주는 것은 AI지만, 그 시간을 어디에 쓰게 할지는 결국 경영의 몫이라는 뜻이다.

경영 인사이트: 엔진이 아니라 변속기를 점검하라

AX가 헛도는 회사의 공통점은 엔진 출력이 아니라 동력 전달에 있다. CEO의 의지라는 엔진이 아무리 강해도, 중간관리자라는 변속기가 헛돌면 현장의 바퀴는 구르지 않는다. 그런데 많은 기업이 AI 교육 예산을 실무자에게만 쓰고, 정작 관리자에게는 "알아서 독려하라"고 말한다. 순서가 거꾸로다. 관리자가 먼저 자기 업무에서 AI로 덕을 봐야, 팀원에게 권할 말이 생긴다. 그리고 전략을 공표하라. 직원의 4분의 3이 회사의 AI 계획을 모른다는 갤럽의 수치는, 침묵이 곧 불안이고 불안이 곧 저항이라는 사실을 일깨운다.


역량 넷, 성과를 읽고 자본을 옮기는 포트폴리오 감각

맥킨지 조사에서 응답 기업의 80%는 AI 추진 목표로 '효율'을 꼽았다. 그러나 가장 큰 가치를 거두는 기업들은 효율에 더해 성장과 혁신을 명시적 목표로 설정한 곳들이었다. 실제로 응답자의 64%는 AI가 조직의 혁신을 가능하게 하고 있다고 답했지만, 전사 차원의 이익 기여를 보고한 비율은 39%에 머물렀다. 개별 업무의 시간 절감이 저절로 회사의 이익으로 합산되지는 않는다는 뜻이다.

성과의 분포도 극단적이다. PwC의 별도 분석에 따르면 전체 기업의 20%가 AI가 만들어내는 가치의 74%를 가져가고 있다. 게다가 8월 스냅숏 조사가 보여주듯 그 가치는 고정돼 있지 않고, 8개월 만에 절반의 기업에서 자리를 옮겼다. 이런 환경에서 CEO에게 필요한 것은 한 번의 대규모 베팅이 아니라, 성과를 빠르게 읽고 자본과 인력을 이기는 판으로 옮기는 포트폴리오 운용 감각이다.

같은 조사에서 눈여겨볼 대목이 하나 더 있다. 2026년 들어 AI로 수요 변화나 신시장 같은 새 사업 기회를 포착해 실행에 옮겼다는 CEO는 38%였지만, 공급망 노출이나 원자재 가격 같은 외부 충격의 파급 효과를 사전에 식별하는 데 AI를 쓴다는 응답은 23%에 그쳤다. AI를 사후 대응이 아니라 조기 경보에 쓰는 기업은 아직 소수라는 것이고, 뒤집어 말하면 바로 그곳이 다음 격차가 벌어질 지점이다.

경영 인사이트: 원가절감의 산수에는 바닥이 있다

효율만 목표로 삼은 AI는 성능 좋은 계산기에 머문다. 원가절감이라는 산수에는 언젠가 바닥이 오지만, 새 시장과 새 상품이라는 곱셈에는 천장이 없다. 분기마다 AI 과제 목록을 펼쳐놓고 물어보라. 이 중 비용을 줄이는 과제와 매출을 만드는 과제의 비율은 몇 대 몇인가. 전자만 가득하다면 우리 회사의 AI는 아직 수비만 하고 있는 것이다. 그리고 성과가 확인된 과제에는 예산을 두 배로 늘리고, 여섯 달째 제자리인 과제는 미련 없이 종료하라. 파일럿을 졸업시키지 못하는 조직은 결국 파일럿을 수집하는 조직이 된다.


역량 다섯, AI를 의심할 줄 아는 판단력

콘페리가 2025년 말 발표한 2026 인재 트렌드 조사(글로벌 인재 부문 리더 1,674명과 자사 전문가 230명 대상)에서, 채용 시 최우선으로 보는 역량 1위는 AI 기술이 아니라 비판적 사고(73%)였다. 기업들이 원하는 인재상은 명확했다. AI의 제안을 평가하고, 결과물의 결함을 짚어내고, 언제 AI의 판단을 기각해야 하는지 아는 사람이다. AI가 흔해질수록 희소해지는 것은 AI를 다루는 손이 아니라 AI를 의심하는 눈이라는 이야기다.

이 역량은 구성원보다 CEO 자신에게 먼저 요구된다. AI가 만든 시장 분석과 AI가 추천한 투자 우선순위가 이사회 자료에 오르는 시대에, 최종 결재권자가 그 산출물의 한계를 가늠하지 못하면 회사 전체의 판단이 취약해진다. 이를 위한 최소한의 훈련은 CEO가 AI를 직접 써보는 것이다. 매일 쓰는 사람만이 이 도구가 어디서 그럴듯한 오답을 내놓는지 몸으로 안다.

균형에 대한 경고도 있다. 콘페리의 CEO·이사회 설문에서 응답자의 약 70%는 향후 3년 리더십 최우선 과제로 AI와 기술 역량을 꼽았다. 반면 감성지능을 꼽은 비율은 38%, 구성원 몰입을 이끄는 능력은 20%에 그쳤다. 기술 역량을 앞세우는 판단 자체는 타당하다. 다만 앞서 본 갤럽과 대한상의 데이터가 보여주듯 AX의 성패는 결국 사람의 수용과도 깊이 맞물려 있는데, 사람을 움직이는 역량이 우선순위에서 밀리는 불균형은 그 자체로 리스크다. 기술의 시대일수록 리더십의 저울에는 양쪽 추가 모두 올라가 있어야 한다.

경영 인사이트: 자동항법이 좋아질수록 기장 훈련은 어려워진다

항공업계의 오랜 고민이 있다. 자동조종장치가 정교해질수록 기장이 수동 조종 감각을 유지하기 어려워지고, 정작 자동화가 풀리는 비상 상황에서 판단력이 시험대에 오른다는 것이다. AI 시대의 경영도 같은 구조다. AI가 대부분의 분석을 대신해줄수록, 경영진의 판단 근육은 의식적으로 훈련하지 않으면 퇴화한다. 중요한 의사결정에서는 AI의 결론만 받지 말고 그 근거와 반대 시나리오를 함께 요구하라. 그리고 가끔은 일부러 물어보라. "이 분석이 틀렸다면, 어디서부터 틀렸을 가능성이 큰가." 이 질문에 답하는 과정이 조직의 판단력을 지킨다.


결론: 격차는 지금, 한국에서 가장 빠르게 벌어지고 있다

한국으로 시선을 돌리면 시간표는 더 빠듯하다. AI 교육 기업 팀스파르타가 2026년 8월 발간한 기업 AX 벤치마크 리포트(기업의 교육 의사결정권자 330명 조사)에서 AX 성숙도는 IT 대기업이 68점인 반면 제조 중소기업은 28점에 그쳤고, 대기업조차 AX가 조직 전반에 정착했다는 응답은 37%에 머물렀다. 응답자들이 꼽은 최대 걸림돌은 기술도 예산도 아닌 '직원 간 AI 활용 수준 차이'(55%)였다. 앞서 본 대한상의 분석과 정확히 같은 결론이다. 병목은 조직 환경이고, 조직 환경의 설계자는 CEO다.

다섯 가지 역량을 다시 요약하면 이렇다. 거버넌스를 직접 쥐는 오너십, 업무를 다시 그리는 재설계 감각, 사람이 움직일 환경을 만드는 힘, 성과를 읽고 자본을 옮기는 포트폴리오 감각, 그리고 AI를 의심할 줄 아는 판단력. 어느 것도 코딩 능력을 요구하지 않는다. 다섯 모두 경영의 오래된 본령, 즉 방향을 정하고 사람을 움직이고 자원을 배분하는 일의 AI 시대 버전이다.

실행의 출발점은 거창할 필요가 없다. 이번 분기 이사회에서 AI 거버넌스 원칙을 CEO 명의로 확정하는 것. 임원회의의 질문을 "어디에 쓸까"에서 "어떻게 다시 설계할까"로 바꾸는 것. 중간관리자를 위한 AI 활용 교육에 첫 예산을 배정하고, 회사의 AI 계획을 전 구성원에게 공식적으로 소통하는 것. AI 과제 목록에서 매출을 만드는 과제의 비중을 확인하고, 중요한 보고서 하나를 골라 AI의 분석에 반대 시나리오를 요구해 보는 것. 다섯 가지 역량은 결국 이런 작은 결정들의 반복 속에서 근육이 된다.

PwC의 8월 조사가 전하는 마지막 메시지는 이것이다. AI의 가치는 지금도 기업 사이를 이동하고 있다. 8개월이면 절반의 기업에서 성적표가 바뀐다. 늦었다고 판이 끝난 것도 아니고, 앞섰다고 안심할 판도 아니다. 다만 여러 조사가 공통으로 가리키는 지점은 하나다. 이 판의 승부수는 데이터센터보다 CEO의 집무실에 더 가까이 있다. 오늘 저녁 스스로에게 던질 질문은 그래서 간단하다. 우리 회사 AX의 병목은 기술인가, 아니면 나 자신인가.

KBR Access

KBR 아티클 콘텐츠는 Premium 전용 콘텐츠입니다

이 콘텐츠는 Premium 회원에게 제공되는 프리미엄 콘텐츠입니다. Premium은 1개월 이용권 34,900원 또는 월 정기결제 29,900원이며, 결제 시 1개월 이용권(1회 결제·자동갱신 없음) 또는 월 정기결제(매월 자동결제)를 선택할 수 있습니다. ESG, KBR 아티클, KBR Analysis 등 핵심 프리미엄 콘텐츠를 열람할 수 있습니다.

이번 달 열람 현황: 0 / 0건 사용