국가 순위는 25위에서 18위로 약진했지만, 기업 현장의 활용률은 여전히 30%대… 격차의 진짜 원인은 규모가 아닌 '환경'이었다

---

2026년 한국은 글로벌 AI 도입 순위에서 가파르게 치고 올라왔다. 그러나 화려한 국가 지표 뒤편에서는 대기업과 중소기업, 서비스업과 제조업 사이의 격차가 점점 벌어지고 있다. AI는 혁신의 도구인 동시에 격차의 증폭기가 되고 있다.

국가 순위는 상승, 그러나 숫자를 읽는 법

마이크로소프트가 2026년 1월 발표한 'AI 확산 보고서'에 따르면, 한국은 2025년 한 해 동안 세계 순위에서 25위에서 18위로 일곱 계단 뛰어올랐다. 2025년 하반기 한국의 AI 도입률은 30.7%로 상반기 대비 4.8%포인트 상승했으며, 이는 글로벌 평균 16.3%의 약 2배에 해당하는 수치다. 이 도입률은 기업이 아니라 '근로 연령 인구가 AI를 실제로 사용하는 비율'을 기준으로 한 것으로, 국가별 비교에 쓰이는 대표 지표다.

상승의 배경으로 보고서는 정부 정책, 기술적 진보, 문화적 유행 세 가지를 꼽았다. 국가 AI 전략위원회 출범과 AI 기본법 제정 등 제도적 지원이 뒷받침됐고, 글로벌 파운데이션 모델의 한국어 성능이 크게 향상됐다. 생성형 AI는 이제 학교, 직장, 공공서비스에서 두루 쓰이고 있으며, 한국은 챗GPT의 가장 빠르게 성장하는 시장 중 하나가 됐다. 이에 오픈AI는 2025년 서울에 사무소를 개설했다.

다만 여기서 한 가지 짚어야 할 점이 있다. '한국의 AI 도입률'이라는 표현은 측정 기관과 기준에 따라 전혀 다른 숫자를 가리킨다. 마이크로소프트의 30.7%는 인구 사용률이고, 대한상공회의소가 측정한 '기업의 AI 활용률'은 또 다른 맥락의 지표다. 일부 민간 자료에서 인용되는 55%대 수치는 조사 표본과 정의가 달라 직접 비교가 어렵다. 따라서 아래에서는 출처를 명시하며 구분해 살펴본다.

글로벌 무대에서 한국의 좌표

국가 단위로 보면 한국의 위상은 분명 상승했다. 그러나 절대적 선두권과는 거리가 있다. 스탠퍼드 HAI가 2026년 4월 발표한 AI 인덱스 보고서는 한국이 '혁신 밀도' 측면에서 두각을 나타내며, 1인당 AI 특허 수에서 세계를 선도한다고 평가했다. 양적 규모가 아니라 인구 대비 효율 면에서 강점을 가진다는 의미다.

투자 규모에서는 격차가 크다. 2025년 미국의 민간 AI 투자는 2,859억 달러에 달해 중국(124억 달러)의 23배를 넘었다. 스탠퍼드 AI 인덱스 2025를 인용한 분석에 따르면, EU·인도·한국·이스라엘 등 나머지 국가들은 전문화와 거버넌스 리더십을 통해 글로벌 AI 가치의 약 35%를 차지할 것으로 전망된다. 한국의 전략적 위치는 '규모의 경쟁'이 아니라 '특화와 제도'에 있는 셈이다.

기업 단위 도입에서 흥미로운 점도 있다. 생성형 AI는 출시 3년 만에 인구의 53%가 사용하는 수준에 도달해 PC나 인터넷보다 빠른 확산 속도를 보였으나, 그 속도는 국가별로 차이가 크고 1인당 GDP와 강하게 상관관계를 보였다. 미국조차 인구 사용률 기준으로는 28.3%로 24위에 머물렀다. 인프라와 프런티어 모델 개발에서 앞선 나라가 반드시 광범위한 사용으로 이어지지는 않는다는 점을 보여준다.

기업 현장: 활용률 30%대의 현실

국가 지표의 화려함과 달리, 한국 기업의 실제 AI 활용 현장은 여전히 초기 단계에 가깝다. 대한상공회의소 실태조사에 따르면, 생산성 제고·비용절감 등 성과 향상을 위해 AI 기술이 필요하다고 답한 기업은 78.4%에 달했지만, 실제 경영활동에 AI를 사용 중인 곳은 30.6%에 그쳤다. 필요성 인식과 실제 활용 사이에 약 48%포인트의 큰 간극이 존재하는 것이다.

업종별 격차는 더 뚜렷하다. 제조업의 활용률은 23.8%로, 서비스업 분야 활용률(53%)의 절반에도 미치지 못했다. 다만 이 수치는 추세 속에서 읽을 필요가 있다. 2021년 정보통신정책연구원 조사 당시 제조업 AI 도입률이 9.3%였던 것과 비교하면 소폭이나마 상승한 결과다.

기업 규모에 따른 격차도 구조적이다. 대한상의 조사에서 기업 규모별 AI 활용률은 대기업이 48.8%로 가장 높았고, 중견기업 30.1%, 중소기업 28.7% 순으로 나타나 규모가 클수록 활용률이 높은 경향을 보였다. 이러한 수치들은 조사 시점과 표본에 따라 달라질 수 있으므로 단일 숫자보다는 '대기업이 중소기업을 앞선다'는 방향성으로 받아들이는 것이 안전하다.

'승자와 패자'를 가르는 진짜 변수

여기서 주목할 보고서가 하나 있다. 격차의 원인이 '기업 규모 그 자체'가 아닐 수 있다는 분석이다. 대한상공회의소 경제연구원이 2026년 6월 발표한 보고서에 따르면, 생성형 AI 활용률은 대기업이 66.5%, 중소기업이 52.7%로 13.8%포인트 차이를 보였다. 그런데 핵심은 그다음이다. 회사의 지원 체계와 근로자의 프롬프트 엔지니어링 역량, AI 수용 태도 등을 함께 반영해 분석한 결과, 기업 규모 자체에서 발생하는 순수 활용률 격차는 4%포인트 수준으로 축소됐다.

이 분석이 시사하는 바는 크다. 격차의 대부분이 규모가 아니라 '환경'에서 비롯된다는 것이다. 실제로 교육·훈련 프로그램 제공 비율은 대기업 34.7%, 중소기업 24.9%였고, 내부 가이드라인 제공 비율도 각각 33.8%, 24.3%에 그쳤다. 즉 중소기업 근로자가 AI를 덜 쓰는 것은 능력의 문제가 아니라 배울 기회와 제도적 뒷받침이 부족하기 때문이라는 해석이 가능하다.

활용 방식에서도 의미 있는 차이가 드러났다. 대기업과 중소기업 근로자 모두 AI로 절감한 시간을 우선 '기존 업무 품질 향상'에 썼지만, 이후 선택은 갈렸다. 대기업 근로자는 절감된 시간을 '새로운 프로젝트 및 업무 수행'(22.6%)에 활용한 반면, 중소기업 근로자는 '업무 외 휴식 및 개인 시간 확보'(27.3%)를 선택했다. 같은 도구를 쥐고도 그 효과가 조직의 추가 성장으로 이어지느냐, 아니면 개인 차원에 머무느냐가 달라지는 셈이다.

인력: AI 강국의 가장 약한 고리

AI 전환의 병목은 결국 '사람'으로 모인다. 한국은행이 2025년 12월 발표한 'AI 전문인력 현황과 수급 불균형' 보고서에 따르면, 국내 AI 기술 보유 인력은 2010년 3만 명 남짓에서 지난해 기준 약 5만 7,000여 명으로 늘었다. 14년 사이 규모가 2배 가까이 증가했으며, 이는 주요국의 증가세가 둔화한 것과 대비되는 흐름이다.

그러나 절대 규모는 여전히 작다. 미국(78만 명), 영국(11만 명), 프랑스·캐나다(각 7만 명) 등과 비교하면 한참 적은 수준이다. 더 큰 문제는 어렵게 키운 인재가 빠져나간다는 점이다. 국내 AI 인력의 임금 프리미엄은 약 6%로, 주요국의 15~25% 수준에 크게 못 미친다. 보상이 낮다 보니 인재 유출이 이어진다.

기업들이 인력 확보에서 겪는 어려움도 구체적이다. 2025년 10월 국내 전 산업 400개 기업 설문에서 AI 인력 확보의 가장 큰 애로사항으로 '숙련 인재 부족'(27.4%)과 '높은 급여 기대'(25.3%)가 꼽혔다. 보고서는 한국이 연공 기반의 임금체계로 인해 신기술 보유 인력에 대한 보상이 충분하지 않다는 점을 지적했다.

제조 중소기업: 가장 절실하지만 가장 더딘 곳

AI 전환에서 가장 취약한 지점은 제조 중소기업 현장이다. 대한상공회의소가 국내 504개 제조기업을 대상으로 조사한 보고서에서 응답기업의 82.3%가 'AI를 경영에 활용하지 않고 있다'고 답했다. 대기업(49.2%)보다 중소기업의 활용도(4.2%)가 크게 떨어졌으며, 도입 계획도 저조했다.

근본 원인은 기술이나 비용 이전의 '체감 부족'이다. 전문가들은 'AI가 우리 사업에 어떤 도움이 되는가'에 대한 체감 부족이 가장 큰 장벽이라고 지적한다. 불량률 감소, 품질 안정화, 납기 단축, 매출 개선 등 눈에 보이는 성과를 직접 경험할 때 인식 전환이 가능하다는 것이다.

구조적 악순환도 존재한다. 수요기업은 비용 부담을 이유로 무상 검증을 요구하고, 공급기업은 GPU와 인프라 비용을 떠안는 구조가 반복되면서 기술력 있는 AI 기업은 시장 진입을 꺼리고, 중소기업은 적합한 솔루션을 찾지 못하는 악순환이 이어진다. 전문가들은 정부가 PoC(개념검증) 바우처를 지원해 초기 리스크를 낮추고, 제값을 받고 테스트할 수 있는 구조를 만들어야 한다고 제언한다.

인력 격차도 현장을 짓누른다. 박사 연구원의 평균 연봉은 9,900만 원인 반면 중소기업 박사 연구원은 7,900만 원으로 약 2,000만 원의 차이가 난다고 보도됐다. 중소기업의 AI 활용은 외부 용역이나 단발성 프로젝트에 그치는 경우가 많고, 내부에 이를 운영·개선할 인력이 없는 구조라는 지적도 나온다.

격차가 증폭기로 변할 때

이 모든 흐름이 향하는 결론은 분명하다. AI는 잘 쓰는 곳과 못 쓰는 곳의 거리를 벌린다. 대기업이 AI 기술로 효율과 수익성을 끌어올리는 동안, 중소기업은 단가 압박과 인력난, 기술 의존의 악순환에 빠질 수 있다는 우려가 제기된다. AI가 산업구조를 바꾸는 패러다임 전환인 만큼, 중소기업이 이 흐름에서 뒤처질 경우 산업 전반의 양극화가 더욱 심화될 가능성이 크다는 분석이다.

그러나 앞서 살펴본 대한상의 경제연구원의 분석은 희망의 단서도 함께 제시한다. 규모에서 비롯되는 순수 격차가 4%포인트에 불과하다면, 교육·가이드라인·수용 태도 같은 '환경 변수'를 개선함으로써 격차의 상당 부분을 줄일 수 있다는 뜻이기 때문이다. 전문가들은 기술 인프라보다 현장 역량 강화가 우선돼야 하며, 데이터 기반 경영을 이해하는 인력 양성, 업종별 실제 적용 가능한 솔루션 개발, 지역 산업단지 중심의 공동 AI 플랫폼 구축 등을 현실적 대안으로 제시한다.

한국 기업은 어디까지 준비됐나

종합하면, 한국은 국가 차원의 AI 사용 확산에서는 분명한 승자 그룹에 진입했다. 인구 사용률 순위 상승, 한국어 모델 성능 향상, 1인당 특허 밀도 같은 지표가 이를 뒷받침한다. 그러나 기업 내부로 시선을 옮기면 그림은 복잡해진다. 필요성 인식과 실제 활용 사이의 간극, 대기업과 중소기업의 격차, 제조업의 더딘 도입, 인력의 절대 부족과 유출이라는 약한 고리들이 동시에 존재한다.

AI 전환의 승자와 패자를 가르는 것은 결국 '기술을 도입했는가'가 아니라 '도입한 기술을 조직의 성장으로 전환할 환경을 갖췄는가'다. 교육 체계, 내부 가이드라인, 인재에 대한 합당한 보상, 그리고 작은 성공을 직접 체감하게 하는 현장 중심의 접근이 그 환경을 구성한다. 격차가 증폭기로 변할지, 아니면 따라잡기의 기회가 될지는 앞으로 몇 년간의 선택에 달려 있다.