Wednesday Insights

2025년, 기업의 AI 사용 현황

AI 도입률은 88%지만 실제 성과를 내는 조직은 소수에 불과한 이유

2025.11.26 | 조회 506 |
0
|
from.
inspireX
inspireX의 프로필 이미지

inspireX

매주 수요일, 한 주 동안 생각해볼 만한 IT/UX 이야기를 전달해드립니다.

🧐 Summary

1️⃣ 기업의 생성형 AI 사용은 폭발적으로 증가했지만, 여전히 대부분은 AI의 전사적 통합이 아닌 실험 단계에 머물러 있습니다. 

2️⃣ AI를 통해 고성과를 내는 조직은 혁신을 목표로 하며 AI 통합 시 업무 프로세스를 근본적으로 재설계한다는 특징을 보였습니다.

3️⃣ 많은 이들이 AI의 가장 큰 리스크이자 부작용으로 결과물의 부정확성을 꼽았습니다.


안녕하세요, 구독자님. 어느새 11월의 마지막 주네요. 연말을 맞아 올해를 정리하고 내년을 예측하는 자료들이 많이 나오고 있는데요, 오늘은 얼마전 맥킨지에서 발표한 McKinsey Global Survey on the state of AI 내용을 정리해드리려 합니다. 105개 국가에서 2천여명에 가까운 직장인들을 대상으로 응답자들이 속한 조직에서 AI가 어떻게 활용되고 있는지를 온라인 서베이를 통해 조사한 이 보고서에서는 기업의 AI 활용 현황, AI의 영향력, 긍정적으로 AI를 사용하는 조직의 특성 및 여전히 존재하는 AI의 위험에 대해 이야기하고 있습니다.


AI 사용 현황: 광범위한 채택 대비 더딘 스케일링

보고서에서는 조직이 AI를 도입하는 단계를 아래와 같이 나눕니다.

 

Experimenting(실험) : 조직의 문제를 AI로 해결할 수 있을지 초기 테스트 단계

Piloting(파일럿) : 실험을 통해 검증이 된 부분을 조금 더 확장해 몇가지 실제 업무에 적용해보는 단계Scaling(스케일링) : 파일럿 테스트까지 통과한 기능을 여러 기능으로 확대 배포하며 AI를 하나의 팀이나 프로젝트가 아니라 조직 운영 방식에 접목하며 확장하는 단계

Fully Scaled(완전 스케일링) : 기업 전체 프로세스에 깊게 통합된 상태로 AI가 일상적인 운영 혹은 의사결정에 내재화 되어있는 마지막 단계

 

기업에서도 이제 AI를 일상적으로 사용하고 있습니다. 하지만 대다수의 조직들은 아직까지 AI를 기업 전체에 배포 및 통합하는 단계에까지는 이르지 못한 상태입니다. 즉, 대부분은 위 단계 중 실험 혹은 파일럿과 같은 초기 단계에 머물러 있습니다. 

 

전반적인 AI 사용 증가: 설문 응답자의 88%는 소속 조직에서 AI를 정기적으로 사용하고 있다고 응답했습니다. 작년의 78%보다 꽤 증가한 수치입니다. 

Gen AI의 급격한 확산: 특히 생성형 AI(Gen AI)의 사용은 2023년 33%에서 2025년 79%로 급증했습니다.

AI 에이전트의 확산 : 응답자의 62%가 소속 조직에서 AI 에이전트를 최소한 실험하고 있으며 23%의 응답자는 최소한 한 개 기능에서 AI 에이전트 시스템을 확장하고 있다고 보고했습니다. AI 에이전트의 스케일링은 기술, 미디어 및 통신, 헬스케어 부문에서 가장 많이 나타났습니다.


AI의 영향력: 혁신 가속화 및 재정적 이점

AI가 기업에 미치는 재무적 영향은 아직 미미합니다. 응답자의 대다수는 AI가 조직의 EBIT(세전/이자지급전이익)에 미치는 영향이 5% 미만이라고 답했습니다. 하지만 AI 활동으로 인해 20% 이상 비용이 감소한 사례를 소프트웨어 엔지니어링, IT, 전략 및 기업 재무 담당자들이 보고하였으며 또한 10%를 초과하는 매출 증가가 이루어졌음을 전략 및 기업 재무, 마케팅 및 영업, 제품 또는 서비스 개발 담당자들이 보고하였습니다. 조직 전체의 재무적 지표에까지 영향을 주기는 어려우나 AI를 이용한 비용 감소 및 매출 증가를 체감하는 조직들이 존재하는 것입니다.정성적 가치 창출에 대해서도 긍정적이었습니다. AI 사용이 혁신을 개선했다는 응답은 64%, 직원 만족도, 고객 만족도, 경쟁 차별화가 개선되었다는 응답은 거의 절반(각 45%)에 달했습니다.


AI 고성과 조직의 특성: 명확한 목표와 개선된 프로세스

AI 고성과 조직들은 AI 활용 및 해당 조직의 전체 방향성에서 타 그룹과 다른 특징을 보였습니다. 

*이 보고서에는 기업 중 6% 정도를 AI 고성과 조직(AI High Performer)로 정의하였습니다. 이는 AI 사용으로 EBIT에 5% 이상의 영향을 미치고 '상당한 가치'를 창출했다고 보고한 응답자를 뜻합니다.

 

혁신과 성장을 목표로: 일반적인 조직이 효율성(80%)을 목표로 삼는 반면, AI 고성과 조직은 효율성 외에도 성장(82%) 또는 혁신(79%)을 AI 이니셔티브의 목표로 설정할 가능성이 훨씬 높았습니다.

워크플로우의 근본적 재설계: AI 고성과 조직은 AI 배포 시 워크플로우를 근본적으로 재설계했습니다. 이는 타 조직에 비해 2.8배 높은 응답이었습니다강력한 리더의 오너십: AI 고성과 조직은 senior 리더들이 AI 이니셔티브에 대한 소유권과 헌신을 강력하게 보여준다고 강력히 동의할 가능성이 다른 응답자보다 세 배 높았습니다.

Human in the loop: 모델 결과의 정확성을 보장하기 위해 언제, 어떻게 인간의 검증이 필요한지에 대해 확립된 프로세스를 가지고 있습니다.

기술 인프라 및 명확한 로드맵: 핵심 AI 이니셔티브를 구현할 수 있는 기술 인프라를 및 비즈니스 영역 전반에 걸친 구체적 AI 사용 사례를 포함하는 로드맵을 가지고 있습니다.


인력 시장의 변화와 AI 관련 위험

AI의 활용으로 기존 인력은 감소하고 AI 관련 인력의 채용이 늘어날 것으로 기대되고 있습니다.전사적 인력 감소 예상: 응답자의 32%는 내년에 조직의 전체 인력 규모가 AI로 인해 3% 이상 감소할 것으로 예상했습니다. 그 중 인력 감소가 가장 크게 예상되는 기능은 서비스 운영(39%)과 인사(31%)였습니다.기술 인력 신규 채용: 대규모 조직의 응답자는 작은 조직보다 AI 관련 인력을 채용할 가능성이 더 높았습니다. 조직의 규모에 관계없이 가장 많이 채용된 AI 관련 역할은 AI 데이터 과학자, 데이터 엔지니어, 머신러닝 엔지니어, 소프트웨어 엔지니어였습니다.AI에 대한 부정적 경험 및 앞으로의 위험에 대한 의식도 존재했습니다. 조직이 경험한 가장 흔한 부정적 결과는 부정확성으로, 응답자의 30%가 경험했습니다. 그래서일까요. 조직이 완화하기 위해 노력하는 위험 또한 부정확성(54%)과 사이버 보안(51%)이 차례로 높게 보고되었습니다. 하지만 조직이 두 번째로 많이 경험한 리스크인 설명가능성은 여전히 관리 대상에서 뒤로 밀려 있습니다.


AI는 대부분의 조직에서 사용되고 있습니다. 하지만 같은 AI를 사용하면서도 성과는 제각각이었습니다. 문제는 도구가 아닌 일하는 방법이었습니다. 모두가 같은 칼을 쥐고 전쟁을 한다고 해서 승패가 갈릴 수 없는 것이 아니듯 동일한 AI를 쥐어줘도 일하는 방식에 따라 그 결과는 큰 차이를 보입니다. 

단순히 기존 업무 방식에 AI를 더하는 것이 아니라 AI가 조직에 들어옴에 따라 조직의 일하는 방식을 그에 맞추어 근본적으로 재설계할때에 조직의 성과가 달라질 수 있습니다. 그리고 이것은 조직에만 해당하는 것이 아닙니다. 우리도 개인의 일상과 업무에서 AI를 끊임없이 사용하고 있지만 이를 제대로 사용하기 위해서는 보다 적극적으로 이 도구를 이해하고 우리의 삶에 어떻게 끌어들일 것인지 고민하는 것이 차이를 만들어 낼 것입니다.

남은 한 달, 2026년의 차이를 만들어내기 위해 고민하는 시간이 되시길 바라며 이번주 뉴스레터를 마칩니다.

 

[inspire X 오픈카톡방]

https://open.kakao.com/o/gBHmseah


 

 

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

inspireX 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

© 2025 inspireX

매주 수요일, 한 주 동안 생각해볼 만한 IT/UX 이야기를 전달해드립니다.

뉴스레터 문의inspirexnewsletter@gmail.com

메일리 로고

도움말 자주 묻는 질문 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so

메일리 사업자 정보

메일리 (대표자: 이한결) | 사업자번호: 717-47-00705 | 서울특별시 성동구 왕십리로10길 6, 11층 1109호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스