요즘 AI를 둘러싼 이야기는 대부분 “더 빠르게”, “더 많이”, “더 자동화”라는 방향으로 흘러갑니다.
코딩 에이전트가 더 많은 코드를 작성하고, 기업은 더 많은 업무를 AI로 전환하고, 데이터센터는 더 크게 지어지고 있습니다. 겉으로 보면 AI 산업은 멈추지 않고 가속하는 것처럼 보입니다.
그런데 Ed Zitron의 글 「AI Is Slowing Down」은 정반대의 질문을 던집니다.
AI 산업은 더 빨라져야만 버틸 수 있는데, 실제 고객들은 이제 속도를 줄이기 시작한 것 아니냐는 것입니다.
AI 산업의 가장 큰 문제는 기술이 아니라 계산서다
AI 기업들은 지금 엄청난 규모의 컴퓨팅 인프라를 필요로 합니다.
모델을 학습시키고, 추론을 제공하고, 코딩 에이전트를 돌리고, 기업 고객에게 AI 서비스를 판매하려면 막대한 데이터센터와 GPU가 필요합니다. 문제는 이 비용을 정당화하려면 AI 서비스 매출도 폭발적으로 늘어나야 한다는 점입니다.
단순히 “AI가 좋다”는 말로는 부족합니다.
고객이 실제로 더 많은 돈을 내야 하고, 기업은 그 지출을 계속 늘려야 하며, 그 결과가 매출·생산성·비용 절감으로 증명되어야 합니다.
하지만 기업 현장에서는 다른 일이 벌어지고 있습니다.
AI를 많이 쓰기는 하는데, 얼마를 쓰는지 정확히 모르고, 어떤 업무에서 실제 성과가 났는지도 명확하지 않습니다. 과금 방식은 점점 토큰 기반으로 바뀌고, 사용량이 늘어날수록 비용 예측은 어려워집니다.
처음에는 월 구독료 안에서 실험하던 AI가, 이제는 실제 사용량만큼 비용이 청구되는 운영비 항목이 되고 있습니다.
이 순간부터 질문이 바뀝니다.
“AI를 도입할 것인가?”가 아니라“AI 비용을 어디까지 감당할 수 있는가?”가 됩니다.
기업들은 이제 AI 사용량에 브레이크를 걸고 있다
글에서 흥미로운 지점은 기업들이 AI를 포기했다는 이야기가 아닙니다.
오히려 많은 기업이 AI를 계속 쓰고 있습니다. 다만 무제한으로 쓰게 두지 않기 시작했습니다.
직원별 사용 한도를 두고, 팀별 예산을 제한하고, 토큰 지출을 관리하려는 움직임이 나타납니다. 이유는 단순합니다. AI가 유용할 수는 있지만, 그 유용성이 비용을 자동으로 정당화하지는 않기 때문입니다.
개발자가 AI 코딩 도구를 써서 작업 속도가 빨라졌다고 해도, 회사 입장에서는 더 구체적인 질문이 필요합니다.
새 기능이 더 빨리 출시되었는가?장애가 줄었는가?고객 문의가 감소했는가?운영 비용이 낮아졌는가?코드 품질과 유지보수성은 좋아졌는가?
이 질문에 답하지 못하면 AI 비용은 혁신 투자가 아니라 통제되지 않는 클라우드 비용과 비슷해집니다.
한때 클라우드도 그랬습니다.
처음에는 빠르게 만들 수 있다는 장점이 강조됐지만, 어느 순간부터 기업들은 FinOps, 비용 태깅, 리소스 최적화, 예약 인스턴스, 사용량 모니터링을 고민하기 시작했습니다.
AI도 같은 단계를 지나고 있습니다.
이제 AI 도입의 핵심 역량은 프롬프트를 잘 쓰는 능력만이 아닙니다. AI 비용을 측정하고, 성과를 정의하고, 사용량을 통제하고, 업무 흐름 안에서 검증 가능한 결과를 만드는 능력입니다.
“에이전트가 알아서 한다”는 말의 비용
최근 AI 업계에서는 에이전트가 중요한 키워드가 되었습니다.
사람이 하나하나 지시하지 않아도, AI가 스스로 계획하고, 실행하고, 반복하며, 결과물을 만들어낸다는 개념입니다. 이 방향 자체는 흥미롭습니다. 실제로 잘 설계된 에이전트 워크플로우는 반복 업무를 줄이고, 개발·문서화·분석 과정에서 도움을 줄 수 있습니다.
하지만 에이전트에는 숨은 비용이 있습니다.
에이전트가 더 오래 생각하고, 더 많이 시도하고, 더 많은 도구를 호출할수록 토큰과 컴퓨팅 비용이 증가합니다. 사람이 보기에는 “자동으로 일하는 것”처럼 보여도, 시스템 내부에서는 계속 비용이 발생합니다.
더 큰 문제는 에이전트의 실패도 비용을 만든다는 점입니다.
잘못된 방향으로 오래 탐색하거나, 불필요한 파일을 수정하거나, 검증되지 않은 코드를 만들거나, 사람이 다시 리뷰해야 하는 결과물을 쌓아두면 생산성 향상이 아니라 재작업 비용이 됩니다.
그래서 앞으로 중요한 질문은 “에이전트를 쓸 것인가?”가 아닙니다.
“에이전트가 어떤 조건에서 멈추고, 어떤 기준으로 검증되며, 어느 비용 안에서 움직이게 할 것인가?”입니다.
AI를 업무에 넣는다는 것은 단순히 도구를 추가하는 일이 아닙니다. 새로운 운영 체계를 설계하는 일에 가깝습니다.
AI 도입의 기준은 ‘많이 쓰는 것’이 아니라 ‘잘 줄이는 것’이다
지금까지 많은 조직의 AI 도입은 사용량을 늘리는 방향으로 흘렀습니다.
더 많은 직원에게 계정을 주고, 더 많은 업무에 적용하고, 더 많은 에이전트를 실험하는 방식입니다. 하지만 이제는 반대 방향의 역량이 중요해집니다.
어디에 쓰지 않을지 정하는 능력.어떤 작업은 사람이 직접 하는 편이 더 빠른지 판단하는 능력.AI 결과물을 어디까지 신뢰할지 정하는 능력.비용 대비 효과가 낮은 자동화를 중단하는 능력.
이것이 앞으로의 AI 운영 능력입니다.
특히 개발 조직에서는 더 분명합니다.
AI가 코드를 많이 만들어내는 것은 어렵지 않습니다. 어려운 것은 좋은 코드를 유지하는 것입니다. 장애를 줄이고, 맥락을 보존하고, 보안과 성능을 지키고, 팀이 이해할 수 있는 구조로 남기는 것입니다.
AI는 산출량을 늘릴 수 있습니다. 하지만 산출량이 곧 성과는 아닙니다.
조직이 측정해야 할 것은 “AI를 얼마나 썼는가”가 아니라 “AI를 쓴 뒤 무엇이 좋아졌는가”입니다.
우리가 가져가야 할 관점
이 글을 단순히 “AI 버블 비판”으로만 읽으면 아쉽습니다.
더 중요한 메시지는 AI가 사라진다는 이야기가 아니라, AI가 이제 비용과 성과의 세계로 들어왔다는 점입니다.
초기에는 새로운 기술을 써보는 것 자체가 의미였습니다. 하지만 기업 안에서 기술은 결국 운영 항목이 됩니다. 운영 항목이 된 기술은 예산, 통제, 지표, 책임의 언어로 설명되어야 합니다.
앞으로 AI를 잘 쓰는 조직은 무조건 많이 쓰는 조직이 아닐 것입니다.
작게 실험하되, 비용을 볼 수 있고, 성과를 정의할 수 있고, 실패한 실험을 빠르게 접을 수 있는 조직일 것입니다.
개인에게도 마찬가지입니다.
AI 도구를 많이 아는 것만으로는 차별화가 어려워집니다. 이제 중요한 것은 AI를 실제 업무 흐름에 넣어 성과로 바꾸는 능력입니다. 그리고 그 과정에서 어디까지 자동화하고, 어디부터 사람이 판단해야 하는지 구분하는 능력입니다.
AI가 빨라질수록 사람에게 필요한 것은 더 빠른 손이 아니라 더 좋은 판단입니다.
기술의 속도보다 중요한 것은 방향입니다.
그리고 지금은 AI를 더 많이 쓰는 법보다, AI를 지속 가능하게 쓰는 법을 배워야 할 시점입니다.
오늘의 질문
우리 조직에서 AI 사용량이 늘어난다면, 가장 먼저 측정해야 할 지표는 무엇일까요?
사용 시간일까요?토큰 비용일까요?개발 속도일까요?장애 감소일까요?고객 경험 개선일까요?
AI 도입의 다음 단계는 “도입”이 아니라 “운영”입니다.
이제는 AI를 쓰는 조직보다, AI를 통제할 수 있는 조직이 더 강해질 것입니다.
[원문]
의견을 남겨주세요