엔터프라이즈 SaaS에서 LLM을 활용한 비즈니스 기회

안녕하세요, 주간 SaaS입니다. 새해가 밝았습니다. 오늘은 마케팅 콘텐츠, 고객과의 채팅, 이메일, 피드백, 문서, 계약서 등 비정형 데이터를 처리하는 임무를 LLM을 이용해 자동화하는 것이 비즈니스에 어떤 기회를 가져다줄 수 있는지에 대해 다룬 글을 소개합니다. 제목은 Automating the Unstructured: The ROI of LLMs in Enterprise SaaS 입니다.

LLM을 기반으로 한 비정형 데이터 자동화가 새로운 수익 창출 기회를 열고 비용 절감을 통해 이익을 증가시킬 수 있다는 내용을 흥미로운 통계와 참고 자료를 통해 풀어냈습니다. 저는 흥미롭게 읽었습니다.

즐거운 새해 첫 주 보내시고, 새해에도 복 많이 받으시길 바랍니다.

요약

처음으로 비정형 데이터 워크플로우 자동화하기

전통적으로 엔터프라이즈 소프트웨어는 정형 데이터에 의존하는 비즈니스 프로세스를 자동화해 왔습니다. 이러한 데이터 유형은 데이터베이스와 같은 정형화된 저장소에 꼼꼼하게 정리되어 있어 쉽게 액세스하고 분석할 수 있습니다. Salesforce, Workday, ServiceNow와 같은 예시는 소프트웨어가 어떻게 정형 데이터를 기반으로 워크플로를 주도할 수 있는지 보여줍니다. 정형 데이터 자동화는 이제 1,450억 달러 규모의 산업으로 성장했습니다.

사람이 주로 처리하는 데이터 스펙트럼에는 항상 비정형 데이터와 커뮤니케이션이라는 또 다른 측면이 존재해 왔습니다. 정형 데이터와 달리 비정형 데이터는 텍스트가 많고 구체적이고 예측 가능한 형식이 없는 경우가 대부분입니다. 여기에는 이메일 커뮤니케이션, 고객 피드백 및 리뷰, 문서, 계약서, 콜센터 기록 등이 포함됩니다. 이러한 정보는 인사이트가 풍부하지만 지금까지 소프트웨어로 처리하기 어려웠습니다.

대규모 언어 모델(LLM)의 등장으로 구조화되지 않은 데이터를 이해하고 자동화할 수 있는 새로운 시대가 열렸습니다. 한때 SaaS 업계가 넘기 힘들었던 한계가 점차 사라지고 있으며, 정형 데이터와 비정형 데이터를 모두 탐색, 이해, 활용할 수 있는 역량을 갖추는 것이 실현 가능한 현실이 되고 있습니다.

현재의 혁명: 생성형 AI가 비즈니스에 미치는 영향

LLM을 기반으로 구축된 소프트웨어가 주도하는 혁신은 비즈니스 운영에 실질적인 영향을 미칩니다. 고객 성공, 콘텐츠 생성 및 코딩 분야의 사례를 통해 살펴보죠.

Customer Success(고객 성공)

과거: 2011년 Zendesk는 고객 서비스 티켓팅 프로세스를 자동화하여 고객 지원 환경에 혁신을 일으키며, Zendesk 사용 기업 고객에게 수백만 달러를 절약해 주었습니다. 하지만 이 솔루션은 부분적으로만 자동화 되어 있어, 티켓을 해결하기 위해 어쨌든 사람의 개입이 필요했습니다. 다양한 산업 분야에 걸쳐 10만 명의 고객을 보유하고 있는 Zendesk는 기존 엔터프라이즈 소프트웨어가 구조화된 데이터 부분을 자동화 할 수 있는 역량을 부각 시키며 엄청난 ROI를 달성했습니다.

현재: LLM을 통해 고객 서비스의 전체 워크플로우를 자동화하여 자동화된 채팅을 통해 티켓의 30~50%를 해결하고 인력에 대한 필요성을 크게 줄일 수 있습니다. 50% 이상의 ROI가 예상되는 등 엄청난 개선이 이루어졌으며, 이는 고객 서비스 운영의 근본적인 변화를 나타냅니다.

콘텐츠 생성

과거: 프리랜서 작가 고용시 1,000단어당 약 600달러가 소요되는 등 콘텐츠 제작에 드는 비용이 상당했습니다.

지금: LLM은 1,000단어 생성에 드는 비용을 단 몇 센트로 대폭 낮췄습니다. 작가가 편집에 소요하는 시간이 20%에 불과하기 때문에 한 편당 480달러를 절약할 수 있으며, 기업은 이전보다 훨씬 적은 비용으로 콘텐츠 제작을 확장할 수 있습니다.

코딩

GitHub Copilot, CodeWhisperer, Codey와 같은 솔루션의 도입으로 코딩에 대한 LLM의 영향력이 확대되고 있습니다. 이러한 도구는 훈련에 대한 비교적 적은 투자를 통하여, 이미 엔지니어의 효율성을 2.5배 향상시켜 개발 일정을 앞당기는데 기여하고 있습니다. 따라서 프로젝트 효율성에 미치는 영향은 매우 크며, 더 빠른 혁신을 가능하게 하고 잠재적으로 전체 소프트웨어 개발 주기를 변화시킬 수 있습니다. BCG에 따르면 이러한 효율성 향상은 IT 비용 기준의 10%를 차지하며, 전체 IT 비용의 최대 65%에 영향을 미치고 포춘 500대 기업의 경우 수억 달러의 비용 절감 효과를 가져올 수 있다고 합니다.

기회 포착: 엔터프라이즈 소프트웨어의 미래에 대한 예측

이는 연간 2조 4,500억 달러에 달하는 비즈니스 기회로, 산업의 운영과 번영의 방식 자체를 재편할 수 있는 혁명적인 변화를 기대하게끔 합니다. 저희가 여기서 말하는 예측을 위한 방법론은 AI에 의한 자동화 기술에 노출된 산업 고용의 비중을 검토한 골드만삭스의 보고서를 기반으로 합니다. 이 보고서와 더불어 미국 노동통계국의 연간 임금 데이터로 차트를 보강하여 각 산업 내 특정 부분의 가치를 파악했습니다.

기회는 매우 크지만, 이 기회를 포착하기 위해서는 비즈니스 프로세스가 정형 및 비정형 데이터와 어떻게 교차하는지에 대한 미묘한 이해가 필요합니다.

정형 데이터 > 비정형 데이터:

주로 정형 데이터에 의존하는 엔터프라이즈 소프트웨어 비즈니스에는 두 가지 결과가 나타날 것으로 예상됩니다.

정형 데이터 < 비정형 데이터

기존 소프트웨어 기업이 서비스를 제공할 수 없는 비정형 데이터에 주로 의존하는 분야에서는 새로운 AI 네이티브 기업이 새로운 길을 개척할 것입니다. 이러한 업종은 기존 기술의 한계로 인해 최소 55% 이상의 데이터를 분석하기 쉽게 만들어야 하는 제약이 있습니다. 1인 기업가를 위한 Collective의 부기 및 회계와 같은 솔루션이 이러한 자동화를 주도하고 있습니다.

분명한 ROI에도 불구하고 기업에서 널리 채택하기까지는 문제가 복잡할 겁니다. 개인정보 보호 및 정확성 문제, 거버넌스 문제, Generative AI 및 머신러닝 전문 지식의 광범위한 부족과 같은 요인으로 인해 변화의 속도가 조절될 수 있으며, 많은 프로젝트가 보다 근본적으로 비즈니스에서 핵심 가치 제공을 위한 Generative AI 활용 보다는 제품 향상에 기반을 두고 있습니다.

Ardent는 이러한 변화를 헤쳐나가기 위한 열쇠는 각 기업이 정형 및 비정형 데이터와 상호 작용하는 방식을 이해하는 데 있다는 점을 잘 알고 있습니다. 다음 글에서는 어떤 산업과 부문이 제너레이티브 AI의 혜택을 가장 많이 받을 수 있는지 알아보겠습니다.

주간 SaaS 에 대한 피드백(익명)을 남길 수 있어요