그래서 AI Agent가 대체 뭔가요?

Divided by Zero에 오신걸 환영합니다. 기술, 비즈니스 그리고 시장에 대한 이야기를 다룹니다.

SK, 효성 그룹, 그리고 딥테크 스타트업에서 허슬하며 인수합병도 해보고 스타트업 투자도 해보고 전략수립도 해봤습니다. 10년간 얻은 경험, 그리고 현재는 창업자로써 스타트업을 빌드하는 치열한 고민을 담아서 인사이트를 전하고자합니다.

오늘부터 시작합니다.

AI 세상은 이제 ‘지능적 비서’를 원합니다

모두가 2025년은(혹은 앞으로는?) Agent의 시대가 될 것이라고 말하고있습니다. 그런데 대체 에이전트라는건 대체 무엇일까요?

최근 AI 세계에서 대두되는 움직임을 보면, 명목상 ‘도우미(챗봇)’, 명목상 ‘자동화 도구(RPA)’, 그리고 실제로 모든 실무 뒤편에서 은밀히 의사결정을 내리는 ‘LLM 기반 에이전트’, 그리고 이들을 보조하는 ‘연동 API들’이 자리 잡고 있음을 알 수 있습니다.

기술에 별 관심 없는 분들을 위해 설명하자면, 지금 AI 업계에서는 단순히 “대화 잘하는 챗봇”을 넘어서 “스스로 판단하고 행동까지 해주는 에이전트(Agent)”를 구현하려는 시도가 한창입니다. 이는 기존에 사람이 직접 클릭하고 지시해야만 굴러가던 어플리케이션 환경을 뒤흔들고 있습니다. 사람 대신 환경을 읽고(문서, 데이터, 지시사항), 판단하고(LLM으로 추론), 행동하는(API 호출, 문서 정리, 메일 발송) 소프트웨어가 계속해서 등장하는 것이죠.

바뀌고 있는 패턴

과거 애플리케이션 개발 과정에서는 “사용자가 이 버튼을 누르면 데이터가 이렇게 바뀐다”는 식의 정해진 흐름이 전부였습니다. 물론 그 안에서는 수많은 알고리즘과 프로세스가 있지만 정말정말 간단하게는 그랬습니다 😉

그런데 이제는 목표만 던져주면 에이전트가 알아서 경로를 찾고 결과를 만들어내는 시대를 꿈꾸고 있습니다. 기업들은 기존처럼 두 번, 세 번 손이 가는 임시방편(엑셀 erp와 비슷한 임시 조치들)을 반복하기보다, 에이전트를 통해 자연스럽게 목적 달성 프로세스를 자동화하고 싶어 합니다.

물론 이 과정에서도 의견 충돌과 조정은 불가피합니다. 기업 내부에서 “이런 자동화 정말 필요한가?” “데이터 접근 권한 문제는 어떡하지?” 같은 이슈가 터져 나옵니다. 그러나 어찌 됐건, 많은 곳에서 조금씩 양보하며 에이전트 기반 워크플로우를 실험하고 있습니다.

LLM, 새로운 ‘실세’로 등장

여기서 LLM(대규모 언어모델)이 중요한 역할을 합니다. 단순 챗봇을 넘어, LLM은 에이전트의 ‘두뇌’가 되어, 다양한 시스템을 오가며 의사결정 논리를 언어로 풀어내고, 이에 따라 필요한 API를 호출하고, 문서를 재구성하고, 메일을 발송합니다. 사용자는 “아침 8시에 요약본을 임원들에게 보내줘”라고 목표만 제시하면 되는 것이죠. LLM은 이를 토대로 환경을 스캔하고(사내 문서, 캘린더), 의사결정을 내린 뒤(7시 30분엔 이르니 8시에 보내자), 행동(메일 발송)을 수행합니다.

이런 구조에서 사용자는 더 이상 모든 단계를 일일이 신경 쓸 필요가 없습니다. LLM이 마치 의회 권력 구조를 뒤흔드는 보이지 않는 실세처럼, 기존 앱 사용 패턴을 완전히 재편하고 있는 셈입니다.

리스크보단 속도 먼저

이제 질문은, 누가 이 에이전트를 통제하고, 어떤 식으로 성능과 안전성을 보장하느냐 하는 점입니다. LLM은 때로 편향된 판단을 내릴 수도 있고, 예기치 않은 결과를 야기할 수도 있습니다. 그러나 지금 AI 생태계의 흐름을 보면, 많은 이들이 그런 위험 요소조차 감수할 만큼 효율성과 속도를 추구합니다.

기업 입장에선 반복 업무를 줄이고, 사용자 입장에선 복잡한 절차 없이 원하는 결과를 얻으며, 개발자 입장에선 일일이 하드코딩을 피할 수 있으니 모든 측면에서 매력적인 대안입니다. 이 과정에서 일부 ‘타협’(정확성, 안정성 문제)은 불가피하지만, 여전히 흐름을 멈추기는 어려워 보입니다.

IPO처럼 줄줄이 등장할 에이전트들

앞으로 수 년 내에 에이전트 기반 자동화가 대규모로 상용화될 가능성은 큽니다. 이제 막 IPO를 준비하는 유니콘 기업들이 속속 등장하는 것처럼(미국 한정😅), 에이전트 활용 기업들도 본격적으로 시장에 나올 것입니다. 상장 과정에서 기업의 재무데이터가 공개되듯, 에이전트 운영 과정에서도 다양한 성능 지표와 결과물이 축적되어 우리가 바로 그들을 평가하게 될 것입니다.

이미 LLM, 멀티모달 처리 기술, 외부 API 연동, 클라우드 인프라 발전 등이 한데 어우러져 에이전트 구현은 손에 잡히는 현실이 됐습니다. 이 과정에서 많은 이들은 단순한 ‘기능’을 넘어선, 강력한 ‘왕’ 같은 리더십을 발휘하는 지능형 비서를 원하고 있습니다. 그 왕이 효율적 통치를 할지, 새 문제를 야기할지는 지켜봐야겠지만, 변화의 흐름은 이미 시작되었습니다.

지금은 모두가 손익계산서를 뜯어보고, 실제 가치를 평가하는 중입니다. 앞으로 등장할 더 많은 에이전트들이 우리를 어디로 이끌지, 어떤 효과를 낼지는 시간이 알려줄 것입니다. 그때까지, 우리는 이 ‘지능형 비서’들의 진화 과정을 주시하며, 이 새로운 질서를 어떻게 받아들일지 고민하게 될 것입니다.

하지만 아마도, 

새로운 질서는 멋질 것 같네요.