[AI 에이전트 입문] 생산성을 끌어올리는 필수 용어 10가지와 실무 적용 프레임워크
용어만 외우지 말고, 내일 아침 업무 하나를 AI에게 맡겨 보세요.

뉴스에서는 매일 "AI 에이전트"를 이야기합니다. 그런데 막상 LLM, RAG, 에이전틱 AI 같은 말이 나오면 무엇부터 이해해야 할지 막막해집니다.
좋은 소식이 있습니다. 실무에 필요한 핵심 용어는 딱 10개입니다. 이 10개를 '기초 → 소통 → 실행' 3단계로 묶으면, 어떤 AI 도구를 언제 써야 할지 스스로 판단할 수 있습니다.
1단계: 기초 — AI의 뼈대 이해하기

1. AI (인공지능)
AI = 컴퓨터가 데이터를 학습해 판단하고 예측하는 기술 전반을 말합니다.
- 💡 실무 예시: 메일함이 스팸을 자동으로 걸러내는 기능, 쇼핑몰의 맞춤 상품 추천
2. 생성형 AI (Generative AI)
생성형 AI = 학습한 패턴을 바탕으로 글·이미지·음성·코드 같은 새로운 결과물을 만들어내는 AI입니다.
- 💡 실무 예시: 신제품 홍보 문구 초안 10개 작성, 상세페이지용 이미지 시안 제작
3. LLM (대형 언어 모델)
LLM = 방대한 텍스트를 학습해 사람의 언어와 맥락을 이해하고 생성하는 AI 엔진입니다. ChatGPT, Claude, Gemini가 모두 LLM을 기반으로 움직입니다.
- 💡 실무 예시: 50쪽짜리 영문 산업 보고서를 한국어 핵심 요약 5줄로 정리
2단계: 소통 — AI에게 일을 정확히 시키기

4. 프롬프트 (Prompt)
프롬프트 = AI에게 내리는 지시문입니다. 역할·작업·형식·조건을 구체적으로 적을수록 결과물의 품질이 좋아집니다.
- 💡 실무 예시: "요약해줘"보다 "팀장 보고용으로 3줄 요약, 숫자는 그대로 유지해줘"가 훨씬 정확한 결과를 냅니다.
5. 컨텍스트 (Context)
컨텍스트 = AI가 답변할 때 참고하는 배경 정보입니다. 대화 내용, 첨부 파일, 이전 지시가 모두 여기에 포함됩니다. 한 번에 참고할 수 있는 분량을 컨텍스트 윈도우라고 부릅니다.
- 💡 실무 예시: 회사 소개서를 먼저 첨부한 뒤 제안서를 요청하면, 우리 회사에 맞는 내용이 나옵니다.
6. 할루시네이션 (Hallucination)
할루시네이션 = AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 현상입니다. AI를 실무에 쓸 때 가장 먼저 알아야 할 한계입니다.
- ⚠️ 실무 예시: 존재하지 않는 논문 제목이나 통계 수치를 지어내는 경우가 있으므로, 숫자·인용·법령은 반드시 원문으로 확인하세요.
📝 바로 쓰는 프롬프트 템플릿
[ 상황 ] 블로그 포스팅 초안이 필요할 때
역할: 당신은 10년 차 B2B IT 마케터입니다.
작업: 아래 [제품 정보]를 바탕으로 30대 직장인 대상 블로그 초안을 작성하세요.
형식: 소제목 3개, 각 단락은 3문장 이내로 작성하세요.
조건: 확인되지 않은 수치는 쓰지 말고, 필요한 곳은 [확인 필요]로 표시하세요.
[제품 정보]
(여기에 붙여넣기)💚 포인트: 마지막 '조건' 한 줄이 할루시네이션을 크게 줄여 줍니다.
🔎 목적별 도구 선택 가이드

| 도구 | 이럴 때 추천 | 강점 |
|---|---|---|
| ChatGPT | 아이디어 발상, 범용 기획, 이미지 생성 | 가장 넓은 기능 범위와 사용자층 |
| Claude | 긴 문서 분석, 보고서·기획서 작성, 코딩 | 긴 맥락 이해, 자연스러운 한국어 문장 |
| Gemini | Gmail·구글 문서·드라이브 기반 업무 | 구글 워크스페이스와의 연동 |
💡 세 도구 모두 웹 검색과 파일 분석을 지원합니다. 성능 차이보다는 내가 이미 쓰는 업무 환경을 기준으로 고르면 실패가 적습니다.
3단계: 실행 — 에이전트와 자동화로 확장하기

7. RAG (검색 증강 생성)
RAG = AI가 답변하기 전에 내가 지정한 자료(사내 문서, 매뉴얼 등)를 먼저 찾아본 뒤 답하게 하는 방식입니다. 할루시네이션을 줄이는 대표적인 방법입니다.
- 💡 실무 예시: 사내 규정 PDF를 연결해 두고 "출장비 정산 기준 알려줘"라고 물으면, 규정 원문에 근거해 답합니다.
8. AI 에이전트 (AI Agent)
AI 에이전트 = 목표를 주면 스스로 계획을 세우고, 검색·파일·앱 같은 도구를 사용해 여러 단계의 작업을 끝까지 수행하는 AI입니다. 이렇게 자율적으로 판단하고 실행하는 방식을 에이전틱 AI(Agentic AI) 라고 부릅니다.
- 💡 실무 예시: "경쟁사 A의 최근 3개월 마케팅 동향을 정리해줘" → 웹 검색, 자료 비교, 보고서 작성을 스스로 이어서 진행
9. 멀티 에이전트 (Multi-Agent)
멀티 에이전트 = 역할이 다른 여러 AI 에이전트가 분업하고 협력해 큰 과제를 처리하는 구조입니다.
- 💡 실무 예시: 리서치 에이전트가 자료를 모으고, 작성 에이전트가 초안을 쓰고, 검토 에이전트가 오류를 점검해 제안서를 완성
10. 업무 자동화 (Workflow Automation)
업무 자동화 = 반복되는 업무 흐름을 정해진 조건에 따라 소프트웨어가 자동으로 실행하도록 설정하는 것입니다. Zapier, Make 같은 자동화 도구와 AI를 연결하면 효과가 커집니다.
- 💡 실무 예시: 매일 오전 9시, 전날 매출 데이터를 AI가 요약해 팀 메신저로 자동 발송
💡 이렇게 써먹어요 — BEFORE / AFTER
| 사례 | BEFORE | AFTER |
|---|---|---|
| 직장인 — 주간 보고서 작성 | 흩어진 메모를 모아 직접 정리 (약 1시간) | 메모를 붙여넣고 보고서 양식 프롬프트 적용 후 검토 (약 15분) |
| 강사·교육 담당자 — 교육 자료 초안 | 목차 구성부터 백지에서 시작 (반나절) | 대상·시간·목표를 입력해 목차와 실습안 초안을 받은 뒤 수정 (1~2시간) |
| 1인 사업자 — 블로그 운영 | 주제 선정과 글쓰기에 매번 2~3시간 소요 | 한 달치 주제 목록을 한 번에 만들고, 템플릿으로 초안 작성 후 경험담만 추가 |
⚠️ 절감 시간은 업무 성격과 숙련도에 따라 달라집니다. 핵심은 "AI가 초안, 사람이 검증" 이라는 역할 분담입니다.
🤔 장점과 한계, 솔직하게
| 👍 장점 | 🤔 한계 |
|---|---|
| 리서치·요약·초안 작성 시간 단축 | 할루시네이션 검증이 반드시 필요함 |
| 아이디어를 여러 각도로 빠르게 확보 | 초기 프롬프트·자동화 세팅에 시간이 듦 |
| 반복 업무를 자동화로 전환 가능 | 개인정보·사내 기밀은 입력 전 보안 정책 확인 필요 |
🛠 실무 적용 4단계 프레임워크

- STEP 1. 반복 업무 식별 — 매일 또는 매주 30분 이상 반복되는 업무 1개를 고릅니다. (예: 회의록 정리, 이메일 답장, 자료 요약)
- STEP 2. 도구 선택 — 위 도구 선택표를 보고, 지금 쓰는 업무 환경에 맞는 AI 하나를 엽니다.
- STEP 3. 템플릿 적용 — 본문의 프롬프트 템플릿을 복사하고, 대괄호 안만 내 업무에 맞게 바꿔 입력합니다.
- STEP 4. 검증 후 자동화 — 결과를 3회 이상 검증해 품질이 안정되면, 그때 자동화 도구로 연결합니다. 검증 없이 자동화부터 하면 오류도 함께 자동화됩니다.
✅ 오늘 배운 핵심 요약
- AI → 생성형 AI → LLM: AI의 기본 구조
- 프롬프트·컨텍스트: 구체적인 지시와 배경 정보가 결과 품질을 좌우함
- 할루시네이션: 숫자·출처·법령은 반드시 사람이 확인
- RAG·에이전트·멀티 에이전트: AI가 '답변'에서 '실행'으로 확장되는 흐름
- 업무 자동화: 검증을 마친 업무만 자동화로 연결
📣 오늘 바로 해볼 것 1가지
지금 가장 익숙한 AI를 열고, 위 템플릿에 어제 작성한 업무 메모를 붙여넣어 보세요. 5분이면 충분합니다. 결과가 어땠는지 댓글로 알려주세요!
AI에 미래를 달다 | DeepcompassAI연구소
💬 여러분이 가장 먼저 AI에게 맡기고 싶은 반복 업무는 무엇인가요?
📰 문의: emas7788@naver.com
작성: 고연심 | 딥컴퍼스AI연구소
#AI에이전트 #생성형AI #AI용어정리 #업무자동화 #프롬프트 #ChatGPT #Claude #딥컴퍼스AI연구소
의견을 남겨주세요