🔭CrewAI와 Ollama로 로컬 LLM 블로그 글 작성 시스템 만들기

안녕하세요 구독자님, DevOps 소식과 기술 지식을 정리해서 공유해드리는 DevOps 여행을 위한 소식지입니다.

이번 소식지에선 Ollama와 CrewAI라는 LLM 툴을 이용해서 로컬 LLM 기반 블로그 글 작성 시스템을 만들어봤는데요. 그 과정과 결과를 공유합니다. 

Ollama는 이미 지난 소식지에서 다룬 적이 있죠. 혹시 궁금하시다면 아래 링크에서 확인해보세요.😊

🦙🧑‍🤝‍🧑Ollama와 CrewAI

지난 소식지에서 다뤘던 Ollama는 로컬 환경에서 LLM을 실행하는 오픈소스 툴인데요.

이번엔 Ollama와 CrewAI를 활용해서 로컬 LLM 기반으로 블로그 글을 작성해주는 시스템을 구축해보려합니다.

Ollama만으로도 충분히 블로그 글을 자동으로 작성할 수 있지 않냐고요? 물론 Ollama로 실행한 LLM에게 부탁해도 글을 써줍니다.

하지만 CrewAI라는 툴을 사용하면, 각자의 역할과 목표를 가지고 있는 여러 LLM 기반 작업자(에이전트)가 일련의 프로세스를 거쳐 더욱 체계적으로 글을 써줄 수 있거든요.

방금 이야기한 블로그 글 작성 시스템을 예로 들면서 알아보겠습니다.

DevOps 관련 블로그 글을 쓸 때는 보통 아래와 같은 프로세스로 진행이 될 텐데요. 

이러한 각 과정을 수행하는 에이전트들을 둬서 서로 상호작용하며 작업을 수행하도록 시스템을 만드는 것이 CrewAI의 역할입니다.

게다가 CrewAI는 파이썬 기반으로 개발되었고 직관적인 명령어들을 사용하기 때문에, 쉽고 빠르게 여러 에이전트로 구성된(Multi-Agent) 작업 수행 시스템을 구축할 수 있다는 장점도 있습니다.

CrewAI의 에이전트는 역할, 목표, 배경으로 정의하는데요. 각 에이전트가 작업을 수행할 때 자신은 어떤 배경을 가지고 있고, 어떤 목표를 수행하는지 등을 미리 알려주는 거죠.

위의 블로그 글 작성 시스템으로 다시 돌아와서, 위에서 언급한 프로세스의 3가지 작업을 담당하는 CrewAI 에이전트들을 아래처럼 정의해보겠습니다.

위 에이전트 정의는 Python 스크립트에서 아래처럼 표현됩니다.

그리고 각 수행되어야 하는 작업도 아래와 같이 정의할 수 있습니다.

위 작업 정의는 Python 스크립트에서 아래처럼 표현됩니다.

🗂️CrewAI의 에이전트들의 작업 과정과 최종 생성 결과물

이렇게 실행한 CrewAI의 로그를 살펴보면, 각 에이전트가 일하는 과정을 로그로 확인할 수 있습니다.

또한 각 에이전트가 작업 수행 후 내놓은 최종 결과물도 확인할 수 있죠.

소식지 특성상 전체 코드와 구축 과정을 모두 담지는 못했는데요.

혹시 본 LLM 시스템 구현에 쓰인 코드와 명령어들이 궁금하시다면 아래 기술 블로그 글에 정리해두었으니 참고해주시면 감사하겠습니다.

🔭마치며...

CrewAI의 Researcher 에이전트가 작성한 리포트를 토대로 Writer 에이전트가 블로그 글을 써주는 등, 각 에이전트가 미리 정의된 프로세스대로 상호작용하는 것을 보니 정말 흥미로웠는데요.😄

블로그 글 작성 외에도 CrewAI를 활용해서 어떤 작업 프로세스를 수행할 수 있을지 궁금해지네요.

혹시 이번 내용 관련해서 더 궁금한 점이 있으시다면 아래 메일리 댓글 남겨주세요.😀

그럼, 다음 소식지에서 보다 알차고 흥미로운 내용으로 찾아뵙겠습니다.

오늘도 감사합니다, 구독자님 😺

🔗References

DevOps와 클라우드 관련 기술 지식을 공유하는 블로그도 운영 중입니다 :)

🔭DevOps 여행을 위한 안내서