🔭Fluent Bit에서 보안 취약점 발견! - CVE-2024-4323

안녕하세요 구독자님, DevOps 소식과 기술 지식을 정리해서 공유해드리는 DevOps 여행을 위한 소식지입니다.

이번 소식지에선 로그 데이터 수집 툴 Fluent Bit에서 발견된 보안 취약점 관련 소식과, 로컬 LLM과 LLMOps에 대한 정보를 공유드리겠습니다. 

Fluent Bit에서 보안 취약점 발견! - CVE-2024-4323

로그 데이터 수집 툴로 널리 사용되는 Fluent Bit에서 보안 취약점이 발견되었습니다.

내장 HTTP 서버에 존재하던 버퍼 오버플로(Buffer Overflow) 취약점이 원인인데요.

버퍼 오버플로 동작으로 인해 인접 메모리에 저장되어 있던 정보가 예상치 못하게 반환되는 경우가 있어, 민감한 정보가 유출될 위험이 있다고 합니다.

또한 이외에도 서비스 거부(Denial of Service) 및 원격 코드 실행 공격에 이번 취약점이 이용될 수 있다고 하는데요.

Fluent Bit를 사용 중이라면 현재 해당 이슈가 해결된 3.0.4 버전으로 업그레이드하는 것이 가장 확실한 대처 방법이라고 합니다.

관련 글에서 더 자세한 내용을 확인해보세요.

내 PC에 배포해서 사용하는 LLM 서비스!

요즘 Chat GPT의 GPT-4o 발표로 LLM(Large Language Model)에 대한 관심이 다시 뜨거워졌는데요.

LLM 서비스를 로컬 환경, 즉 내가 쓰고 있는 PC에서도 배포해서 사용할 수 있는 거 알고계셨나요?

오픈소스 LLM을 로컬 환경에서 사용할 수 있게 도와주는 ollama라는 툴 덕분인데요.

여기에 Chat GPT와 유사한 웹 UI로 ollama와 쉽게 상호작용할 수 있는 Open-WebUI라는 툴을 함께 사용하면 나만의 Chat GPT가 완성되는 거죠.

그럼 이 툴들을 로컬에 어떻게 배포할 수 있을까요? 배포만 되면 Chat GPT처럼 정말 잘 동작할까요? 저도 궁금해서 제 노트북에 직접 배포해서 사용해봤습니다.😉

로컬에 ollama를 배포하는 케이스가 여러가지 있었지만, 최대한 간편하게 배포하고 종료할 수 있도록 저는 Docker Compose를 활용했는데요.

자세한 배포 및 사용 과정은 아래 글에서 확인해보세요🔎

LLM(Large Language Model) 개발을 위한 LLMOps!

최근 LLM을 공부하는 과정에서, 낯선 듯 낯설지 않은 용어 하나를 만나게 되었습니다. 바로 LLMOps인데요.

DevOps 엔지니어로서 그냥 지나칠 수 없어 LLMOps에 대해 조사 후 정리해봤습니다.😎

LLMOps 이전에 MLOps라는 개념이 먼저 등장했었습니다. 이름에서 알 수 있듯이 머신러닝 모델 개발 Cycle을 관리하기 위해 나타난 것인데요.

이 MLOps에서 파생된 개념이 바로 LLMOps입니다.

그래서 LLMOps와 MLOps는 많이 닮았습니다. 두 개념 모두 AI 모델 학습, 성능 평가, 모델 배포를 하나의 주기로 통합하고 자동화하는 것이 핵심 목적이기 때문이죠.

LLMOps는 MLOps 프로세스에 LLM 개발에 특화된 프로세스가 몇 가지 추가됩니다. 대표적인 것이 FM(Foundation Model) 선정 프로세스인데요.

LLMOps에 대해 제가 조사하고 정리한 글은 아래에서 확인하실 수 있습니다.

🔭마치며...

이번 소식지는 DevOps 및 IT 관련 최신 소식이나 기술 지식에 대한 글을 요약 및 소개하는 방식으로 작성해봤습니다. 어떠신가요?

혹시 이번 내용 관련해서 더 궁금한 점이 있으시다면 아래 메일리 댓글 남겨주세요.😀

그럼, 다음 소식지에서 보다 알차고 흥미로운 내용으로 찾아뵙겠습니다.

오늘도 감사합니다, 구독자님 😺

DevOps와 클라우드 관련 기술 지식을 공유하는 블로그도 운영 중입니다 :)

🔭DevOps 여행을 위한 안내서