오토마타의 첫 인사
안녕하세요, 구독자님!
만나서 반갑습니다. Automata입니다!
챗GPT가 등장한 이후, 우리 일상이 정말 빠르게 바뀌고 있죠. 이제는 AI가 춤추고, 노래하고, 시를 쓰는 시대가 되었어요. 이렇게 급변하는 흐름 속에서 우리가 할 수 있는 일은 무엇일까요?
결국 AI를 얼마나 잘 다루고, 활용할 수 있는가가 산업의 핵심이 되어가고 있어요. 새로운 아이디어를 발굴하고, 업무 효율을 높이고, AI로 새로운 가치를 만들어내는 사람들에게 기회가 모이기 시작했거든요.
그런데 막상 LLM이나 에이전트를 써보면, 이런 고민들 한 번쯤 해보셨을 거예요:
🗣️ “답변이 너무 보편적이에요.”
📈 “프로젝트가 커질수록 LLM에게 보여줘야 할 자료도 너무 많아요.”
😭 “자료를 줘도 정작 내가 원하는 답을 잘 못해요.”
💰 “토큰 비용 걷잡을 수 없이 올라가요.”
🤵♂️ “에이전트로 내 개인 비서를 하나 만들고 싶어요!”
그래서 이런 고민들을 함께 풀어보고 싶어서 이 뉴스레터를 시작하게 되었어요. 개발자든 비개발자든, 더 많은 분들이 에이전트를 잘 활용해서 가치를 만들어낼 수 있도록 돕고 싶었거든요.
Automata 뉴스레터에서는 앞으로 LLM과 에이전트 관련 새로운 기술 소식, 그리고 여러 커뮤니티·논문·프로덕트에서 발견한 효과적인 활용법들을 정리해서 전해드릴게요.
모두가 아시겠지만, LLM과 에이전트는 아직 완벽하진 않습니다. 저는 이 여정을 여러분과 함께 탐구하고 실험하며 나아가기 위해 이 뉴스레터를 기획했습니다.
하룻밤 자고 일어나면 새로운 기술이 쏟아지는 AI 시대, 이 뉴스레터가 구독자님의 든든한 길잡이가 되었으면 합니다.
그럼 첫 뉴스레터 시작해볼게요!
🥳 Claude Opus 4.5 출시
첫 소식으로 Anthropic에서 새로 공개된 LLM 모델 이야기를 해볼게요.
Anthropic에서 Claude Opus 4.5를 출시했습니다. Opus는 Claude 모델 시리즈 중 가장 큰 모델이에요.
벤치마크 성적을 살펴보면 정말 인상적인데요, 특히 복잡한 코딩과 에이전트 작업에서 뛰어난 성능을 보여줍니다. 기본 20만 토큰의 컨텍스트 윈도우를 지원하고, "Endless Chat" 기능으로 장기 기억도 효율적으로 관리할 수 있어요.
레딧 같은 커뮤니티에서 반응도 꽤 좋습니다. 기존 모델들이 해결하지 못했던 복잡한 리팩토링 작업을 척척 해내고, 프롬프트 주입 공격에 대한 방어력도 높다는 점이 호평받고 있어요. 일부 유저들은 최근 출시된 Gemini 3보다 실제 사용 시 더 좋은 퀄리티를 보여준다고 하네요. (레딧 링크)
성능과 비용 모두 매력적인 Claude Opus 4.5, 더 자세한 내용은 아래 공식 블로그와 모델 시스템 카드에서 확인해보세요.
🫨 토큰 비용일 반이나 줄일 수 있다고요??
데이터 분석이나 파싱을 위해 LLM에 데이터를 전달할 때, 보통 JSON 형식을 많이 사용하시죠? JSON은 데이터 교환의 표준이지만, 사실 LLM 입장에서는 따옴표, 중괄호, 쉼표 같은 요소들이 토큰을 잡아먹는 주범이기도 해요.
이 문제를 해결하기 위해 최근 AI 커뮤니티에서 TOON(Token-Oriented Object Notation)이 주목받고 있습니다. TOON은 JSON의 유연함, YAML의 가독성, CSV의 테이블 형식을 결합한 하이브리드 포맷이에요.
특히 데이터 구조가 일정한 배열을 처리할 때 진가를 발휘하는데요, CSV처럼 헤더를 한 번만 선언하고 데이터를 나열하는 방식으로 JSON 대비 30%에서 최대 60%까지 토큰 사용량을 줄여줍니다. 이는 곧 API 비용 절감과 더 긴 컨텍스트 확보로 이어지죠.
아직 초기 단계이긴 하지만, RAG나 대용량 데이터 처리가 필요한 개발자들 사이에서 "JSON의 토큰 낭비를 해결할 대안"으로 빠르게 퍼지고 있어요.
그럼 실제로 토큰이 얼마나 줄어드는지 확인해볼까요? 아래는 JSON을 TOON으로 변환해주는 사이트에서 등산 데이터 33줄(+ 메타데이터)을 변환한 결과입니다. 토큰이 1,843개에서 613개로, 무려 67%나 줄어든 걸 확인할 수 있어요.
물론 신생 포맷인 만큼 단점도 분명히 있어요. 전용 파서가 필요해서 범용 호환성이 낮고, 계층 구조가 깊고 복잡한 데이터에서는 오히려 가독성과 파싱 효율이 떨어질 수 있습니다. 또한 TOON 형식으로 훈련된 LLM이 아직 많지 않아서, JSON만큼의 정확도를 항상 보장하기 어렵다는 점도 있고요.
그래도 비용 측면에서는 확실한 강점이 있으니, 프로젝트가 비용에 민감하거나 대규모 트래픽으로 반복적인 데이터를 많이 처리해야 한다면 한번쯤 도입을 검토해볼 만하다고 생각해요.
🗞️ Andrew Ng의 새로운 플랫폼: "내 논문을 AI가 심사해준다면?"
앤드류 응(Andrew Ng) 교수 팀이 연구자들을 위한 강력한 도구, Stanford Agentic Reviewer (paperreview.ai)를 공개했어요. 지루하고 반복적이고 프로세스가 긴 논문 리뷰 과정에 고통받는 대학원생들을 보고 영감을 얻어 제작하였다고 밝혔습니다.
I was inspired by a student who had a paper rejected 6 times over 3 years. Their feedback loop -- waiting ~6 months for feedback each time -- was painfully slow. We wanted to see if an agentic workflow can help researchers iterate faster.
저는 3년 동안 6번이나 논문 거절을 경험한 학생에게서 영감을 받았습니다. 매번 약 6개월씩 피드백을 기다려야 하는 피드백 루프는 정말 안타까울 정도로 느렸습니다. 우리는 에이전틱 워크플로우가 연구자들이 더 빠르게 반복 작업을 할 수 있도록 도울 수 있는지 알아보고 싶었습니다.Andrew Ng님의 Linkedin 포스트 중에서
이 시스템은 단순히 LLM에게 "이 논문 좀 봐줘"라고 프롬프트를 던지는 수준이 아니에요. 에이전틱 워크플로우(Agentic Workflow)를 활용해서 AI가 한 번에 답을 내는 게 아니라, 여러 단계의 사고 과정을 거쳐 작업을 수행합니다.
Agentic Reviewer 작동 원리
- 입력 및 변환 (Ingestion): PDF 논문을 업로드하면 LandingAI의 ADE(Agentic Document Extraction) 기술로 깔끔한 마크다운 형식으로 변환합니다.
- 사전 조사 (Grounding): 에이전트가 arXiv를 검색해 가장 관련성 높은 최신 선행 연구들을 찾아옵니다. AI가 환각(Hallucination) 없이 실제 연구 맥락을 파악하고 비평할 수 있게 해주는 핵심 단계예요.
- 검토 (Review): 수집한 정보를 바탕으로 논문의 강점, 약점, 개선점을 분석합니다.
- 결과 (Output): 구조화된 리뷰 리포트와 함께 ICLR 같은 탑티어 학회에서의 채택 확률 점수를 제공합니다.
연구팀이 ICLR 2025 데이터로 테스트한 결과는 꽤 놀라워요.
- 인간 vs 인간 상관계수: 0.41
- AI vs 인간 상관계수: 0.42
통계적으로 보면, 이 AI 에이전트는 인간 리뷰어들이 서로 동의하는 수준만큼 인간 평가와 일치한다는 뜻이에요. 논문 채택 여부 예측에서도 0.84의 AUC를 기록했고요.
PaperReview.ai는 현재 실험 단계에 있어요. 당장 피어 리뷰를 완전히 대체하진 않겠지만, 연구를 다듬고 준비하는 방식에 큰 변화를 가져올 건 분명해 보입니다. 학회 리뷰어들의 날카로운 평가를 받기 전, 내 논문을 미리 점검해볼 수 있는 강력한 도구로 활용할 수 있을 것 같아요.
👨🏫 오토마타 스터디 카페 - 《요즘 당근 AI 개발》
저는 평소 AI와 에이전트 관련 책이나 강의를 찾아보는 걸 좋아해요. 그래서 뉴스레터 끝부분에 제가 재밌게 읽었거나 유익했던 콘텐츠를 소개하는 코너를 마련해봤습니다.
오늘 소개해드릴 책은 《요즘 당근 AI 개발》이에요.
제목에 'AI 개발'이라는 단어가 있어서 어렵고 이론적인 책일 것 같지만, 비개발자가 얻을 수 인사이트가 가득한 책입니다. 엔지니어뿐 아니라 PM, 운영 매니저 등 다양한 직군의 실제 경험담을 담고 있어서, 개발자가 아니더라도 충분히 인사이트를 얻을 수 있습니다.
이 책의 매력 포인트는 이래요:
- 여러 직무의 사람들이 각자의 AI 활용 경험을 솔직하게 풀어내서, 내 업무에 적용할 아이디어를 얻기 좋아요.
- 기획부터 개발, 요즘 뜨고 있는 자동화 툴 n8n까지 다양한 주제를 아우르며 회사 내 AI 실제 활용 사례를 폭넓게 다룹니다.
- AI 물품 추천, AI 게시글 작성, CS 챗봇 같은 사용자 대상 사례부터 리뷰 자동 리포트, 온콜 업무 단축, 운영 자동화 같은 내부 업무 효율화 사례까지 골고루 담겨 있어요.
'AI로 과연 될까?'라는 질문이 'AI로 어떻게 하면 될까?'로 바뀌는 과정을 보고 싶다면, 이 책을 추천드려요.
- 밀리의 서재에서 읽기 가능
오토마타의 첫 뉴스레터, 어땟나요?
이렇게 Automata의 첫 뉴스레터를 마무리해봅니다. 유익한 시간이 되셨나요?
첫 뉴스레터인 만큼 구독자님의 솔직한 의견이 궁금해요. 내용이 도움이 되셨나요? 아쉬운 점은 없었나요? 혹시 평소에 에이전트나 LLM에 대해 궁금했던 점이 있으시다면 그것도 좋아요.
아래 버튼을 눌러 피드백이나 궁금한 점을 남겨주시면 정말 감사하겠습니다!
그럼 다음 주 수요일에 또 만나요! 👋
비즈니스 문의: automatanewsletter@gmail.com
의견을 남겨주세요