🤫 말하지 않는 AI, Jev가 던진 질문: "지능은 꼭 텍스트여야 할까?"

출처: TypeSafe AI

구독자님, 요즘 AI 업계에서는 더 똑똑한 AI 어시스턴트를 만드는 경쟁이 한창이죠. 그런데 지난 9월 15일, 정반대 방향에서 나타난 모델이 개발자들을 뒤집어놨어요. 이름은 Jev. 특이하게도 이 모델은 단 한 글자의 텍스트도 생성하지 않아요. 전 OpenAI 연구원이자 RLHF 공동 개발자인 Diogo Almeida가 세운 스타트업 TypeSafe AI가 4천만 달러 시드 투자와 함께 내놓은 첫 작품입니다. (TechCrunch)

챗봇이 아니라 '함수 호출'에 가까운 AI

ChatGPT나 Claude에게 질문하면 한 글자씩 순서대로 답을 써 내려가죠. Jev는 이 과정 자체가 없어요. 대신 '상태(state)'—예를 들어 고객 문의 메일 한 통—와 함께 미리 정해둔 질문 목록을 던지면, 정해진 선택지 중 하나를 확률과 함께 즉시 돌려줘요. TypeSafe는 이를 "정형화되지 않은 상태를 입력받아 타입이 지정된 확률적 결정을 출력하는 프론티어 지능 함수 호출"이라고 설명합니다. (TechCrunch)

질문 유형은 딱 세 가지뿐이에요.

여러 질문을 한 번에 병렬로 처리한다는 점도 핵심이에요. 마치 사람이 보고서를 한 줄씩 읽어가며 결론을 내는 대신, 여러 명의 전문가가 동시에 각자의 판단을 즉답으로 내놓는 것과 비슷하죠.

같은 입력(상태+질문)이 기존 LLM에서는 한 글자씩 순차 생성되는 자유 텍스트로, Jev에서는 미리 정해진 선택지·점수·확률로 동시에 출력돼요.

숫자로 보는 차이: 속도, 가격, 환각

기존 LLM과 비교했을 때 차이가 꽤 드라마틱해요.

TypeSafe가 공개한 블로그에 따르면, 기존 LLM이 RLHF로 "사람이 좋아할 만한 답"을 최적화한다면 Jev는 RLCD로 "확률적으로 정직한(calibrated) 판단"을 최적화해요. 즉 95%의 확신이 있으면 실제로도 95% 맞아야 한다는 뜻이죠. (TypeSafe AI 블로그)

출시 직후 수요가 폭증하며 API가 일시 중단됐고, Vercel AI Gateway 역사상 가장 빠르게 채택된 모델로 기록됐어요. 2주 뒤인 9월 30일 OpenAI가 Dev Day에서 비슷한 기능의 'Decisions API'를 발표한 것도 이 흐름이 프론티어 랩들에까지 영향을 줬다는 신호로 읽혀요. (TechCrunch)

개발자들이 찾아낸 기발한 사용처

단순 분류나 라우팅을 넘어서, 커뮤니티에서는 꽤 재미있는 실험들도 나왔어요.

하나는 게임처럼 '빠른 반복 판단'이 필요한 영역이고, 다른 하나는 보안처럼 '틀리면 안 되는' 영역이에요. 두 사례 모두 "텍스트를 못 쓰는 AI"가 단순 분류를 넘어 실시간성과 신뢰성이 동시에 필요한 곳까지 파고들 수 있다는 걸 보여줘요.

Jev의 방향성

Jev는 모델을 더 똑똑하게 만드는 경쟁에서 완전히 벗어나 있어요. 대신 소프트웨어 안에서 수없이 반복되는 자잘한 판단들 (라우팅, 분류, 점수 매기기, 가드레일 등)을 값싸고 빠르게 대체하는 데 초점을 맞춰요. 개발자들 사이에서는 "LLM을 대체하는 게 아니라, LLM 옆에서 자잘한 결정을 맡는 파트너"라는 평가가 많아요. 실제로 LangChain 같은 프레임워크는 에이전트가 위험한 툴 호출을 하기 전에 Jev로 미리 걸러내는 가드레일 미들웨어를 선보이기도 했죠. (LangChain 블로그)

OpenAI가 2주 만에 비슷한 'Decisions API'를 내놓은 것만 봐도, '지능 = 텍스트 생성'이라는 공식이 깨지고 있다는 신호로 볼 수 있어요. 앞으로는 "얼마나 말을 잘하는가"보다 "얼마나 싸고 빠르게, 정확히 맞는 선택을 하는가"가 또 하나의 AI 경쟁 축이 될지도 모르겠네요.

🔵 ChatGPT가 먼저 말을 거는 시대, OpenAI 'dots' 등장

지금까지 ChatGPT는 우리가 질문을 던져야 답을 주는 존재였죠. 그런데 OpenAI가 2026년 9월 29일 DevDay에서 공개한 'dots'는 이 순서를 뒤집었어요. 사용자가 말을 걸지 않아도 스스로 할 일을 찾아 먼저 움직이는 '프로액티브(proactive) 어시스턴트'거든요. 오늘은 이 dots가 정확히 뭐고, 기존 ChatGPT와 뭐가 다른지 살펴볼게요.

dots가 뭐길래?

dots는 각각 전용 클라우드 컴퓨터와 브라우저를 받아 OpenAI의 GPT-6 Astra 모델로 구동되는 '상시 작동(always-on)' 에이전트예요. 캘린더, 이메일을 비롯해 4,000개 이상의 연결 앱을 들여다보며 "지금 처리하면 좋을 일"을 스스로 찾아내죠 (TestingCatalog). 현재 월 100달러짜리 Pro 요금제 사용자부터 순차 출시되고 있고, 각 사용자는 기본 dot 하나를 무료로 받아 이름을 붙이고 커스터마이징할 수 있어요. OpenAI는 앞으로 여러 개의 dot를 동시에 운용하는 '팀' 형태로 확장할 계획이라고 밝혔습니다 (Bloomberg). dots는 ChatGPT 앱과 웹뿐 아니라 슬랙(Slack), 마이크로소프트 팀즈(Microsoft Teams)에서도 메시지를 주고받을 수 있고, Pro 사용자는 아이메시지(iMessage)나 안드로이드 RCS 문자 연동도 대기자 명단에 등록할 수 있어요 (WIRED).

기존 챗봇과 뭐가 다를까 — '프로액티브 리서치'

기존 ChatGPT는 질문을 입력해야 답이 나오는 '반응형(reactive)' 구조였어요. 반면 dots의 핵심은 '프로액티브 리서치(proactive research)'라는 백그라운드 기능이에요. 사용자가 대화 중이 아닐 때도 dot는 연결된 앱의 정보를 계속 들여다보며 처리할 일이 있는지 살핀답니다 (VentureBeat).

다만 안전장치도 분명해요:

기존 ChatGPT는 질문-답변 한 번으로 끝나지만, dots는 앱을 상시 모니터링하다가 읽기 전용으로 리서치하고 제안한 뒤 사용자 승인을 거쳐야만 실제 행동(쓰기 작업)을 실행해요.

실제로 어떻게 작동할까

공개 데모에서는 이런 장면이 나왔어요. 사용자의 캘린더가 저녁 시간까지 업무 일정으로 꽉 차 있는 걸 발견한 dot가 먼저 "저녁 뭐 주문할까요?"라며 그럽허브(GrubHub) 배달 옵션 두 가지를 가격과 함께 제안했고, 사용자는 메뉴와 주문 시간만 답하면 끝이었어요. 다른 예시에서는 사용자와 dot가 함께 새 웹사이트를 기획하고 제작하는 협업 과정도 공개됐습니다 (WIRED). 즉 dots는 시키지 않아도 "잊고 있던 일"을 먼저 꺼내 와서, 사용자가 결정만 내리면 되는 상태로 만들어 두는 거예요.

업계에서의 의미

이번 발표는 OpenAI 혼자만의 움직임이 아니에요. 메타(Meta)가 9월 8일 선보인 '뮤즈(Muse)', xAI의 '그록 봇(Grok Bot)' 등 "상시 작동하는 영구적 AI 비서"라는 흐름이 업계 전반에서 거의 동시에 나타나고 있어요 (VentureBeat). TechCrunch는 이를 두고 ChatGPT 자체가 소프트웨어를 발견하고 사용하는 공간이 되면서, 전통적인 앱스토어 모델에 도전하는 큰 그림의 일부라고 짚었어요 (TechCrunch).

단순히 질문에 답하는 챗봇에서, 사용자의 맥락을 기억하고 스스로 할 일을 찾아 먼저 제안하는 '디지털 동료'로 AI 어시스턴트의 역할 자체가 바뀌는 중이에요. 구독자님도 조만간 "먼저 말을 거는 AI"를 만나게 될지 몰라요.

🗂️ 깃허브가 주목한 "오피스판 하네스", Univer가 화제인 이유

출처: Univer Github

이번 주 GitHub 트렌딩에 조금 독특한 프로젝트가 올라왔어요. 스프레드시트 편집 도구처럼 보이는 'dream-num/univer'가 일주일 만에 6,666개의 스타를 받으며 화제가 됐는데요, 이 프로젝트가 내건 슬로건이 눈에 띕니다. 바로 "AI 에이전트를 위한 오피스 하네스(The Office Harness for AI Agents)"예요(dream-num/univer).

Univer, 정체가 뭘까요?

Univer는 스프레드시트·문서·프레젠테이션·관계형 테이블(Bases)·보드·PDF를 하나의 런타임에서 다루는 오픈소스 SDK예요. 쉽게 말하면 "내 제품 안에 엑셀이나 워드 같은 기능을 직접 심을 수 있게 해주는 부품 상자"라고 보면 돼요.

기술적으로는 세 가지가 핵심이에요.

오피스 하네스

하네스(harness)는 원래 말이나 장비에 채우는 '안전벨트·고삐' 같은 장치예요. AI 업계에서는 에이전트가 어떤 도구를 어떻게 쓸지 정해주는 '실행 틀'을 의미하죠. Univer가 말하는 오피스 하네스는, AI 에이전트가 사람처럼 스프레드시트나 문서를 직접 만들고 고칠 수 있게 해주는 작업대라고 보면 돼요.

구체적인 작동 흐름은 세 단계로 나뉘어요.

아래 그림처럼, 에이전트의 작업이 바로 반영되지 않고 검증과 사람의 검토를 거치는 구조가 핵심이에요.

에이전트가 편집→검증→워크트리(격리된 초안)를 거치고, 사람이 검토해 병합하거나 반려해 재수정 루프로 돌려보내요.

왜 지금 급부상했을까요?

최근 AI 에이전트 업계의 흐름을 보면 답이 보여요. AI 오피스 관련 연구들은 에이전트가 더 이상 "질문에 답하는 챗봇"이 아니라, 실제로 공유하고 감사할 수 있는 파일 그 자체를 만들어 내는 "목표 지향적(goal-driven) 에이전트"로 진화하고 있다고 분석해요. 중요한 건 모델의 대화 응답이 아니라, 에이전트가 실제로 남기는 결과물(파일)이라는 거죠(AI Office survey).

문제는 스프레드시트, 문서, 슬라이드마다 '정답'의 기준이 다르다는 거에요. 스프레드시트는 수식이 다시 계산되고 참조가 살아있어야 하고, 문서는 서식과 인용, 표가 일관돼야 하고, 슬라이드는 글자가 넘치거나 겹치지 않아야 하죠(AI Office survey). 이걸 매번 따로 구현하기보다, 하나의 런타임에서 통째로 다룰 수 있는 기반이 필요했던 거예요. Univer는 바로 이 지점을 파고든 거죠.

실제로 어떻게 쓰이고 있을까요

아래 예시들로 Univer가 어떻게 AI 에이전트와 함께 오피스 문서 작업을 처리하는지 확인할 수 있어요. 

Univer가 보여주는 건 "AI가 문서를 대신 써준다"는 수준을 넘어서, 에이전트가 실제 업무용 스프레드시트·문서·슬라이드를 사람과 같은 작업대 위에서 만들고, 검증받고, 사람이 최종 확인하는 구조예요. 챗봇 답변이 아니라 실제로 쓸 수 있는 파일을 남기는 쪽으로 AI 에이전트의 무게중심이 옮겨가고 있다는 신호로 읽힌답니다.