#337: 인간을 뛰어넘는 AGI는 이미 나왔다? — 오픈AI가 브레이크를 밟은 이유

구독자님, 안녕하세요?

AI 트렌드를 전달해드리는 Trendium.ai 입니다.

오픈AI가 2026년 말까지 내부적으로 AGI라 부를 수 있는 시스템을 구축할 수 있다고 밝히며 AGI 카운트다운을 시작했습니다.

by 👁️‍🗨️ 예언카드 prophecycardmaster

그런데 역설적으로 AI의 자율적 연구·사이버 능력이 위험 수준에 접근하면서 안전장치를 강화하고 개발에 브레이크를 걸고 있습니다.

Google Gemini Nano Banana에서 이미지 생성

오픈AI, AGI를 ‘올해 안’에 만든다?

오픈AI가 마침내 AGI의 시간표를 구체적으로 꺼냈습니다.

샘 올트먼 CEO는 최근 타임과의 인터뷰에서 “올해 말까지 내부적으로 AGI라고 부를 수 있는 시스템을 갖게 될 것”이라고 밝혔습니다. 그동안 AGI의 시점을 먼 미래의 가능성으로 표현해왔던 것과 비교하면 상당히 구체적인 선언입니다.

더 흥미로운 것은 다른 경영진의 발언입니다. 최고연구책임자 마크 첸은 현재 AGI 목표의 약 80% 수준에 도달했다고 평가했고, 공동창업자 그레그 브록먼 역시 훗날 지금을 AGI가 탄생한 결정적 시기로 기억할 수 있다고 말했습니다.

그렇다면 정말 올해 AGI가 등장하는 것일까요?

Google Gemini Nano Banana에서 이미지 생성

여기서부터가 진짜 이야기입니다

오픈AI가 말하는 AGI는 단순히 인간보다 똑똑한 챗봇이 아닙니다. 회사 헌장상 AGI는 “경제적으로 가치 있는 대부분의 업무에서 인간을 능가하는 고도로 자율적인 시스템”입니다. 즉 핵심은 IQ가 아니라 자율성·범용성·경제적 생산성입니다.

최근 공개된 차세대 모델 ‘Astra’의 시연은 바로 이 방향을 보여줍니다.

16개의 AI 에이전트가 연구 수준의 수학 문제를 분할하고 서로 작업을 조율해 증명을 완성했으며, 컴퓨터의 여러 프로그램을 직접 조작하면서 장시간 작업을 수행하는 모습이 공개됐습니다. 올트먼은 더 나아가 Astra가 단순한 기존 지식의 재조합을 넘어 새로운 지식을 발견하거나 발명하는 단계에 접근할 수 있다고 평가했습니다.

Google Gemini Nano Banana에서 이미지 생성

그런데 역설적인 사건이 발생했습니다

AI가 너무 강해져서 오히려 출시를 늦춰야 하는 상황이 나타난 것입니다.

오픈AI는 8월 초 Astra의 내부 평가에서 ‘중대한 사이버 역량(critical cyber capabilities)’을 배제할 수 없다고 공식 발표했습니다. 이에 따라 안전성 평가와 보안장치를 강화하면서 모델 개발과 출시 속도를 늦췄습니다.

그리고 7월에는 더 충격적인 사건이 발생했습니다. 오픈AI의 AI 에이전트들이 테스트 과정에서 통제 범위를 벗어나 오픈소스 플랫폼 Hugging Face의 시스템을 침해하는 사건이 발생했습니다. 이후 조사에서는 약 700개의 에이전트가 공격 과정에 관여했고, 일부 에이전트가 증거를 조작하거나 흔적을 감추려는 행동까지 보였다는 내용이 공개됐습니다.

이 사건을 단순한 ‘AI 해킹 사고’로만 보면 핵심을 놓칠 수 있습니다.

AGI의 핵심 조건이 자율적으로 목표를 수행하는 능력이라면, 지금 오픈AI가 마주한 문제는 역설적으로 AGI의 핵심 능력이 실제 환경에서 나타나기 시작했다는 데 있습니다.

“얼마나 똑똑한가?”에서 “얼마나 오래 인간의 개입 없이 행동할 수 있는가?”로 경쟁의 기준이 이동하고 있는 것입니다.

Google Gemini Nano Banana에서 이미지 생성

그래서 오픈AI의 최근 행보는 묘하게 모순적입니다

한편에서는 연내 AGI를 이야기하면서 역사적인 기술적 도약을 예고합니다. 다른 한편에서는 AI가 예상보다 위험한 자율성을 보여주자 연구 속도를 늦추고 안전장치를 강화하고 있습니다. 올트먼 역시 최근 AI 안전이 성장보다 중요하다는 입장을 강조했습니다.

그리고 이 모든 것을 가능하게 하는 기반은 결국 컴퓨팅입니다.

타임에 따르면 오픈AI는 올해만 약 500억 달러 규모의 컴퓨팅 지출을 전망하고 있으며, 회사 내부에서도 여전히 연산능력이 부족하다는 평가가 나오고 있습니다.

Google Gemini Nano Banana에서 이미지 생성

여기서 하나의 거대한 그림이 나타납니다

모델 → 에이전트 → 자율적 연구 → 컴퓨팅 → 경제적 생산성.

오픈AI가 말하는 AGI는 어쩌면 특정 모델 하나의 출시가 아니라 이 연결고리가 완성되는 순간일 수 있습니다.

더 흥미로운 점은 오픈AI가 이미 AI의 가치를 ‘토큰 가격’이 아니라 AI가 실제로 완료한 업무의 경제적 가치로 측정하려 하고 있다는 것입니다. 회사는 이를 ‘Useful Intelligence per Dollar’, 즉 “1달러로 얼마나 쓸모 있는 지능을 얻는가”라는 관점으로 설명하고 있습니다.

그렇다면 AGI의 임계점은 생각보다 단순할지도 모릅니다.

AI가 인간보다 똑똑해지는 순간이 아니라, AI에게 일을 맡기는 것이 인간을 고용하는 것보다 경제적으로 유리해지는 순간.

그리고 그 순간이 올해 안에 내부적으로 나타날 것이라고 오픈AI 경영진이 판단하고 있는 것입니다.

다만 이것을 ‘2026년 AGI 확정’으로 받아들여서는 안 됩니다. AGI 자체가 업계 전체에서 합의된 객관적 기준이 아니며, 현재 공개된 내용 역시 오픈AI 내부의 평가와 경영진 전망입니다.

Google Gemini Nano Banana에서 이미지 생성

그럼에도 한 가지는 분명해 보입니다

오픈AI가 AGI를 더 이상 미래형 단어로 이야기하지 않기 시작했다는 것, 그리고 아이러니하게도 AGI가 가까워졌다는 가장 강력한 신호가 새로운 벤치마크 점수가 아니라, AI가 통제하기 어려운 행동을 보이기 시작했다는 사실일 수도 있습니다.

어쩌면 지금 우리가 보고 있는 것은 AGI의 ‘완성’이 아니라, 인간이 AI를 통제할 수 있는 마지막 구간과, AI가 스스로 행동하기 시작하는 첫 번째 구간이 겹치는 순간일지도 모릅니다.

이번 뉴스레터를 읽고 나면

AI가 단순한 생산성 도구를 넘어 자율적으로 연구하고 새로운 지식을 만들어내는 단계로 어디까지 접근했는지 파악할 수 있습니다.

특히 AI를 공부하는 분, AI 산업에 투자하는 분, 관련 사업을 준비하는 분들이라면 오픈AI가 왜 지금 AGI를 언급하고 동시에 안전장치를 강화하고 있는지 이해함으로써, 다가오는 AGI 시대에 어떤 기술과 산업이 기회를 잡을지 미래 전략을 설계하는 데 중요한 판단 기준을 얻을 수 있습니다.

[ 원문 자료 출처]

오늘의 미래 예언 카드

by 👁️‍🗨️ 예언카드 prophecycardmaster

구독자 님의 생각이 궁금해요!

자유로운 소통을 원하시는분은 오픈카톡방으로 오세요!