Ornn, 연산에 값을 매기는 일

이 글에 대해 귀중한 피드백을 주신 Ornn 팀에 감사드립니다.

On My Radar

나의 웹사이트에 방문하면 'On My Radar'라는 섹션이 존재한다. 해당 섹션은 말 그대로 현재 나의 레이더에 들어온 회사들을 나열한 부분으로써, 내가 주의깊게 팔로우업하고 있는 프로젝트들이라고 볼 수 있다. 사실 현재 웹사이트에 리스트업된 프로젝트들은 작년 Q4 기준이기에 아직 올해 들어서 재밌게 보고 있는 프로젝트들은 업데이트되진 않은 상태지만, 여전히 해당 프로젝트들에 대해선 기대를 많이 하고 있는 중이다.

사실 리서치라는 것이 너무나도 공공재화된 현재 시점에서 취미로라도 리서치를 한다는 사람이 내세울 수 있는 것은 그나마 취향인 것 같다. 주변의 많은 리서처분들 역시 이미 많이 얘기한 주제이긴 하지만, 결국 얼만큼 맞고 틀리냐보다는 '이 사람은 이러한 프로젝트를 관심있게 보는구나', 즉 약간 나의 취향을 공개함으로써 보는 사람들에게 재미를 유발할 수 있는 것 같다.

참고로 굉장히 보수적인 취향을 가진 리서처가 아닌 이상(e.g 스테이블코인과 예측 시장에 불리시하다는 말은 누구나 할 수 있으니깐!), 리서처들이 뽑은 픽은 99%로 망한다고 볼 수 있고, 이는 나의 과거 글에서도 확인할 수 있다. 그러므로 당연히 해당 글은 단순한 정보성 글로만 읽기를 바라며, 투자 권유 및 추천과는 전혀 무관하다. 애초에 토큰이 있는 프로젝트들에 대해선 최대한 언급을 안하려고 한다.

첫 번째 주자: Ornn

현재 내 로스터에 등재된 여러 프로젝트들 중에서 무엇을 가장 먼저 소개할까 고민을 하다가, 어떻게 보면 가장 최애인 친구를 소개하는게 좋을 것 같아서 Ornn을 가져와봤다. Ornn을 한 줄로 요약하면 다음과 같다:

Ornn은 AI 회사들, 투자자, 데이터 센터 운영사 등이 변동성 높은 연산의 값에 노출을 관리할 수 있는 금융 상품을 만드는 회사이다.

Ornn에 대한 글을 준비하면서 나 역시도 GPU와 AI 인프라 시장에 대해서 많은 공부를 할 수 있어서 너무 재밌었는데, 아무래도 내가 익숙한 분야는 아니다보니, 혹시나 잘못된 부분이 있으면 꼭 댓글이나 개인적으로 알려주면 너무 감사할 것 같다!

부르는 게 값

일단 문제부터 정의해보자. 문제는 AI 회사, Hyperscaler/Neocloud, 데이터센터 운영사들 모두 엄청난 규모로 자본을 AI 산업에 투자하고 있는데 막상 그 투자의 핵심이 되는 '연산'의 값에 대한 기준이 없다는 것이다.

예를 들면 이런 것이다.

위 예시들이 얼마나 현실적인지는 알 수 없지만, 결국 하고 싶은 얘기는 AI 산업의 규모에 비해서 현재 이를 지탱하는 경제적인 요소의 많은 부분들이 전화해서 bilateral하게 협상하는, 바이브적으로 이뤄진다는 것이다.

케이스 스터디: Coreweave & MagAI Ventures

추가적인 예시를 위해서 대표적인 Neocloud(GPU를 보유하고, 이걸 AI 회사들에게 빌려주는)인 Coreweave의 3분기 10-Q를 보자.

해당 트윗을 보면 알 수 있듯이, Coreweave는 작년 8월에 MagAI Ventures로부터 해당 VC의 포트폴리오 회사들에게 미리 협상되어서 픽스된 시간당 연산 가격을 제공하는 명목으로 $230M의 선지급금을 받은 것을 알 수 있다. 그런데 해당 게약의 또 다른 조건은 만약 MagAI Ventures의 포트폴리오 회사들이 Coreweave로부터 연산을 사용하지 않을 시, 연 12%의 이율로 다시 반환되야 한다는 것이다.

MagAI Ventures는 왜 이런 계약을 했을까? 아마 MagAI Ventures는 자신의 포트폴리오 회사들에게 밸류 애드 차원에서 고정된 가격에 GPU 연산을 사용할 수 있도록 하고 싶었을 것이다. 만약, 연산에 대한 선물이나 옵션 계약이 있었다면 이를 통해서 쉽게 헷징을 할 수 있었겠지만, 이런 것이 없다보니 위 형식과 같은 특이한 형식의 계약을 Coreweave랑 맺을 수 밖에 없었을 것이다.

물론, 자본과 정보가 뛰어난 큰 회사들의 경우, 자체적으로도 가동률을 예측할 수 있고, 또 규모를 통해서 더 저렴하게 계약을 따낼 수 있겠지만, 그렇지 않은 회사들의 경우, 정보의 비대칭성에 노출될 수 밖에 없고, 결국, 자신이 하고자하는 거래가 시장 대비 어디에 위치하는지 알 방법이 없게 된다.

전력을 벤치마킹하자

Ornn 팀이 이러한 문제를 발견하고, 다루기 시작하였을 때, 그들은 당연히 석유를 먼저 볼 수 밖에 없었는데, 석유는 그야말로 원자재의 클래식이기 때문이다. 하지만, 문제는 연산과 석유는 너무나도 성격이 다르다. 석유는 저장할 수 있는 원자재인 것과 달리, 연산은 저장할 수 없다. 화요일 새벽 3시에 유휴 상태인 H100은 어떠한 가치도 가지지 않는다. 따라서, 석유와 같은 애들을 stock commodity, 연산과 같은 애들을 flow commodity라고 부를 수 있다.

Flow commodity의 대표 주자는 바로 전력인데, 전력의 특징은 다음과 같다:

GPU 연산을 원자재로써 이해할때는 위와 같은 전력의 특성을 이해하고 보면 조금 더 이해하기에 좋다.

Ornn에 대하여

팀 & 창업 배경

Ornn의 상품 라인업을 보기 전에 팀과 창업 배경을 간단히 살펴보자.

Kush Bavaria와 Wayne Nelms가 데이터센터에 대출하는 사모펀드 회사들에 컨설팅을 하던 시기에 PE 사람들은 게속해서 gpu 인프라 회사들에 신용을 확장하고 있는데 노출을 헤지할 방법이 없다고 얘기하였다고 한다. 참조할 벤치마크가 없으니, 헤지할 파생상품이 없고, 금융 기관들은 리스크를 제대로 관리할 방법이 없었다. 여기서 문제를 발견한 두 명의 창업자는 Ornn을 만들게 되었고, 해당 팀은 전부 MIT alumni 출신으로 Google, SIG, Optiver 등 트레이딩과 기술 모두 잘 아는 사람들로 이뤄져있다.

프로덕트 라인업

이제 드디어 Ornn이 그래서 무엇을 파는 회사인지 알아보자.

1) OCPI(Ornn Compute Price Index)

일단 가장 핵심은 OCPI(Ornn Compute Price Index), 즉 GPU 연산 인덱스이다.

모든 것은 벤치마크에서 시작한다. 자세한 방법론은 나와있지 않기 때문에 알 수는 없지만, GPU 유형별로 별개의 인덱스가 존재하고, 단순히 호가, 즉 '얼마에 팝니다'가 아니라, 실제로 거래가 성사된 가격을 기반으로 만들었다고 한다. 또한, 지역별로 GPU들이 서로 다르게 거래되는 것을 참고해서 이에 대한 가중치도 반영한 것으로 보인다. 이외에는 전력을 벤치마킹하여서 아시안 스타일 정산으로 이뤄지는 것 같다.

참고로 웹사이트에서 H100 인덱스 값을 볼 수 있지만, 그 외 지표들은 현재는 돈을 내야 볼 수 있는 것으로 보인다. 그래도 이 글을 준비하면서 OCPI 데이터를 기반으로 작성한 글들을 두 개나 찾아서, 이미 투자자들에게도 유의미한 지표로써 사용되는 것이 아닐까 조심스레 짐작해본다:

참고로 Ornn의 데이터를 사용한 위 두개의 글들도 모두 유료 페이월에 가려져 있어서 직접 보기에 적합하지는 않다. 개인적으로 두 번째 글은 직접 돈을 내고 봤는데, 간단히 요약하자면, 해당 글은 작년 10월 2일부터 12월 30일까지의 A100 SXM4, H100 SXM, H200에 대한 데이터를 Ornn으로부터 받아서, 각 GPU 유형별로 가동률이 가격 변동성에 어떤 영향을 미치는지 살펴본다.

해당 글은 작년 10월 2일부터 12월 30일까지의 A100 SXM4, H100 SXM, H200에 대한 데이터를 Ornn을 통해 받아와서 각 GPU 종류별로 가동률이 가격 변동성에 미치는 영향을 살펴본다.

공개된 정보 중에서 알 수 있는 OCPI에 도움을 주는 파트너들 은 다음과 같다:

2) 연산 스왑

어쨋든 이 OCPI 위에 놓이는 것이 실제 헤지 상품인 연산 스왑(Compute Swap)이다. 연산 스왑은 말 그대로, 두 당사자가 미래 기간에 대해서 시간당 GPU의 고정 자격에 합의하는 계약으로, 정산 시에 가격에 대해서 틀린 쪽이 상대방에게 OCPI를 기준으로 현금으로 차액을 지불하기 대문에 연산 자체는 손이 바뀌지 않는다.

예를 들자면, 내가 10,000개의 $2 GPU/hour 30일 스왑 계약에 진입한다고 하였을 때, 월말에 Orn은 일일 OCPI 수치의 평균을 계산하고, 만약 평균이 $2.3이라면, 거래 상대방이 나에게 ($2.3 - $2) * 10000 = $3000을 지불하게 된다.

이 스왑을 좋은 점은, 실제로 컴퓨트를 누구에게 사는지 바꿀 필요가 없다는 것이다. 기존의 Hyperscaler나 Neocloud를 그대로 사용하되 만약에 시간당 GPU 가격이 올라서 청구서가 올랐다면, 스왑 지불이 이를 상쇄하는 매우 간편한 형태이다. 참고로 작년 12월 11일에 역사상 처음으로 연산 스왑이 Ornn을 통해서 일어났다고 한다!

3) 연산 선물

연산 선물은 연산 스왑인데 이제 표준화된 조건, 계약 크기, 만기일을 가져서 거래소를 통해서 더 쉽게 거래할 수 있도록 만든 형태이다. 현재 Ornn은 CFTC의 소규모 면제 하에 운영되고 DCM(지정계약시장) 라이선스를 추구하고 있는 과정이기 때문에, 현재 연산 선물이 서비스되고 있지는 않다.

하지만, 최근에 전 FTX US 회장인 Brett Harrison이 운영하는 Archtect이라는 기관용 거래소에서 Ornn의 데이터를 바탕으로 하는 GPU 무기산 선물 게약을 지원하겠다고 발표하여서 OCPI를 기반으로 하여서 기관들의 경우, 연산 선물 거래가 가능해질 것을 보인다.

4) 메모리 선물

최근에는 단순히 시간당 GPU을 넘어서서, HBM과 같은 메모리 가격에 대한 선물도 출시하겠다고 밝혔다.

나 역시 전문가는 아니지만, 대형 LLM에서 추론을 실행할 때, 실제 병목은 GPU의 계산보다도, 메모리에서 데이터가 전달되는 과정에 있다고 한다. 그리고 이 메모리를 수직을 쌓고, 미세한 구리 기둥으로 연결해서 만든 것이 HBM인데, 제조가 굉장히 어렵기 때문에, 삼성, SK하이닉스, Micro의 세 곳에서만 이를 만들며, 가격이 지난 2년간 250% 이상 변동했다고 한다. 이 변동성에도 불구하고, 현재까지 HBM 가격 리스크를 헤지할 수 있는 표준화된 금융 상품은 존재하지 않았다.

메모리와 GPU 가격은 AI 수요 급증 시 종종 함꼐 움직이지만, 서로 다른 공급 제약에 반응하기 때문에, Ornn은 이 두 가지 모두에 대한 헤지 상품을 제공함으로써, 참여자들이 더 정밀하게 헤지할 수 있도록 한다.

5) 잔존가치스왑 (RVS)

Ornn은 잔존가치스왑(Residual Value Swap)을 통해 GPU 가치 보호 상품도 제공한다. 분기별 프리미엄을 지불하면, 계약 종료 시점에 GPU를 판매하기로 선택할 경우 합의된 가격을 보장받을 수 있다.

이는 GPU 소유의 핵심 문제를 해결한다. 수천만 달러 가치의 하드웨어가 새로운 GPU 세대 출시나 인프라 요구사항 변화로 인해 하룻밤 사이에 재판매 가치가 폭락할 수 있는데, 기존 금융에서는 GPU의 잔존가치를 불확실하게 취급하여, 운영사들은 보수적인 조건을 받아들이거나 상당한 자기자본 리스크를 감수해야 했다. RVS는 이러한 자산 수명 말기의 가격 리스크를 카운터파티에게 이전한다.

여기서 핵심적인 통찰은 GPU의 잔존가치가 미래 수익 창출 잠재력과 밀접하게 연결되어 있다는 점인데, 이것이 바로 OCPI가 추적하는 것이다. 시간에 따른 연산 가격에 대한 신뢰할 수 있는 벤치마크를 확립함으로써, OCPI는 잔존가치 리스크를 가격화하는 기반을 제공한다. GPU 시간당 가격이 어디로 향하는지 모른다면, 3년 후 GPU의 가치를 의미있게 가격화할 수 없다.

데이터센터 운영사에게는 더 나은 금융 조건, 자기자본 변동성 감소, 최악의 시나리오가 아닌 예상 성과를 기반으로 한 투자 결정이 가능해진다. 대출기관에게는 담보 가치의 하한선이 정의되어, 더 높은 선순위 대출 비율과 기술 노후화로부터의 보호가 가능해진다.

관련 회사들

사실 해결하고자 하는 문제가 워낙 중요한 문제이다보니, Ornn 외에도 다른 플레이어들이 있을 것 같아서 좀 찾아봤는데, Ornn처럼 연산 기반의 금융 상품을 만들려는 곳은 찾지 못하였고, 연산 가격에 대한 벤치마크를 만들려는 곳은 대표적으로 Silicon Data가 있었다.

Silicon Data

Silicon Data는 DRW와 Jump에 투자를 받은 곳으로 전 세계의 데이터 소스로부터 가격 데이터를 집계하여서 GPU 가격에 대한 벤치마크를 제공한다. 역시 자세한 방법론에 대해서는 알 수 없지만, 실제 지표는 계정을 만들면 볼 수 있긴 하다. Ornn의 OCPI와 Silicon Data의 벤치마크에 대해서 방법론을 모르기에 정확히 비교할 수는 없지만, 내가 이해하기로는 Silicon Data는 단순히 여러 서비스들의 연산에 대한 제시가격을 모아서 이를 벤치마킹시켰다면, Ornn은 실제로 거래가 체결된 가격을 기반으로 OCPI를 만들었다는 것이 가장 큰 차이점이 아닐까 싶다. 회사 차원에서는 Ornn은 OCPI를 기반으로 금융 상품을 제공한다는 점, Silicon Data는 단순히 벤치마크 지원에 그친다는 점이 차이점인 것 같다.

Spot Marketplace

Ornn과 직접적인 경쟁 관계는 아니지만, 관련된 회사로 SF Compute나 Compute Exchange 같은 GPU 연산용 spot marketplace가 있다.

이러한 spot marketplace가 Ornn에게 가지는 의의는 크게 두 가지라고 생각한다:

무엇이 언락되는가

Ornn이 제공하는 금융 상품들을 필요로 하는 그룹들은 크게 3 가지로 나눌 수 있다. 첫 번째는 비용을 안정화하고 싶은 AI 회사들이다. 대형 모델을 학습시키는데 엄청난 연산 비용이 들어가는 상황에서, 그 비용이 몇 개월 사이에 크게 변할 수 있다는 사실 자체가 스트레스이다. 두 번째는 매출을 안정화하고 싶은 데이터센터 운영자들이다. GPU 인프라 구축은 몇년이 걸리는 긴 기간의 투자인데, 특정 가격으로 미래 용량을 미리 팔 수 있다면, 투자의 위험이 적어진다.

마지막 그룹은 노출을 줄여야하는 금융 기관들인데, 이 마지막 그룹에 대해서 좀 더 살펴보자.

프로젝트 파이낸싱

현재로써는 데이터센터 운영사들이 은행에 PF를 요청할때 은행은 당연히 수익 전망에 대해서 물을 수 밖에 없다. 당연히 운영사는 나름의 시나리오를 제시하겠지만, 은행 입장에선 당연히 불안할 수 밖에 없다.

발전소 파이낸싱과 비교해보자. 발전소가 10년짜리 전력구매계약(PPA)을 체결하고, 추가로 전력 선물로 가격 리스크를 헤지했다면, 은행은 그 현금흐름을 "거의 확정된 것"으로 취급할 수 있다. 담보 가치가 명확하고, 리스크가 정량화되어 있으니, 낮은 금리로 대규모 자금을 제공할 수 있다. Ornn이 제공하는 서비스를 통해서 연산도 비슷한 구조가 가능해지고, 자본 비용은 내려가며, 더 많은 프로젝트가 경제성을 갖추게 될 것이다.

잔존가치보험(RVI)

선박이나 항공기 리스 시장에서는 잔존가치보험(Residual Value Insurance)이 있는데, 특정 회사가 항공기를 구매해서 10년 후에 다시 중고를 판다고 할때, 보험사들이 등장해서 10년 후에 항공기의 최소 가격을 보장해주고, 그 이하로 떨어질 시에 차액을 보상해주는 상품이다.

OCPI가 이제 확립됨에 따라, Ornn은 바로 이것을 출시했다: 위에서 소개한 GPU를 위한 잔존가치스왑(RVS)으로 GPU를 구매하거나 리스하는 회사들은 이제 RVS를 통해 리스크를 전가하고, 더 좋은 조건으로 자금을 조달할 수 있다.

ETC

이 외에도 GPU 기반 자산유동화증권 같은 것들이 가능해진다. Ornn은 이미 USD.ai와 정확히 이런 구조로 협력하고 있다. USD.ai가 GPU 인프라에 대한 대출과 파이낸싱을 제공하고, Ornn은 3년차 또는 4년차에 하드웨어에 대한 풋 옵션을 제공함으로써 파이낸싱 비용을 줄인다. 이를 통해 대출기관은 잔존가치에 대한 확신을 가질 수 있고, 차입자는 더 좋은 조건을 받을 수 있다.

결국 하나의 이야기이다. 여러 시장 참여자가 합의할 수 있는 가격 벤치마크가 생기면, 이를 바탕으로 리스크를 측정할 수 있고, 리스크를 측정할 수 있으면 자본을 더 편안하게 배치할 수 있게 된다.

리스크

하지만, 당연히 이러한 미래까지 가는 길은 쉽지 않다. 가장 큰 문제는 역시 제대로된 인덱스를 만드는 일이 아닐까싶다. 인덱스가 제대로 만들어지지 않으면 당연히 헤지가 완벽히 되지 않을 것이고, 시장 참여자들이 신뢰를 하지 않는다면, 인덱스는 단순히 수치 그 이상의 가치를 얻기가 힘들다. 문제는 GPU라는 것이 어쩌면 전력보다도 까다로운 구석이 많다는 것인데, GPU 모델이나, 지역뿐만 아니라 어떠한 일을 맡기는지, 셋업 방식에 따라서도 성능이 차이가 날 수 있다보니깐, 이러한 부분들을 최대한 잘 측정해서 합리적인 인덱스를 만드는 것이 중요해보인다.

이 외에는 유동성 문제나 규제 문제가 있지만, 사실 위 리스크만 해결된다면, 워낙 니즈가 많아보이는 시장이다보니 금방 해결되지 않을까 싶다.

팀과의 Q&A

운 좋게도 Ornn 팀과 직접 대화할 기회가 있었고, OCPI가 내부적으로 어떻게 작동하는지, 그리고 어디서 트랙션을 얻고 있는지에 대해 몇 가지 질문을 했다. 

Q. OCPI에 가격 데이터가 포함되기 위한 최소 거래량이 있나요?

A. 최소 거래 규모는 없습니다. 인덱스는 거래량 가중 방식이라서, 더 큰 거래가 자연스럽게 더 많은 가중치를 가집니다.

Q. 이질성 문제는 어떻게 처리하나요? 같은 GPU 모델이라도 워크로드 유형, 네트워크 토폴로지, 쿨링 셋업에 따라 성능이 다를 수 있잖아요.

A. 가중치를 통해서입니다. 서로 다른 구성들은 상대적인 성능 특성을 반영하여 적절하게 가중치가 부여됩니다.

Q. 지역별 가중치는 어떻게 접근하나요? 지리적으로 얼마나 세분화되나요?

A. 도시 단위입니다. 위치에 따라 가격이 상당히 다를 수 있어서, 인덱스는 그 수준의 세분화로 지역을 반영합니다.

Q. OCPI에 기여하는 데이터 파트너는 몇 개인가요?

A. 현재 10개 이상의 데이터 파트너가 인덱스에 기여하고 있습니다.

Q. 보고된 "체결 가격"이 실제이고 조작되지 않았는지 어떻게 검증하나요?

A. 데이터 제공자들과 계약을 맺고 있고, 실제로 그들의 인보이스를 직접 파싱합니다. 이를 통해 자가 보고 수치가 아닌 검증된 거래 데이터로 작업하고 있음을 보장합니다.

Q. 어떤 고객 세그먼트가 가장 빠르게 움직이고 있나요: AI 회사들, 데이터센터 운영사들, 아니면 금융 기관들?

A. 헤지 상품의 경우, 운영사들입니다. Architect 파트너십의 경우, 연산 가격에 포지션을 취하려는 S투자자들이 더 많이 끌릴 것으로 예상합니다.

마무리하며

앞으로 가장 중요한 원자재가 될지 모르는 연산은 진정한 시장을 가질 자격이 있다. 석유에 WTI가 있고, 전력에 LMP가 있듯이, 연산에도 모두가 참조할 수 있는 가격이 필요하다. Ornn은 그 시장의 기초가 될 인덱스(OCPI)와, 그 인덱스를 기반으로 시장 참여자들이 리스크를 거래할 수 있는 파생상품을 만들고 있다.

지금까지 연산 거래는 중고차를 사는 것과 비슷했다. 판매자가 부르는 가격이 적정한지 알 수 없고, 옆 가게와 비교하기도 어렵고, 6개월 후 가격이 어떻게 될지는 더더욱 알 수 없었다. Ornn이 만들고 있는 것들이 널리 사용될수록, 가격은 투명해지고, 자본 배치는 효율적이 되고, 궁극적으로 연산 비용은 낮아질 것이다. 이는 AI를 만드는 회사들에게도, AI를 사용하는 모든 사람들에게도 좋은 일이다.

별개의 이야기지만, 한 가지 더 기대되는 것이 있다. 과거 글에서 주요 인프라의 공급을 늘려 비용을 낮추고, 그 공급 확장을 젊은 세대가 참여할 수 있는 투자 기회로 재설계해야 한다고 쓴 적이 있다. Ornn과 같은 인프라가 성숙하면, 바로 그런 미래가 가능해진다. 물론 데이터센터 REITs나 인프라 펀드는 이미 존재하지만, 이는 부동산이나 기업 가치에 대한 간접 노출이다. GPU 가격을 추종하는 ETF, 데이터센터 현금흐름에 연동된 수익 상품, 토큰화된 연산 익스포저 같은 것들은 연산 가격 자체에 대한 순수한 노출을 제공한다. 당분간은 기관들이 주요 고객이겠지만, 21세기 가장 중요한 원자재에 누구나 베팅할 수 있는 날이 온다면, 그것도 꽤 흥미로운 세상이 아닐까.