앤트로픽은 틀렸고 메타는 맞다?

Divided by Zero에 오신 걸 환영합니다. IT테크, 스타트업 그리고 자본시장에 대한 2차적 사고를 공유합니다.

다리오 아모데이가 AI 속도를 늦추자고 하자 업계 상당수가 그를 거짓말쟁이 취급했습니다. 며칠 뒤 마크 저커버그가 AI 규제 기구 설립을 막는 데 힘을 보탰고, 같은 사람들이 박수를 보냈습니다.

두 사람의 동기를 같은 잣대로 의심한 사람은 별로 없더군요.

핀라

지난 9월 16일 월스트리트저널이 백악관 안에서 벌어진 AI 규제 논쟁을 보도했습니다. 무산된 안건이 하나 있었는데, 미국 증권업계를 감독하는 핀라(FINRA)를 본뜬 AI 감독 기구였습니다.

제안자는 구글 수석과학자이자 딥마인드 회장인 데미스 하사비스(Demis Hassabis)입니다. 7월에 에세이로 내놓고 여름 내내 백악관 관계자들에게 설명했죠.

핀라는 업계가 직접 만든 자율규제기구입니다. 3,000곳이 넘는 회원사가 돈을 내서 굴리고, 이사회에 회원사 대표가 들어가며, SEC에 보고합니다. AI 버전도 같은 구조였습니다. 랩들이 비용을 대고 공통 테스트 기준을 만든 뒤, 배포 전에 모델을 그 기준으로 확인하는 겁니다. 사이버와 생물학, 기만 능력을 전문가들이 들여다보는 방식입니다.

8월 중순 백악관 고위 관계자들이 트럼프와 메타, 오픈AI, 앤트로픽에 각각 이 안을 미리 설명했습니다. 그리고 지난달 저커버그와 일론 머스크, 젠슨 황이 각자 따로 트럼프와 통화했고, 트럼프는 이 안을 진행하지 않았습니다. 일부 백악관 관계자들이 불만을 표했다고 합니다.

저커버그 통화는 8월 17일 주간이었습니다. 백악관 고위 관계자는 저커버그가 반대 의사를 밝혔다고 했고, 다른 관계자는 저커버그가 입장을 바꾸라고 요구하진 않았고 다만 기구에 임명될 사람들이 트럼프의 가벼운 규제 기조를 반영해야 한다고 말했다고 전했습니다.

먼저 전화를 건 쪽은 트럼프였습니다.

다리오 아모데이는 거짓말쟁이

규제에 반대하는 쪽이 아모데이의 입장을 해석하는 방식은 대체로 셋 중 하나입니다.

하나는 규제 포획입니다. 실제로 AI가 걱정되는 게 아니라 신규 진입자를 막으려고 자기 산업을 규제해달라는 거라는 거죠.

다른 하나는 마케팅입니다. 자기 제품이 실제보다 더 유능하고 더 위험하다고 주장해 수요를 키운다는 해석입니다.

나머지 하나가 재밌는데, AI 랩들 단위 경제성이 워낙 나빠서 학습을 멈추는 게 회계상 필요하다는 겁니다.

어느 쪽을 고르든 결론은 같습니다. 아모데이가 거짓말을 하고 있다는 거죠.

저커버그

저커버그는 랩들이 자체 안전 점검을 맡아야 한다고 X에 썼습니다. 모델이 피해를 내면 랩이 상당한 법적 책임을 지게 되니 예방할 강한 유인이 이미 있다는 논리입니다. 기욤 베르동과 닉 카터, 빌 애크먼 같은 이름들이 줄줄이 지지를 보냈습니다.

그럼 저커버그 쪽 인센티브는 어떨까요? 같은 잣대를 들이대보죠.

메타는 2026년 자본 지출 가이던스로 1,300억~1,450억 달러를 제시했습니다. 2분기 잉여현금흐름은 1년 전 85억 달러에서 7억 8,400만 달러로 주저앉았고, 주당순이익이 시장 예상을 밑돌면서 주가가 8% 빠졌습니다.

이 상태에서 프론티어 속도 조절이 표준이 되면 어떻게 될까요? 1,450억 달러짜리 지출 계획의 회수 시점이 밀리게 됩니다. 주주들에게 설명하기도 더 어려워집니다.

거기다 메타 전략은 오픈웨이트입니다. 가중치를 공개해 뿌리는 회사한테 배포 전 사전 심사 제도는 구조적으로 훨씬 불리합니다. 모델을 내놓기 전에 줄을 서야 하는데, 오픈웨이트는 한 번 풀면 회수가 안 되니 심사가 더 깐깐해질 수밖에 없죠.

그리고 저커버그는 프론티어 선두가 아닙니다. 추격자 입장에서 선두 랩들이 미는 안에 반대하는 건 그 자체로 좋은 포지셔닝입니다.

얼마 전 저커버그가 월스트리트저널에 슈퍼인텔리전스를 소수 기관이 독점하면 안 된다는 기고문을 냈는데, 그 24시간 뒤에 메타가 자본 지출 가이던스를 올렸습니다. 철학과 사업 계획이 같은 주에 발표된 셈이죠.

집중화

물론 핀라식 기구에 반대하는 논리 중에 자기 이익과 무관하게 타당한 것도 있습니다.

자발적 심사가 의무 심사로 바뀌는 일이 흔하다는 지적이 그 중 하나입니다. 그리고 심사 대기열에 걸린 모델은 돈을 못 법니다.

핀라 본체를 보면 더 확실해집니다. 2007년 출범 후 18년이 지난 지금 예산이 15억 달러에 직원이 4,382명입니다. 그리고 핀라 스스로 규제 비용을 증권업계 집중화의 요인 중 하나로 꼽고 있습니다. 자율규제기구가 오히려 대형사만 남기는 결과를 낳았다는 얘기죠.

저커버그와 머스크, 젠슨황이 공개적으로 내세운 반대 이유도 이겁니다. 이런 기구가 오픈AI와 앤트로픽, 딥마인드 세 곳에 권력을 더 몰아준다는 것.

어차피 다 돈벌기위해 하는 것

아모데이 편을 들 수도 있고 저커버그 편을 들 수도 있습니다.

다만 한쪽 동기만 해부하고 다른 쪽은 그냥 믿는 건 이상합니다. 규제를 요구하는 사람에게 이해관계가 있다면, 규제를 막는 사람에게도 있습니다. 1,450억 달러를 쓰기로 한 회사의 CEO가 그 지출을 늦출 수 있는 제도에 반대하는 건 최소한 아모데이가 자기 산업 규제를 요구하는 것만큼은 설명이 필요한 행동이죠.

둘 다 같은 정도로 의심하는 게 맞아 보입니다.