인공지능

Anthropic CEO 다리오 아모데이 인터뷰

AI는 인간과 다르게 생각합니다. 그래서 안전한 AI가 필요한 것입니다.

2024.10.25 | 조회 579 |
0
|
주간 Tech Review의 프로필 이미지

주간 Tech Review

IT 업계의 정보와 인사이트를 공유하고 있습니다.

최근 Computer Use라는 신기능을 출시해서 세계를 놀라게 한 Anthropic의 CEO, 다리오 아모데이가 유튜브 채널 ECON 102과 진행하여 2024년 8월 29일 공개된 인터뷰 내용을 리뷰해봤습니다.

Anthropic의 경쟁력

  • 2024년 7월 기준, Anthropic의 Claude 3.5 Sonnet은 OpenAI GPT-4o를 능가하는 성능을 보임
  • 매출 기준 OpenAI를 이은 세계 2위 AI 기업
  • Constitutional AI로 표현되는 "안전한 AI" 정책이 강력하게 반영
  • 현시점 기준 유니콘 스타트업 (기업가치 40B이상)
  • Prompt Generator, Computer Use 등 신기능의 지속적인 출시
  • 이미지 인식 등 멀티 모달 지원
벤치마크 기준 Claude 3.5 Sonnet과 GPT-4o, Gemini 1.0 Ultra 비교
벤치마크 기준 Claude 3.5 Sonnet과 GPT-4o, Gemini 1.0 Ultra 비교

Anthropic을 시작하게 된 과정

  • 창업자 다리오 아모데이는 석사과정에서 신경과학을 전공
  • 스탠포드에서 단백질 유전 정보학 박사를 취득
  • 앤드류 응 교수와 중국 기업 바이두에서 1년 근무
  • 이후 구글에 합류하여 1년간 근무
  • 2015년부터 OpenAI에 합류하여 RLHF 기법을 공동 발명
  • GPT 모델 개발에도 기여
  • 2020년 여동생인 다니엘라와 함께 Anthropic 창업

AI 기업의 독보적 경쟁력

  • 과점 시장: 많은 컴퓨팅과 데이터를 넣으면 성능이 향상되는 추세가 지속된다는 전제 하에서, 결국 시장에 남는 기업은 4-5개 정도로 압축될 가능성이 높아 이들 기업의 과점 구도가 형성될 것
  • 추론 비용: 오픈소스 모델이 제공된다고 하더라도, 이 모델을 사용하려면 고사양 장비가 필요함. 결국 이런 장비를 효율적으로 다룰 수 있는 기업이 경쟁력이 있을 것
  • 모델 전문화: 코딩, 창작 등 전문 영역에 특화된 모델들을 가진 기업들이 각자가 잘하는 분야에서 두각을 나타낼 것
  • 생태계: 모델을 사용하기 위한 제반 기능들로 생태계가 구성되어 한번 들어오면 다시 나가기가 어려운 구조를 형성
  • 빠른 혁신: AI기업이 스스로 만든 AI로 더 효율적으로 일하면서 점점 혁신의 속도가 빨라지는 플라이휠 효과가 일어남. 후발주자가 따라잡는 것을 어렵게 만듦.

AI와 국가 안보

  • 현 시점에서 AI 그 자체로는 큰 위협이 되지는 않지만 에이전트와 시스템이 자율적으로 작동하는 시점부터는 조심해야 할 것
  • 그 시점은 투자가 확대되면서 생각보다 빠르게 일어날 수 있음. 그래서 올바른 체크포인트를 설정하고, 올바른 위험을 측정하고, 너무 빨리 진행하지 않도록 해야 함.
  • 인공지능은 국제 무대에서 힘의 균형을 단숨에 바꿀 수 있을 만큼 강력한 힘
  • 이런 힘을 독재 국가가 쥐지 않도록 예방하는 것이 필요
  • 미국이 칩과 반도체 장비에 대해 취한 조치는 효과적인 전략이었음
  • 기업간의 경쟁은 사법영역에서 조정이 가능하지만 국제 사회에서는 힘의 논리가 지배함
  • 일종의 군축 협약같은 노력이 있으면 좋겠지만 이를 강제할 수 있는 메커니즘이 없음
  • 그럼에도 불구하고 시도는 계속 해보는 게 좋다고 생각

AI가 인간을 대체할 수 있을까?

  • 아직 업계는 모델을 사용하는 가장 좋아하는 방법이 무엇인지 파악하지 못함
  • 모델이 95% 정확하다고 하더라도 금융이나 법률 문서를 다루는 일에서 5%의 오류가 발생한다면 대체가 가능할지 의문
  • 일하는 방식은 확실히 달라질 것 같긴 함.
  • Claude의 아티팩트 기능처럼 AI가 사용자를 도와 코드를 작성하면 생산성이 높아짐
  • 대형 모델이 소형 모델을 조율하며 마치 꿀벌처럼 하나의 군집처럼 서로 업무를 나누고 협력하며 일을 처리하는 경우가 목격되고 있음
  • 이렇게 생산성이 높아지면 사람이 해야 할 일의 양은 점점 줄어들 것

AI의 발전은 앞으로 계속될 것인가?

  • 트랜스포머의 모델을 많은 양의 데이터와 컴퓨팅 파워로 학습시키면 놀라운 결과가 나온다는 "확장의 법칙"이 작동하고 있는 것은 사실
  • 그러나 이것은 경험적 관측이지 입증된 이론은 아님
  • 그저 지난 10년간 이 추세가 잘 작동해왔을 뿐, 언제든 이 추세는 멈출 수 있음
  • 인간의 뇌도 어떻게 동작하는지 모르는데 잘 모르는 것을 인공으로 재현하는 게 불가능한 것 아니냐는 시각도 있음
  • Anthropic은 처음부터 모델의 내부를 들여다보려는 노력을 계속 해왔고 일정 정도 성과도 내왔음
  • AI가 인간과 같다고 보면 많은 오해가 생길 수 있음, 생각하는 방식이 다르다는 것을 인정하고 그럼에도 안전하고 유용하게 AI를 사용하기 위해서 모델에 균형잡힌 관점을 주자는 것이 Anthropic의 방향

정부의 역할

  • 경쟁의 규모가 너무 커지거나, 국가 안보에 미치는 영향히 심대해지는 어느 시점이 오면  정부가 개입해야할 시점이 올 수도 있음
  • 민간 기업 4, 5곳이 자율적으로 운영되면서 원하는 것을 무엇이든 할 수 있다면 그것은 바람직하지 않음
  • 스페이스X의 사례처럼 정부기관인 NASA와 민간기업 SpaceX가 협력하여 좋은 결과를 만들고 혁신도 가져오는 모델이 바람직
  • 국립 연구소가 혁신을 주도하는 것도 가능

리뷰

공교롭게 Anthropic CEO 다리오 아모데이의 인터뷰 영상을 정리하던 도중에 Anthropic Claude의 신기능 Computer Use가 출시되었네요. 데모 영상이긴 하지만 정말 놀라운 발전입니다.

OpenAI가 사용자 친화적이라면 Anthropic은 개발자 친화적이라는 느낌을 많이 받습니다. Anthropic에서 제공하는 Prompt Generator와 Prompt Library 같은 기능들과 유튜브 영상으로 제공되는 많은 튜토리얼들은 Claude를 더 잘 쓸 수 있는데 큰 도움이 되고 있습니다.

이는 실제 데이터로도 입증이 되는데요, 월 유료가입자수로 비교해볼 때 chatgpt.comclaude.ai의 격차는 상당하지만 개발자들이 사용하는 API 매출을 보면 Anthropic의 API 매출이 OpenAI의 60% 수준으로 실제 다른 앱들과 연동되서 사용되는 부분은 작지 않다고 할 수 있습니다.

첨부 이미지

또한 창업 초기부터 Constitutional AI라고 부르는 안전 제일 주의를 표방한 기업답게 모델의 내부 구조를 연구하며, 다양한 안전 장치를 만들어두는 측면에서도 상당히 앞서가는 기업이라고 할 수 있죠.

첨부 이미지

한편 인터뷰 내내 반복적으로 등장하는 단어가 눈에 띄었는데요. 그 단어는 바로 "확장의 법칙", 즉 Scaling Law입니다. 당장은 부족해보여도 더 많은 컴퓨팅과 데이터를 제공하면 모델의 성능이 나아진다는 경험적 관측입니다.

현재까지 너무 잘 동작하고 있고, 그 덕분에 많은 기업들이 Nvidia의 GPU를 구입하느라 어마어마한 돈을 쓰고 있죠. Nvidia는 그 덕분에 시총 3위를 넘어 Microsoft를 제치고 2위에 안착했습니다. 하지만 다리오는 이 패턴이 언제까지고 동작할거라고 생각하지는 않는 듯 합니다. 다만, 향후 몇년간은 이 트렌드가 지속된다고는 보고 있는 것 같고요.

세계 2위의 AI기업 Anthropic의 수장으로써 본인이 언급한 과점 기업 중 하나가 Anthropic이 될 것이라고 생각하면서도 그런 미래가 꼭 바람직하지만은 않다는 얘기에서 다소 복잡한 마음이 읽히기도 합니다.

제프리 힌튼 교수가 말했듯이 위대한 연구는 호기심에서 나옵니다. 그런데 그 호기심만 쫓아가면 돌이킬 수 없는 사고가 날 수도 있겠죠. 그런 차원에서 호기심도 쫓으면서 안전한 AI를 강조하는 기업이 하나 있다는 것은 다행일 수도 있겠습니다.

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

주간 Tech Review 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

© 2025 주간 Tech Review

IT 업계의 정보와 인사이트를 공유하고 있습니다.

메일리 로고

자주 묻는 질문 서비스 소개서 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so

메일리 사업자 정보

메일리 (대표자: 이한결) | 사업자번호: 717-47-00705 | 서울 서초구 강남대로53길 8, 8층 11-7호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스