AI에만 의존하면 평범한 글과 생각만 얻게 됩니다 (feat. 코넬대 AI 역사 교수님)

코넬대학교에서 AI 역사를 가르치는 한국인 교수님이 있습니다. 작년에는 AI 스타트업을 창업해서 열심히 키워가고 있었고요. Huggingface에서 AI 리서처로 일한 뒤, Gena를 창업한 은서님을 만나 AI의 역사에 대한 이야기를 나누었어요.

은서님 개인 홈페이지 프로필.

🔥 Highlights

"LLM은 본질적으로 통계적 모델이기 때문에 독특한 의견을 내지 않고 평균적인 값을 내 놓아요. 그런데 진정으로 뛰어난 글은 평균적이지 않은 특별한 관점을 제시하는 글이잖아요. 생성 AI에만 의존하면 평범한 글과 생각만 얻게 돼요."

"AI의 도움으로 0에서 평균으로 가는 과정은 훨씬 빨라졌지만, 평균을 넘어서는 것은 여전히 기존과 같은 창의적 도전이 필요한 것 같아요."

"종교나 믿음은 결국 스토리를 믿는 거잖아요. "나는 이렇게 될 것이다", "내가 죽으면 여기로 갈 것이다"와 같은 스토리 인거죠."

🕵🏼‍♀️ 창업가 인터뷰

Q: 시험 볼 때 GPT를 사용하도록 허용하면 어떤 일이 벌어지나요?

중간고사에서 학생들에게 AI를 자유롭게 사용해도 된다고 했어요. 일종의 실험이었어요. 그런데 결과적으로 전반적인 퀄리티가 크게 향상되었다고 느끼지는 못했어요. 물론 언어적 측면에서는 개선이 있었을 거예요. 특히 영어가 어려운 국제 학생들에게는요. 그런데 AI를 사용했다고 훨씬 훌륭한 논증을 한 사례는 없었던 것 같아요.

AI 역사 수업의 강의 계획표

수업 과제

Q: 왜 그랬을까요?

LLM은 본질적으로 통계적 모델이기 때문에 독특한 의견을 내지 않고 평균적인 값을 내 놓아요. 예를 들어, '고양이를 그려줘'라고 하면 평균적인 고양이를 그리고, '빨간 고양이를 그려줘'라고 해도 평균적인 빨간 고양이를 그리거든요. 언어도 마찬가지예요. 모델은 틀릴 확률을 줄이기 위해 평균적인 표현을 선호하는데, 진정으로 뛰어난 글은 평균적이지 않은 특별한 관점을 제시하는 글이잖아요.

물론 좋은 프롬프팅과 질문을 통해 더 창의적인 결과물을 얻을 수 있지만, 기본적으로 생성 AI에만 의존하면 평범한 글과 생각만 얻게 돼요. AI를 잘 활용하려면 좋은 질문을 할 수 있어야 해요. 결국 비판적 사고를 필요로 하는거죠.

Q: 평균적인 대답만 내놓는다는 설명이 와 닿네요.

평균이 나쁜 건 아니에요. 여러 나라 미인의 얼굴을 합쳐 평균을 내면 더 아름다운 얼굴이 된다는 연구가 있잖아요. 음식도 너무 짜지도 달지도 않은 평균적인 맛이 가장 대중적으로 선호되고요. 평균은 그 자체로 훌륭할 수 있어요.

AI의 도움으로 0에서 평균으로 가는 과정은 훨씬 빨라졌지만, 평균을 넘어서는 것은 여전히 기존과 같은 창의적 도전이 필요한 것 같아요.

Q: 왜 역사를 공부하시나요?

인류는 수백 년간 크게 변하지 않은 것 같아요. 과학의 발명과 발전 과정을 보면 지금의 트렌드와 놀라울 정도로 비슷한 패턴이 많거든요. 현실에서 일어나는 일들이 역사적 패턴과 연결될 때 재밌어요.

Q: 어떤 패턴이 있어요?

AI의 역사만 살펴 봐도 반복적인 패턴이 정말 많아요. 최근 실리콘밸리에서 종교적 신념이 돌아왔다는 이야기가 바이럴이 되었는데요.

실리콘밸리에서 기독교가 다시 부흥하고 있다는 기사.

기사 내용 요약. 

새로운 일이 아니에요. 제 수업은 16세기 프로테스탄트 개혁에서 시작해요. AI가 상당히 종교적인 철학에서 출발했거든요. 현재 많은 AI 스타트업들도 어떤 종교적 믿음으로 시작된 경우가 많은 것 같아요.

Y Combinator 회장 Garry Tan도 공개적으로 기독교인 이라는 걸 밝혔으며, 오프라인 행사도 주최하고 있다.

Q: 그 시작이 되었던 종교적 믿음이 무엇이었는지 더 설명해주실 수 있을까요?

16세기 프로테스탄트 종교 개혁은 단순한 정치적 분열을 넘어 철학적 전환점이었어요. 교황의 권위에 도전하며 "오직 신만이 진정한 주체성을 갖는다"는 주장이 시작되었고요. 철학자들과 과학자들은 "신이 만든 자연물은 신만이 창조할 수 있다"라는 주장을 했고, 이게 과학적 혁명으로 이어졌어요. 같은 시기에 시계가 발명 되었는데요. 수학적 기술과 결합되면서 "자연을 모방하는 자동화 시스템"에 대한 과학이 이렇게 시작된거죠.

이 시기에 등장한 중요한 논쟁 중 하나는 'agency'(주체성)에 관한 것이었어요. 세상의 생물체들이 주체성을 가지는지에 대한 논쟁을 하기 시작한 거예요. 데카르트나 뉴턴 같은 학자들은 모든 것을 물리학적으로 설명 가능하다고 주장했어요. 해와 달이 움직이는 이유를 예전에는 그들의 자체적인 의지로 설명했다면, 이제는 물리적 현상으로 설명하기 시작한 거죠. 흥미롭게도 지금 ChatGPT가 주체성을 가졌는지에 대한 논쟁도 이와 유사해요. 몇백 년 동안 우리는 같은 질문을 계속 반복하고 있는 셈인거죠.

Q: 종교를 믿는 사람이 줄어들고 있는데, 이것과 '의미의 부재'가 관련 있다고 보시나요? 앞으로 새로운 종교가 생겨날까요?

유발 하라리의 "넥서스"라는 책에 이와 관련된 흥미로운 장이 있어요. 인간이 다른 영장류보다 큰 과학적 혁명을 이룰 수 있었던 이유는 조직화 능력 때문이라고요. 하라리에 따르면, 이런 조직화를 가능하게 하는 것이 '스토리'예요. 종교나 믿음은 결국 스토리를 믿는 거잖아요. "나는 이렇게 될 것이다", "내가 죽으면 여기로 갈 것이다"와 같은 스토리 인거죠. 이런 스토리가 사람들에게 안정감을 주고, 이를 통해 우리는 조직화되고 프로젝트를 완성할 수 있는 것 같아요. 실리콘밸리에서는 AI나 과학 발전을 믿는 것이 새로운 스토리가 될 수 있고요. "나는 AGI를 믿는다"는 말은 그들이 믿는 스토리의 일부인 거죠.

Q: 어떤 스토리를 믿고 계시나요?

저도 AI가 제 종교라고 생각했었는데요, AI 역사를 연구하면서 깨달은 건 AI는 더 큰 그림의 일부일 뿐이라는 점이에요. 인간은 본질적으로 모든 것을 통제하고 싶어하는 것 같아요. 과거에는 다른 인간을 통제하기 위해 노예제도가 있었고, 이제는 추론과 논리를 수행할 수 있는 AI나 로봇을 만들고자 하죠. 역사적으로 통제 방식이 바뀌었을 뿐, 기술적 혁명이 뒷받침되면서 현재는 AI에 집중하고 있는 것 같아요.

Gena 투자 유치 기사.

Q: Gena를 창업하게 된 계기가 궁금해요.

대학교 다닐 때부터 창업을 너무 하고 싶었어요. 주변에 창업한 친구들이 많았고, 그중 일부는 성공하기도 했고요. 허깅페이스에서 일하며 스타트업 경험도 쌓았고, 항상 직접 창업을 꿈꿔왔던 것 같아요.

Q: 사업 아이템은 어떻게 정하셨어요?

처음에는 고객 상담 플랫폼으로 시작했었는데, 미국 시장에서 경쟁이 너무 심했어요. 하다 보니까 고객 상담이 결국 데이터베이스를 조회하는 일이라는 점을 깨달았어요. "취소해주세요", "언제 오나요"와 같은 질문들은 모두 데이터베이스 조회가 필요하거든요.

그래서 더 넓은 범위의 데이터베이스 관련 서비스로 확장했어요. Text-To-SQL 기술 개발에 집중해서 국제 대회에도 상위 랭크 되었어요. 곧 발표될 예정인데, 저희 빼고는 모두 대기업이에요.

AI를 사용해 텍스트로 SQL을 만드는 기술을 연구했다.

Q: LLM 회사 대신 다른 방향을 택하신 이유가 있나요?

AI 연구는 잘하지만, Mistral 같은 LLM 회사는 그다지 매력적이지 않았어요. 결국 돈 싸움이라고 봤거든요. 채용도 돈이고, 모델 훈련도 돈이고요. AI를 활용할 수 있는 영역을 살피다가 커머스가 눈에 들어 왔어요. 그래서 커머스 인터그레이션을 메인 제품으로 삼은 거예요.

Q: 왜 커머스 였나요?

2010년대는 아마존처럼 중앙화된 이커머스 플랫폼의 시대였어요. 하지만 2020년대는 분산형 이커머스로 전환되는 시기라고 생각해요.

미국에서는 개인 웹사이트로 제품을 판매하는 사람들이 정말 많아요. Shopify, BigCommerce, Wix, Square 등을 써서 물건을 파는 사람들이요. 이런 회사들이 앞으로 아마존과 같은 규모로 성장할 것 같아요.

이런 플랫폼들이 성장하는 이유는 기술에 익숙하지 않은 사람들도 쉽게 웹사이트를 만들 수 있게 해주기 때문이에요. 프론트엔드 도구들은 발전이 빠른데, 백엔드 인프라는 부족한 상황이에요. 그래서 저희는 커머스 플랫폼들의 백엔드 데이터베이스를 대체하는 서비스를 개발하고 있어요.

Q: 개발자가 아닌 사람들도 백엔드를 커스터 마이징 할 수 있는 거죠?

맞아요. 데이터베이스를 모르는 사람도 자연어로 데이터베이스와 상호작용할 수 있게 하는 것이 목표예요. Square나 Shopify 같은 프론트엔드 솔루션과 연결해서요.

Q: 현재 팀은 어떻게 구성되어 있나요?

현재 6명으로 구성되어 있는데요, 모두 엔지니어예요. AI 엔지니어와 개발 엔지니어로 구성되어 있고, 저도 엔지니어 출신이고요. 특이점은 다양한 국적의 구성원들이 있다는 점이에요. 미국인, 프랑스인 등이 있고, 영어로 의사소통하며 100% 원격으로 운영하고 있어요. 정말 훌륭한 인재들이 많으니까, 많이 지원해주시면 좋겠어요.

Gena는 현재 채용중이라고 해요!

특히 프론트엔드 포지션을 열심히 찾고 있다고 합니다. 관심있는 분들은 은서님에게 연락해 보시면 좋을 것 같아요.

링크드인 링크