“우리는 정말 진지하게 AI가 모든 인간을 죽일 수도 있다고 믿습니다. 개인적으로 저는 향후 10년 안에 그런 일이 일어날 가능성이 10%를 넘는다고 생각합니다.”
AI로 인한 인류 멸망. 공상과학소설에서나 나올 법한 이야기다.
하지만 이 말을 한 사람은 AI 최전선에서 일하고 있는 앤트로픽(Anthropic)의 AI 정렬 연구 책임자 에반 헤빙거(Evan Hubinger)다. 물론 앞서 말한 10%라는 숫자는 과학적으로 합의된 확률이 아니라 한 연구자의 판단이다.
물론 반대의 목소리도 있다. AI의 위험이 과장됐다는 주장도 있고, 이러한 위험론과 규제 요구가 결과적으로 기존 대형 AI 기업에 유리한 진입장벽을 만들 수 있다는 비판도 있다.
어느 쪽이 맞을지는 아직 모른다. 다만 한쪽에서는 이미 AI의 10년 후를 내다보며 인류의 멸망까지 걱정하고 있다. 그런데 다른 한쪽에는 무시무시한 AI의 변화 속도 속에서 무엇을 해야 할지조차 모르는 개인이 있다.
과연 우리는 무엇을 해야 할까?
AI가 공부할 수 있는 ‘나’를 만든다
AI를 전혀 사용하지 못하는 분들을 대상으로 강의도 하고, AI 최전선에 있는 개발자들의 세미나에도 정기적으로 참여하며 양쪽의 세계를 1년여간 지켜봤다. 그러면서 하나의 결론에 다다랐다.
지금 개인이 해야 할 일은 분명히 있다. 바로 ‘나만의 온톨로지’를 구축하는 것이다.
“온톨로지(Ontology)”
어려운 단어가 나와서 뒤로가기를 누르려는 분들 잠시 멈추어 주시길 간곡히 부탁드린다. 최대한 쉽게 설명할 테니 말이다.
온톨로지라는 말을 들어본 사람이라면 아마 크게 두 영역에서 접했을 것이다. 철학을 공부하다가 봤거나, ‘팔란티어’라는 회사에 투자하면서 봤거나.
철학에서는 주로 ‘존재론’이라고 번역한다. 반면 데이터와 AI 분야에서는 어떤 세계에 존재하는 대상과 그것의 특징, 관계 등을 구조적으로 정의하는 방식으로 사용한다. 두 개념이 완전히 같은 것은 아니다. 다만 공통점을 아주 거칠게 뽑아보자면 이렇다.
‘무엇이 존재하고, 그것들은 어떤 특징을 가지며, 서로 어떻게 연결되어 있는지를 파악하는 것.’
학교를 온톨로지로 만들어보자
온톨로지를 핵심 개념으로 사용하는 팔란티어를 살펴보자. 팔란티어는 기업의 현실을 객체(Object), 속성(Property), 연결(Link), 행동(Action) 등으로 표현한다. 단순히 데이터를 모아놓는 것이 아니라 회사라는 현실 세계가 어떻게 구성되고 움직이는지를 데이터와 연결하는 것이다.
아직까진 어렵다. 어려우니 우리에게 익숙한 학교를 예로 들어보자.
학생, 교수, 수업, 강의실이 있다. 이것들은 대상(Object)이다.
학생에게는 이름, 학년, 전공이 있다. 수업에는 과목명과 시간이 있다. 이것들은 속성(Property)이다.
학생은 수업을 듣고, 교수는 수업을 가르친다. 수업은 특정 강의실에서 열린다. 이것이 관계(Link)다.
그리고 학생은 수강신청을 하고, 교수는 성적을 입력하고, 학교는 강의실을 변경한다. 이것이 행동(Action)이다.
살펴보니 그리 어려운 것은 아니지 않은가? 이렇게 나누고 연결하고 나면 막연했던 ‘학교’라는 것이 하나의 구조로 보이기 시작한다.
그렇다면 이걸 나에게 적용하면 어떻게 될까?
당신의 20년 경력은 어디에 저장되어 있나
예를 들어 20년 동안 마케팅을 한 사람이 있다고 해보자. 이 사람은 많은 것을 안다. 어떤 광고가 실패하는지 안다. 어떤 고객이 실제로 구매하는지 안다. 좋은 브랜드와 나쁜 브랜드의 차이도 어느 정도 감으로 안다. 가격을 언제 올려야 하는지, 고객이 하는 말 가운데 어떤 것을 믿고 어떤 것을 믿지 않아야 하는지도 경험적으로 안다.
그런데 문제가 하나 있다. 그 지식이 대부분 머릿속에 있다. AI에게 “우리 회사 마케팅 전략을 만들어줘”라고 말하는 것과 내가 20년 동안 경험한 사례, 성공과 실패, 판단 기준, 원칙과 예외까지 알려준 뒤 같은 질문을 하는 것은 전혀 다른 일이다. 이 지식도 앞서 학교를 나눠봤던 것처럼 바라볼 수 있다.
고객, 브랜드, 상품, 광고가 대상이라면 가격, 고객의 성향, 상품의 특징은 속성이 된다. 어떤 고객이 어떤 상품을 구매했는지, 어떤 광고가 어떤 고객에게 반응을 얻었는지는 관계가 된다. 가격을 올리고, 광고 메시지를 바꾸고, 상품 구성을 수정하는 것은 행동이다.
여기에 내가 20년 동안 경험하며 쌓은 판단 기준까지 붙여보자. ‘이런 고객에게는 이런 메시지가 통한다’, ‘이런 상황에서 가격을 내리면 오히려 브랜드에 좋지 않다’, ‘이 지표가 이렇게 움직이면 광고를 중단한다’ 같은 것들이다.
이렇게 정리하기 시작하면 단순한 기록이 아니라 내가 세상을 어떻게 바라보고 판단하는지에 대한 구조가 만들어진다.
물론 개인이 팔란티어처럼 기술적인 온톨로지를 직접 설계하자는 이야기는 아니다. 그 원리를 빌려 내가 가진 지식과 경험을 구조화해보자는 것이다.
앞으로 AI 기술 자체는 점점 사용하기 쉬워질 것이다. 이미 몇 년 전에는 코딩을 배워야 만들 수 있었던 것을 지금은 말로 만들고 있다. 프롬프트를 잘 쓰는 능력조차 지금보다 덜 중요해질 가능성이 있다. 그렇다면 그다음에는 무엇이 중요해질까?
AI를 얼마나 잘 사용하느냐보다 AI에게 무엇을 줄 수 있느냐가 중요해질 수 있다.
내가 무엇을 알고 있는지.
어떤 경험을 했는지.
무엇을 중요하게 생각하는지.
어떤 상황에서 어떤 판단을 내리는지.
언제 그 원칙에 예외를 두는지.
이것들을 AI가 이해할 수 있도록 정리해 놓는 것이다. AI를 공부하는 것만큼 중요한 일이 생기는 셈이다. AI가 공부할 수 있는 ‘나’를 만드는 것이다.
정약용의 공부법에서 힌트를 얻었다
이 생각을 하다 보니 떠오른 인물이 있다. 다산 정약용이다.
정약용은 조선시대 가장 방대한 저술을 남긴 학자 중 한 명이다. 유배 기간을 포함한 평생의 연구를 통해 500여 권에 이르는 저술을 남긴 것으로 전해진다.
물론 정약용이 ‘온톨로지’를 만들었다는 이야기는 아니다. 다만 그의 공부와 지식 생산 방식을 지금의 관점으로 바라보면 흥미로운 힌트를 발견할 수 있다.
그 가운데 내가 특히 좋아하고 실천하는 것이 ‘초서(抄書)’다. 여기서 초서는 글씨체를 말하는 것이 아니라, 책을 읽으면서 자신에게 필요한 내용을 골라 뽑아 기록하는 방식이다. 책을 처음부터 끝까지 그대로 옮겨 적는 것이 아니다. 나라는 필터를 통해 무엇을 버리고 무엇을 취할지를 결정한다.
그의 공부와 저술 방식을 지금의 언어로 다시 풀어보면 이렇다. 독서를 통해 인풋을 얻는다. 그 가운데 중요한 것을 뽑는다. 거기에 자신의 생각을 더한다. 그리고 그렇게 축적한 지식을 자신의 문제의식에 따라 다시 엮어 저술로 만든다.
나는 이 과정이 지금 개인에게 매우 중요하다고 생각한다.
지금부터 해야 할 세 가지
거창한 시스템부터 만들 필요는 없다. 세 가지만 하면 된다.
첫째, 기록한다. 직접 경험한 것이든 간접적으로 배운 것이든 남긴다. 내가 일을 하면서 발견한 것, 실패하면서 배운 것, 책에서 읽은 것, 다른 사람의 말을 듣고 떠오른 생각을 기록한다.
둘째, 판단한다. 그대로 저장하는 것으로 끝내지 않는다. 이것이 왜 중요한지, 나는 어떻게 생각하는지, 언제 맞고 언제 틀리는지 적는다. 정보에 ‘나’를 넣는 것이다.
셋째, 연결한다. 이게 가장 중요하다. 각각의 기록을 따로 쌓아두는 것이 아니라 연결한다. 원인과 결과를 연결하고, 문제와 해결책을 연결하고, 원칙과 예외를 연결한다. 그러다 보면 어느 순간 흩어져 있던 정보가 하나의 지식 체계가 된다.
나는 이것을 ‘개인의 지식 온톨로지’라고 부르고 싶다.
기록이 많다고 전문성이 생기는 것은 아니다. 연결된 기록이 전문성이 된다. 그리고 그렇게 만들어진 지식 체계를 AI가 이해할 수 있게 된다면 꽤 재미있는 일이 벌어질 수 있다. AI가 내가 어떤 일을 해왔는지 알고, 어떤 기준으로 판단하는지 알고, 무엇을 성공했고 무엇을 실패했는지 알게 되는 것이다.
그때 AI는 단순히 질문에 답해주는 도구에서 벗어난다. 수십 년 동안 쌓아온 나의 지식과 경험 위에서 함께 생각하는 파트너가 될 수 있다.
어쩌면 수백 배 나아진 ‘나’로 살아가게 해주는 존재가 될지도 모른다.
Oh! AI 시대에 먼저 만들어야 할 것
새로운 AI가 등장할 때마다 조급하게 쫓아다닐 필요는 없다. 오늘은 챗GPT를 배우고, 내일은 클로드를 배우고, 모레는 제미나이를 배우는 것보다 더 오래 남는 일이 있다.
나를 기록하는 것.
나의 생각을 더하는 것.
그리고 그것들을 연결하는 것이다.
AI 시대에는 AI를 공부하는 것만큼 AI가 공부할 수 있는 ‘나’를 만드는 일이 중요해질 것이다. AI가 아무리 똑똑해져도 내가 평생 살아온 경험까지 저절로 알 수는 없다. 그것을 알려줘야 한다.
그래서 AI 시대에 가장 중요한 데이터는 어쩌면 인터넷 어딘가에 있는 데이터가 아닐지도 모른다. 지금까지 살아오면서 쌓아온 ‘나’라는 데이터다.
누군가의 시행착오가 당신에게 Oh! 할 인사이트와 움직일 용기를 건넵니다. 오늘부터 당신의 경험 하나를 기록한다면, 무엇부터 기록하시겠습니까? 댓글로 알려주세요!
의견을 남겨주세요