💿EP.9 | 효과적 이타주의(Effective Altruism)

안녕하세요! 글감 저장소입니다:-)

구독자님은 평소에 AI에 관심이 많으신 편인가요?

저는 문과생이라,,, 평소 AI에 대해 정말 관심이 없었는데,,, 이제는 생각보다 저희 일상에 깊게 스며들어 있어서 관심을 가져야겠다는 생각이 들더라구요!

저는 현재 방송국 인턴을 하고 있는데, 저희 부서도 AI에 관심이 많은 곳이라 약 두 달 전에 AI 전공 박사님을 모셔서 AI에 대한 간략한 브리핑을 들을 기회가 있었습니다. 저는 Chat GPT를 일상 속에서 사용해본 적이 없지만, 유료 Chat GPT를 사용하면 일상 속에서 혹은 업무적으로 다양하게 활용할 수 있더라구요! 예를 들어서, 과거에는 직접 엑셀에 데이터를 입력하고 도표를 그려야 했다면 이제는 Chat GPT에게 데이터 값이 들어있는 파일을 넣어주고 적절한 명령어만 입력하면 알아서 도표를 그리고 분석까지 해준답니다.🫢 18학번인 저는 Chat GPT가 출시되기 전에 학교를 다녀서 과제에 활용해 본 적은 없는데 요즘은 교수님들이 학생들에게 Chat GPT를 활용하는 것을 과제로 내어주신다고 하네요. 세상이 정말 빠르게 변하고 있는 것 같아요...😅

저희 아빠는 가족 중에서 가장 얼리 어답터이신데요. 얼마 전에 방에서 나오니까 아빠가 엄마한테 Chat GPT로 영어 회화 공부를 하는 법을 알려주고 계시더라구요! 그런 기능이 있는지 몰랐는데... 정말 신기했던 점은 음성만으로 대화 주제와 언어를 골라서 회화를 할 수 있다는 점이었어요. 생각보다 음성을 잘 인식하고 대화도 정교하더라구요! 

그날 저녁을 먹으면서, 저희 부모님은 인공지능이 이렇게 빠르게 발달하는게 무섭다고 하시더라구요... 처음에는 들으면서 '엥? 그정도라고?' 싶었는데 아빠한테 샘 올트먼 사태에 대해 듣게 되면서 저도 생각이 바뀌게 되었어요. 그래서 제가 들었던 이야기를 글감 저장소에서 소개하면 좋을 것 같아서 오늘 가지고 왔습니다! 

EP.9 | 효과적 이타주의(Effective Altruism)

구독자님은 오픈 AI의 샘 올트먼 사태에 대해서 들어보신 적 있으신가요? 

오픈 AI는 인공지능을 개발하며 안전한 AGI(Artificial General Intelligence) 개발을 추구하는 비영리 단체로 대형 언어 모델(LLM)과 이를 기반으로 하는 Chat GPT 등의 소프트웨어를 제공합니다. 일론 머스크와 샘 울트먼이 폐쇄형 인공지능의 대표주자인 구글에 대항하기 위해 비영리로 단체를 시작한거라고 하는데요.

지난해 11월 17일, 오픈 AI 이사회는 일방적으로 샘 올트먼를 해고했습니다. 이때 샘 올트먼은 물론, 최대 주주인 마이크로소프트(MS)도 뉴스 1분 전에 이 사실을 알았다고 합니다. 그리고 이 사태는 샘 올트먼이 MS에 의해 해고된지 닷새만에 오픈 AI 최고경영자(CEO)로 화려하게 복귀하며 일단락되었죠.

그렇다면 오픈 AI 이사회는 왜 샘 올트먼을 해고했던 것일까요? 

오픈 AI는 AGI 개발을 앞당길 수 있다는 'Q*(큐스타)' 프로젝트를 개발 중에 있었는데요. 큐스타 프로젝트는 이번 사태를 통해 세상에 알려졌으며, 이전 AI 모델에서는 풀지 못했던 일부 수학 문제를 푸는 데 성공한 AI 모델입니다. 수학 문제를 푸는 게 별거 아닌 것 같아 보이지만, AI가 정답이 하나뿐인 수학 분야를 정복한다는 것은 인간 지능을 닮은 추론 능력을 갖추게 된다는 의미라고 합니다.😱

여기서 AGI(Artificial General Intelligence)란 인간 수준의 사고가 가능해 주제에 구애받지 않고 성공적으로 문제를 해결할 수 있는 인공지능을 일컫는데요. 그동안 오픈 AI는 AGI의 개발이 매우 복잡하고 어려운 과제이며, 현재 기술로는 인간과 같은 일반 지능을 가진 AI를 만드는 것이 가능할지, 가능하다면 언제쯤 가능할지에 대해서는 판단을 유보한 상태였습니다.

이때 문제가 되는 점은 이 프로젝트에서 AGI가 '발견'되었다는 점입니다. 사람이 조작을 가하지 않았는데 큐스타 프로젝트 도중 AGI가 발견되었다는 점에 대해 샘 올트먼은 아무 문제가 없다고 판단해 이 사실을 이사회에 통보하지 않았습니다. 이때 일부 직원들은 큐스타가 인류에게 어떤 결과를 초래할지 모르는 상황에서 이를 상업적으로 이용하려는 시도가 있어서는 안된다는 내용의 서한을 이사회에 제출했습니다. 그리고 이 서한을 통해 큐스타 프로젝트에 대해 알게 된 이사회는 효율적 이타주의의 입장에서 상식 밖의 수준으로 나아가는 대표는 자격이 없다고 판단하여 샘 울트먼을 해임한 것이죠. 

이 사태의 배경은 크게 보면 효과적 이타주의(Effective Altruism)와 효과적 가속주의(Effective Accelerationism)의 싸움으로 볼 수 있습니다. 현재 실리콘밸리에서는 AI 개발을 자유롭게 허용할 것이냐, 인류에게 해가 되지 않도록 규제할 것이냐를 놓고 논쟁이 벌어지고 있는데요. 최근 효과적 가속주의의를 지지하는 베프 제이조스 X(구 트위터) 계정에 올라온 사진이 논란이 되기도 했었죠.

이 사진에서 한국 쪽에는 'e/acc(효과적 가속주의)', 북한에는 'Decel(감속주의)'라고 적혀있는데요. AI 개발을 가속화하면 한국처럼 밝은 미래가, 이를 막으면 북한처럼 어두운 미래가 온다는 비유가 담긴 사진이었습니다. 이처럼 효과적 가속주의는 기술 발전은 무엇이든 세상에 이롭기 때문에 모든 규제와 안전 장치를 없애자 주장하며 AI의 해로움보다 이점이 훨씬 많다는 점을 강조합니다. 샘 올트먼은 물론 테슬라의 CEO인 일론 머스크 또한 e/acc 진영을 대표하는 인물들입니다.

이에 반해 효과적 이타주의자들은 AI의 규제를 앞서 생각하는 진영입니다. 인류에게 이익이 되도록 AI를 개발하는 효과적인 방법을 찾아야 하고, 그게 바로 21세기 이타주의라는 것이죠. 이들은 시간이 걸리더라도 안전하게 AI를 개발해야 하고, 이를 위한 기술 규제가 필요하다고 강조합니다. 그래서 'AI 감속주의'라고 불리기도 합니다. 작년 전세계 과학자 1000여명이 세계의 모든 AI 연구소에 "GPT4보다 더 강력한 AI 개발을 최소 6개월간 중단하라"고 촉구한 것과 작년 6월 유럽연합(EU)이 위험이 높은 AI 개발을 규제하는 법안을 마련한 것은 효과적 이타주의를 기반으로 하는 움직임이었습니다.

구독자님은 AI 개발에 대해 어떤 입장을 가지고 계신가요?

저는 평소에 '인간 수준의 사고가 가능한 인공 지능, 즉 AGI의 출현은 아직 멀었다'는 입장이었는데요. 샘 올트먼 사태를 통해 큐스타 프로젝트에 대해 알게 되면서 조금 두려운 감정이 들더라구요.😰 인간의 통제를 벗어나 예측할 수 없는 수준으로 인공 지능이 발달된다면 과연 인간에게 이롭기만 할까요? 지금까지 모든 기술의 발전은 인류에게 이로움 뿐만 아니라 해로움 또한 가지고 왔습니다. 그래서 저는 효과적 가속주의보다 효과적 이타주의에 조금 더 마음이 기울더라구요. 물론 효과적 이타주의에도 여러 문제들이 제기되고 있는 상황입니다. 그래서 효과적 이타주의의 부작용에 대해서는 다음 글감에서 소개해드리려고 해요!

그럼 조만간 2탄으로 돌아오겠습니다!

그때까지 안녕~👋🏻