19. 반려 로봇 (2)

2025년, AI라는 거대한 파도가 우리 일상을 휩쓸고 있습니다. 이 파도에 휩쓸리지 않고 오히려 멋지게 AI라는 파도를 타는 법을 함께 배워보면 어떨까요?

'해달리'는 바로 그 방법을 찾아 여러분과 공유하고자 탄생했습니다.AI 시대를 살아가는 우리들의 이야기, 그리고 AI를 적극적으로 활용하며 새로운 길을 개척해나가는 분들의 인사이트를 해달리가 전해드릴게요.

지난주 이야기: AI 반려로봇

지난주에는 AI 기술이 집약된 반려로봇들이 사람들과 정서적으로 교감하며 생활 속에서 도움을 주는 혁신적인 존재로 자리 잡아가고 있는 모습에 대해 이야기 하였습니다.

[Paro robot 이미지. AI 펫인 Paro와 교감하는 사람들]

영화  "Her"의 페르소나 AI처럼 인간과 대화하며 감정을 이해하는 기술은 LLM(대규모 언어 모델) 발전으로 현실 세계에 구현되었고, 치매 환자용 강아지 로봇 ‘제니’나 일본의 의료용 물개 로봇 ‘파로’와 같은 사례들은 로봇이 인간에게 심리적 안정을 제공하며 고령화 사회의 새로운 해결책으로 주목받고 있음을 보여주었습니다. 

[Midjourney로 만든 ai 이미지, 페르소나 AI와 교감하는 사람의 이미지]

이제 로봇은 단순히 명령에 따라 움직이는 기계가 아닌, 감정을 이해하고 인간과 교감하는 동반자로 자리 잡고 있습니다. 이러한 로봇들은 우리의 삶에 새로운 가능성을 열어주며, 더 나아가 인간과 AI가 공생하는 시대를 예고하고 있습니다.

이번주 이야기

하지만 이번 주는 조금 다른 방향으로 이야기를 나눠보려 합니다. 지금까지의 현실에서는 경험하지 않았고, 더 나아가 경험해보고 싶지 않은 미래에 대해 이야기할 차례입니다.

디스토피아적 미래는 우리의 상상 속에서조차 불편한 감정을 일으킵니다. 하지만 그러한 미래를 상상하는 일은 중요합니다.

그리고 영화는 이러한 상상력을 통해 우리가 피하고 싶은 미래를 시각적으로 풀어내고, 그로부터 교훈을 얻게 합니다.

이번 주에는 디스토피아적 미래를 예견했던 SF 영화들을 통해 로봇 기술들의 한계와 위험성을 함께 고민해 보겠습니다.

영화에서 예견한 미래

[스탠리 큐브릭 감독의 1968년 제작 SF영화 '2001 스페이스 오디세이(2001: A Space Odyssey)'에 나온 태블릿PC]

앞서 이야기 한 것처럼 우리가 디스토피아적 미래를 직접 상상하는 일은 쉽지 않습니다.

인간이 스스로의 미래를 부정적으로 바라보는 일은 본능적으로 회피하려는 경향이 있기 때문입니다.

그러나 영화는 그 어두운 미래를 생생히 그려내며 상상력을 자극하는 창구 역할을 해왔습니다.

어두운 미래를 주제로 한 영화들을 떠올려 보면, 오히려 우리가 선뜻 그려내지 못했던 기술의 위험성과 윤리적 갈등을 쉽게 상상할 수 있습니다.

기술이 인간 사회에 끼칠 영향과 통제되지 않은 발전의 결과를 경고하며, 상상 속에서나마 "우리가 피해야 할 미래"를 보여주는 것이죠.

이번 글에서는 디스토피아적 로봇을 주제로, 영화 속 상상력이 만들어낸 어두운 미래와 오늘날 현실에서 그와 닮아가고 있는 기술들에 대해 이야기해 보겠습니다.

과연, 영화 속에서 그려졌던 경고들은 지금 우리가 직면한 현실과 어떤 점에서 닮아 있을까요?

1. SF 영화 속 디스토피아적 로봇들

군사 로봇: 인간을 위협하는 자율 무기

영화 '터미네이터'의 T-800은 자율 무장 로봇이 인간을 지배하며 기계와 인간의 전쟁을 예견합니다.

[미드저니로 만든 미래의 디스토피아적 로봇 이미지]

그리고 현실에서는 화염방사기를 장착한 4족 보행 로봇/ 화염방사기를 장착한 드론(Throwflame)이나, 정찰 및 감시 임무를 수행하는 Ghost Robotics의 Vision 60과 같은 로봇이 실제로 사용되고 있습니다.

[출처: Throw Flame Robot 사이트: https://throwflame.com]

*참고: CNN기사

https://edition.cnn.com/2024/04/25/us/video/flame-throwing-robot-dog-thermonator-digvid

감시 및 통제 로봇: 인간의 자유를 억압하는 도구 

영화 '아이로봇'의 NS-5 로봇은 인간의 안전과 보호를 명목으로 사회를 통제하며 자유를 억압하는 모습을 보여줍니다.

[미드저니로 만든 감시 및 통제로봇들]

현실에서는  감시 드론과 로봇은 군중의 이동과 행동을 추적하며 통제 도구로 사용될 가능성이 있습니다.

현재 각국의 군대에서 드론과 정찰로봇, 그리고 군사 작전에 사용할 로봇이 상용화 되고 있는 것이 현실입니다. 

라이플을 단 개 형태의 로봇에 대한 기사. 기사에 따르면 개 형태의 로봇들은 감시, 정찰, 수색 및 구조 임무를 포함한 다양한 목적으로 전 세계 여러 군대에 배치되고 있다고 합니다.  다: https://www.techradar.com/pro/us-army-tests-a-new-ai-powered-robot-dog-armed-with-a-high-power-rifle

[Ghost Robotics 의 vision 60이 군사용으로 사용되고 있습니다. 출처: Ghostrobotics의 사이트]

*참고: 고스트 로보틱스 사이트: https://www.ghostrobotics.io/

2. 윤리적 문제와 기술의 경계

기술이 발전할수록 그 이면에는 예상치 못한 윤리적 문제가 따라옵니다. 특히, AI와 로봇 기술이 인간의 삶에 깊숙이 관여하기 시작하면서 우리는 여러 가지 새로운 질문에 직면하게 되었습니다.

2-1. 악의적 활용의 위험

로봇 기술은 의도하지 않은 방식으로 사용될 가능성이 있습니다.


예를 들어, 군사용 로봇은 처음에는 인간 병사의 안전을 지키기 위해 설계되었지만, 자율 무장 로봇이 잘못된 프로그래밍이나 악의적인 의도에 의해 오용된다면 어떤 일이 벌어질까요?


(영화 '터미네이터'는 그런 상상을 기반으로 인류의 암울한 미래를 이야기합니다. 영화 속에서 스카이넷이라는 시스템이 인류를 공격하게 됩니다.)

*참고: 스카이넷(Skynet)은 터미네이터 시리즈에서 주요 악역으로 등장하는 가상의 인공 의식, 게슈탈트, 인공 일반 지능(슈퍼지능) 시스템이다. (출처: 위키피디아)

화염방사기를 장착한 4족 보행 로봇이나 자율 드론은 전쟁에서 효율적인 도구가 될 수 있지만, 동시에 통제되지 않은 위협으로 변할 수 있습니다.


이는 단지 영화 속의 경고가 아니라, 실제로 우리가 준비하고 해결해야 할 현실의 문제입니다.

[출처: Throw Flame Robot 사이트: https://throwflame.com]

2-2. 개인정보 보호와 데이터 활용

또 다른 중요한 문제는 로봇이 수집하는 방대한 데이터가 제대로 관리되지 않을 경우 발생하는 위험입니다.


감시 로봇과 드론은 사람들의 이동과 행동 데이터를 실시간으로 수집합니다. 이 데이터가 적절히 보호되지 않거나 악용될 경우, 개인의 사생활은 심각하게 침해될 수 있습니다.


특히, 데이터가 권위주의적인 통제를 강화하거나 특정 집단을 억압하는 데 사용될 경우, 기술은 인간의 자유를 위협하는 도구로 전락할 가능성이 있습니다.
우리는 로봇이 정보를 어떻게 수집하고 사용하는지, 그리고 이를 관리하고 규제할 방식을 투명하게 논의해야 합니다.

*CCTV를 통한 디지털 감시 체제는 최근의 일이 아닙니다. 그리고 기존의 감시 체계에 AI가 더해지며 그 힘이 더욱 강해졌습니다. 

2-3. 기술 남용을 방지하기 위한 국제적 논의

현재 AI와 로봇 기술에 대한 규제는 각국에서 점진적으로 마련되고 있지만, 국가별로 편차가 큽니다.


유럽연합의 'AI법(AI Act)'이나 중국, 러시아의 정책들은 각각의 상황에 맞춰 개발되고 있지만, 이러한 노력들이 국제적으로 통합되지 않는다면 기술 남용을 방지하기는 어렵습니다.


우리가 직면한 문제들은 국경을 넘어 전 세계적으로 영향을 미치기 때문에, 기술 윤리와 관련된 국제적인 협력이 무엇보다 중요합니다.

3. 결론: 로봇 3원칙과 우리가 세울 새로운 원칙

[영화 '바이센테니얼맨'. 로봇 앤드류가 처음 작동을 시작하고 로봇 3원칙을 설명하는 장면. 원작자: 아이삭 아시모프]

"1950년대 초, 과학 소설 작가 아이작 아시모프는 로봇이라는 기술이 아직 상상 속에 머물러 있던 시기에 '로봇 3원칙'을 제시했습니다. 이 원칙은 기술 발전에 대한 경고이자, 미래를 예견한 윤리적 기준으로 지금까지도 회자되고 있습니다."

[로봇 3원칙]

1. 로봇은 인간에게 해를 끼치거나 위험에 처하게 해서는 안 된다.

2. 로봇은 인간의 명령에 복종해야 한다. (단, 인간에게 해를 끼칠 위험이 없는 경우에 한함)

3. 로봇은 스스로를 보호해야 한다. (단, 이를 통해 인간에게 해를 끼치지 않는 경우에 한함)

 놀랍게도, 이 원칙은 실제 로봇이 등장하기도 전에 만들어졌음에도 불구하고, 로봇 공학 및 AI 설계에서 중요한 윤리적 기준으로 자리 잡았습니다.

하지만 로봇이 실제로 출현하고, AI 기술이 급격히 발전한 오늘날, 우리는 이러한 원칙을 기반으로 새로운 윤리적 기준과 규제를 고민해야 할 때입니다.

기술은 도구일 뿐이며, 그 방향성은 결국 우리의 선택에 달려 있습니다.

"우리는 어떤 원칙을 세워, 인류를 보호하고 더 나은 미래를 설계할 것인가?"라는 질문이 이제 우리 앞에 놓여 있습니다.

4. 마무리

지난 시간에 이어 여러분께 다시 질문하고 싶습니다.

여러분은 로봇과 함께 하는 삶에 준비가 되어 있으신가요?

[미드저니로 만든 이미지. 두 얼굴의 로봇. 선택은 우리의 몫입니다]

여러분이 바라는 미래는 아마도 로봇과 공존하며 더욱 풍요롭고 편리한 삶을 꿈꾸는 모습일 것입니다.

그러나 그러한 미래를 만들어가기 위해, 우리는 지금부터 기술이 가져올 영향에 대해 고민하고, 윤리적 기준과 방향성을 함께 설계해야 합니다.

AI 시대 정보의 바다에서 해달리는 여러분과 함께 밝은 미래를 위해 고민하고, 그 파도를 헤쳐나갈 준비가 되어 있습니다.

우리 모두가 바라는 미래를 위해, 해달리와 함께 힘차게 나아가 보시죠!


다음 주에도 여러분과 또 다른 흥미로운 이야기를 나누겠습니다. 

                                  🤖 I'll be Back!  🌊🦦💙

오늘의 뉴스레터가 재미있었나요? 
여러분의 의견을 들려주세요. :) 

[메일로 의견 전하기]

[쓰레드] [카톡방]

[지난 뉴스레터 다시보기]