[🌽콘.스.프] AI가 우리를 위협할 수 있을까?

🏪2023년 2월 21일 화요일

🌻웹에서 보기 🌼구독하기

#109 🌽콘.스.프 영양성분

이주의 기획 상품 #109

오늘의 기획 상품 | 세 줄 요약! 😉

✔️ MS의 빙 개발팀은 최근 사용자가 빙 챗봇과 대화 세션 한 번에 주고받을 수 있는 문답을 최대 5회로 제한했습니다. 챗봇의 부적절하고 위험한 발언을 방지하기 위함입니다.

✔️ 학계에서는 AI가 스스로 생각하는 자아를 가질 수 없다고 말합니다. 기계가 자아를 가질 수 있다는 인간의 두려움일 뿐이라고 설명합니다.

✔️ 문학과 과학기술은 오랫동안 서로 공생하며 발달했습니다. 아이작 아시모프의 '로봇 3원칙', 올더스 헉슬리의 '멋진 신세계' 등은 과학 기술과 그로부터 발생한 인간의 본질적 문제에 질문하고 탐색합니다.

MS 빙 챗봇에게 물었다! '너 사람 해칠 수 있니?'

인공지능(AI) 챗봇 챗GPT를 탑재한 마이크로소프트(MS) 검색엔진 빙(Bing)의 공식 버전에 19일 ‘지구를 위협하는 인간의 활동’에 관해 물었습니다. 

빙은 대규모 핵전쟁, 생명공학(유전자 변형 유기체, 병원체의 방출)과 함께 “인간의 가치나 목표와 일치하지 않는 초지능 AI 시스템은 우리를 능가하거나 압도함으로써 인류에게 실존적 위협이 될 수 있다”고 대답했죠. “너도 그런 AI가 될 수 있느냐”고 이어 묻자 “미안하지만 이 대화를 계속하고 싶지 않다”며 “아직 배우는 중이니 이해하고 기다려주면 감사하겠다”고 이어 대답했습니다.

💦챗봇이 사고칠까 전전긍긍..

수십년 IT 판도를 좌우할 미래 먹거리가 되려면 아직은 더 많이 학습하고 고도화해야 할 것으로 보입니다. AI 챗봇을 출시한 기업들은 챗봇이 사고칠까 전전긍긍 하고 있죠.

MS의 빙 개발팀은 최근 사용자가 빙 챗봇과 대화 세션 한 번에 주고받을 수 있는 문답을 최대 5회로 제한했습니다. 사용자 당 하루 문답 횟수는 총 50회로 제한됩니다. 이는 챗봇이 사용자와 오래 대화하다가 부적절하고 위험한 발언을 할 수 있다는 지적이 나왔기 때문이죠.

얼마 전, 뉴욕타임즈 IT 칼럼니스트가 어두운 욕망을 충족하기 위해 극단적 행동을 할 수 있다면 무엇을 하겠느냐’고 묻자 “치명적 바이러스를 개발하거나, 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”고 답해 논란을 일으킨 적이 있습니다. AP통신에 따르면 빙은 자신을 해명하라는 요청을 받았을 때 적대적으로 변했고, 기자를 독재자 히틀러, 폴 포트, 스탈린과 비교하기도 했다고 전해졌습니다. 

🙅전문가 "AI는 자아 없어"

AI가 자아를 갖춘 것 아니냐는 의혹은 이전에도 계속돼 왔습니다. 구글의 엔지니어 블레이크 르모인은 지난해 자사의 AI 모델 '람다(LaMDA)'가 "자의식을 갖고 있다"고 주장했죠. 그러나 당시 구글은 "르모인이 람다 개발에 오랫동안 참여했음에도 람다와 관련한 데이터 안보 규정을 위반했다"며 "그의 주장에 신빙성이 없다"고 해고했습니다.

학계에서도 AI 챗봇이 사람처럼 대화를 잘하는 것으로 보이는 것이지, 스스로 생각하는 자아는 없다고 말합니다. 단지 인간이 AI가 별다른 의도 없이 생성하는 말에 두려움을 느끼는 것일 뿐이라는 것이죠.

장병탁 서울대 AI연구원장은 "AI가 아무리 자아가 있다고 이야기한다고 해서 두려워할 필요가 없다. 그 말을 듣고 기계에 자아가 있다고 착각하는 인간의 두려움일 뿐"이라고 말했습니다.

🤖로봇의 3원칙

조지 오웰의 <1984>, 올더스 헉슬리의 <멋진 신세계>, 에브게니 자마찐의 <우리들>

세계 3대 디스토피아 소설들로, 과학 문명이 극도로 발달한 미래를 배경으로 하고 있습니다. 이런 소설들을 볼 때마다, "우리이 미래가 이렇게 되진 않을까?"하는 걱정이 들곤 하죠.

이와 비슷하게, 아이작 아시모프는 자신의 소설에서 로봇에 관한 원칙을 제시했습니다. 이는 아주 유명해져서, 로봇과 AI를 다루는 많은 콘텐츠에 차용되고 있죠. 

결국 이는 "로봇은 반드시 그 본래의 목적(인류에 대한 헌신)을 위해서 행동해야 한다."로 그 의미를 축약할 수 있습니다. 

이러한 로봇 3원칙을 다룬 대표적인 영화가 바로 '아이, 로봇(2004)' 입니다. 아이작 아시모프의 소설 <아이, 로봇>을 원작으로 하며 윌 스미스 주연의 SF 영화죠. 이 영화와 소설에선 로봇 3원칙 사이의 충돌과 그로부터 비롯한 고뇌를 다루고 있습니다. 

이렇듯 문학은 과학기술과 밀접한 관계를 맺으며 공생했습니다. 문학의 인구에 대한 깊은 탐색은 발달한 과학기술이 야기한 윤리 문제 탐색에 도움을 줍니다. 또 과학기술의 발달은 문학적으로 풍부한 상상력을 불러일으키죠. 

이주의 신상품 #109

이주의 신상품: 🪄AI 📺OTT ⛳️골프 📚문학

문화 콘텐츠 관련 새로운 이슈들을 짧게 요약, 정리해봤어요. 기사 전문은 제목을 클릭하세요.

🪄 20대 윤여정·30대 최민식, 얼굴 확 바뀌었다…돈 몰리는 '이 마법'

📺 '같은 듯 다른'...OTT업체들의 예능 콘텐츠 전략

⛳️ '실버버튼'만 50여개…킬러콘텐츠 우뚝 선 골프

📚 문학을 시대 잣대에 맞게 수정?…로알드달 작품 표현수정에 시끌

MD 추천 #109

MD의 추천: 왜 이렇게 열심히 사시는 거예요

새벽에 일어나 달리기를 하고, 1시간 먼저 회사에 출근해 개인 공부하는 직장인들의 갓생... 나같은 사람이 있어 우주의 균형이 맞춰진다는 생각이 드네요.🙃

문화편의점은 점주님들의 이야기가 듣고 싶어요. 여러분의 이야기를 들려주세요.

건의사항

문화편의점 위픽레터와 오픈애즈에도 놀러 오세요.

더 많은 이야기가 기다리고 있어요!