🧠 BCI 칩, 뇌를 해킹할 수 있다?

인공지능이 인간을 위협한다면? 😱

지난 1월 28일 일론머스크 X에 ‘뉴럴링크로부터 칩 이식을 받은 첫 환자가 잘 회복하고 있다’라는 내용이 게시되었어요. 일론머스크의 주장인 기술이 인간을 초월하는 시점, '특이점(singularity)'이 가져올 위기를 극복하고자 착수한 프로젝트가 바로 뉴럴링크이죠. 신경(Neural)과 연결(Link)의 합성어로, '인간의 뇌와 컴퓨터를 연결'한다는 뜻이라고 해요. 하지만 일론 머스크는 기술적 특이점이 가져올 영향에 대해 부정적이었어요. 인공지능 기술이 비약적으로 발전해 인간이 통제할 수 없는 상황이 오면, 인공지능 기술이 인간을 위협할 수 있다고 생각한 것이죠. 이에 일론 머스크는 오래전부터 인공지능의 위험성을 설파하며 다양한 프로젝트를 진행해 왔어요 👀

2015년 비영리 인공지능 연구회사인 OpenAI를 설립하고 관련 특허와 연구를 대중에게 공개한 데 이어, 2016년에는 인간의 뇌와 컴퓨터의 연결을 연구하는 뉴럴링크(Neuralink)를 세웠어요. 인간의 뇌에 컴퓨터 칩을 이식해 인간이 인공지능을 이기지는 못하더라도 뒤처지지는 않게 하겠다는 사명감에서였죠 🫢

BCI 기술이 뭐예요?

인간은 외부 자극을 받으면 감각 기관에서 받아들인 정보가 말초신경을 통해 뇌로 전달되고, 뇌는 말초신경으로 명령을 내려 적절한 움직임이나 생체 반응을 하게 되어요. 이러한 일련 과정은 우리 몸의 약 1,000억 개의 뉴런(Neuron) 신경세포를 통해서 일어나는데요, 뉴런은 감각 정보나 운동 명령을 전달할 때 나트륨, 칼륨, 염소 등의 화학 물질을 교환하면서 일종의 전류를 발생시켜 전기 신호를 생성하죠! 😎

뉴런과 뉴런 사이 연접 부위에 존재하는 시냅스(Synapse)가 뉴런에서 생성한 전기 신호를 화학 물질로 변환해 다음 뉴런에게 전달하고, 화학 물질을 받은 뉴런은 또 다시 전기 신호를 생성하면서 일종의 활동 전위들을 발생시켜 전기장을 만들어내요.

뉴럴링크는 이 과정에서 어떤 장치를 뉴런의 파괴 없이 전기적인 파장을 수집할 수 있을 정도로 가까이 심으면 뇌의 전기신호를 수집해 분석할 수 있다고 판단했어요. 이후 뇌 신호를 정밀하게 수집하기 위해 아주 많은 전극을 뇌에 이식할 수 있는 침습식 장치(BMI)인 ‘The link’를 개발했어요.

이렇게 뉴런의 전기 신호를 이용하여 생각과 움직임 등을 만들 수 있다는 아이디어에서 시작된 기술이 바로 Brain-Computer Interfaces, BCI예요. 이는 HCI(Human Computer Interface)에 속하는 기술이기도 하죠. 뇌파를 이용해 휠체어나 로봇과 같은 기계를 조작할 수 있기 때문에 BMI(Brain Machine Interface)라고 불리기도 해요.

BCI는 추출 방식에 따라 종류가 나뉘어요. 위 사진처럼 뇌에 직접적으로 삽입하는 것은 침습식 BCI이에요.

침습식 BCI 중 하나인 뇌 심부 자극술은 현재 파킨슨병 같은 뇌 질환 치료에 사용되고 있다고 해요. 현재 일론머스크의 뉴럴링크도 이 침습식 BCI 기술을 주목하고 있어요 🧐

뇌를 해킹할 수 있다?

아직 먼 미래의 이야기 같지만, 여러 공격 시나리오가 대두되고 있어요‼️

뇌와 연결된 BCI에 접속하여 사용자의 ‘뇌파'를 해킹할 수 있다는 우려가 주목되고 있죠 

사용자의 생각을 읽어내고, 생각을 조작하고, 부정적인 감정을 주입하고, 불법적인 사상과 이념을 주입하여 세뇌하는 등 BCI를 악용하여 사용자를 괴롭게 만드는 공격을 수행할 수 있어요. 또한 디도스공격과 같은 형태의 공격도 이루어질 수 있을 것이라고 해요. 일시적으로 많은 부하를 일으켜 시스템을 마비시키는 것처럼, 뇌파를 주입한다면.. 뇌에 막대한 피해와 공황으로 이어질 수도 있을 거라고 해요 🧠

뇌에 직접적인 공격을 가하는 것 외에도, 사용자의 뇌파를 추출하고 분석하여 사용자가 무언갈 보고 하는 생각을 읽어낼 수도 있을 것이라고 해요. 선호하는 정당이나 성적 취향 등 지극히 개인적인 사생활부터 더 나아가 주요 개인정보에 접근할 수 있는 비밀번호 까지 알아낼 수 있다는 것이 연구진의 주장이에요.

지난 2012년 Usenix에서 ‘On the Feasibility of Side-Channel Attacks with Brain-Computer Interfaces’ 뇌파 기반 BCI칩을 활용하여 Side-Channel Attacks에 관한 연구가 있었어요. 이 외에도 BCI의 보안 문제를 주제로 연구가 활발히 진행되고 있어요. 자세한 연구 논문은 아래 링크들을 참고해주세요! 만약 BCI, 즉 뇌가 해킹된다면 각 분야에 어떤 위험을 초래할 지.. 정말 무섭네요.. 😱

링크1 | 링크2 | 링크3

아직은 공격 시나리오에 불과하지만, 연구진들은 훗날 이를 실현할 수 있는 기반을 다지고 있어요. 이에 대한 연구 사례를 살펴보고, 어떤 분야에서 주로 활용되고 있는지 살펴볼까요? 🫡

의학, 자율주행, 군사에서 활용되는 BCI !

BCI는 의학, 자율주행, 군사, 뉴로 마케팅, 범죄 수사, 가전 제품 등 활용할 수 있는 분야가 정말 많아요. 아직은 연구해야 할 요소들이 많고 위험성을 줄일 수 있는 방법도 강구해야 하지만, BCI 관련 연구는 꾸준히 이어지고 있어요. 현재 연구되고 있는 분야는 아래와 같아요 🤗

🏥 의학 : 치매, 파킨슨병, 전신마비 질환 치료

신체가 불편한 이들의 거동이나 뇌 기능이 저하된 이들의 의사 표현을 도울 수 있다는 점에서 BCI는 연구개발의 필요성이 강조되고 있어요.

침습형 BCI 센서는 환자의 생각을 읽어내어 마우스 포인터를 움직이고 클릭하는 것은 물론 글쓰기에도 성공했습니다. 뇌와 척수 사이의 끊어진 신경 신호를 이어 하반신 마비 환자를 걷게 하고 신경 재활을 돕는 역할을 수행한 사례도 있죠.

사고로 척수를 다쳐 하반신을 못 쓰게 된 환자가 디지털 장치(’Digital Bridge’) 덕분에 다시 걷는 데 성공했어요. 끊어진 뇌와 척수 사이의 신경 신호를 디지털 신호가 대신한 것인데요, 이 장치는 뇌 피질 위에 이식한 뇌-컴퓨터 인터페이스(BCI)와 척수에 이식한 임플란트를 무선 디지털 통신 기기와 결합해 구축되었다고 해요. 이 외에도 뇌졸중이나 루게릭병 등 마비가 심한 환자를 대상으로 BCI를 이용한 연구도 진행되고 있어요.

링크1

🚗 자율주행

뇌파를 보다 더 명확하게 읽을 수 있도록 기술이 발전한다면 완전 자율주행의 시대도 그만큼 빨리 도래하겠죠?

뇌파로 차량을 제어하고 운전자의 상태를 파악하는 B2V(Brain to Vehicle) 기술 또한 많은 이들의 이목을 집중시킬 만한 신기술이에요. 뇌에서 근육에 명령을 전달하는 것보다 뇌파 신호가 더 빠르기 때문에 BCI가 자율주행차에 접목된다면 반응 속도가 더욱 빨라져 그만큼 안전할 것이라고 해요. 뇌파에 담긴 생체 정보로 운전자의 컨디션을 파악하여 그때그때 필요한 편의 기능을 제공할 수 있도록 연구가 활발히 진행 중이에요.

🪖 군사

2018년 미군 국방고등연구계획국(Defense Advanced Research Projects Agency, DARPA)은 '한 번에 뇌의 여러 지점에서 읽고 쓸 수 있는 안전하고 휴대 가능한 신경 인터페이스 시스템'을 개발하는 프로그램을 시작했어요. 목표는 2050년까지 국가 안보 애플리케이션을 위해 유능한 군인을 위한 비 수술 BCI를 생산하는 것이라고 해요. 예를 들어, 특수 부대의 군인은 BCI를 사용하여 동료 군인 및 부대 지휘관과 생각을 주고받을 수 있는 기술이 있다면 어떨까요?  만약 이 기술이 상용화된다면 전쟁이 어떤 결과를 초래할 지 상상하기 조차 무섭네요..

링크1

이렇게 BCI 기술의 활용 분야가 점점 넓어지고, 점차 기술의 안전성이 높아진다면 상용화 될 날이 오겠죠? BCI 칩을 해킹하여 뇌를 조작하고, 생각을 읽어내는 것이 가능해지는 날이 다가오고 있어요 🫠

BCI 기술의 윤리적 문제

‘생각은 자유다’ 라는 말 들어본 적 있으신가요?

생각은 누구도 침범할 수 없는 영역이죠. 그런데 뇌파를 해석할 수 있게 되면 생각도 읽을 수 있게 돼요. 생각까지 남에게 공유된다면 생각의 자유도 잃어버리는 셈이 되는거죠. 이 문제는 ‘인간 존엄성’ 문제로 이어집니다. 생각은 사람에게 특별한 것인데, 생각이 시스템적으로 변환될 수 있다는 사실은 사람을 큰 충격에 빠지게 할 것이고, 사람을 뇌에 의해서 움직이는 생물체로 전락하게 할 것이라는 문제가 펼쳐져 있어요. 동기는 좋지만, 인간과 인공지능의 결합은 AI보다 더 큰 재앙이 될지도 몰라요. 이것이 뇌와 AI를 결합하는 기술에 대한 윤리적 고찰이 필요한 까닭이죠. 이러한 윤리적인 문제가 해결되지 않아 일각에서는 ‘일론 머스크의 뉴럴링크는 사람의 기억을 다운로드하고 인간의 뇌를 컴퓨터화하는 목표를 가지고 있다.’며 우려섞인 목소리가 나오고 있어요.

여러분은 BCI 기술이 실생활에 적용되기까지, 윤리적인 문제와 ‘보안’을 어떻게 보완해나가야 할 것 같나요?

짹짹이의 소근소근 🐥🤫

국내에서도 BCI 기술에 대한 연구가 진행되고 있어요!

‘뉴럴링크’를 뛰어넘을 차세대 인체삽입형 뇌-컴퓨터 인터페이스 생체 전극 개발

김성필 울산과학기술원(UNIST) 디자인및인간공학부 교수

한국과학기술연구원 (KIST) 바이오닉스 연구센터 뉴로컴퓨팅 연구실

한양대학교 계산지능 및 뇌공학 연구실

BCI 국제학술대회

김병관 지브레인 대표 “국내 최초 침습형 BCI 제품화 도전”

다음주에 만나요! 🐥

구독자님, 오늘 뉴스레터는 어떠셨나요?
해킹/보안 관련 콘텐츠를 계속 받아보고 싶으시다면 구독 부탁드려요! 🙌