[AI 리터러시 강좌] "AI를 끈 뒤에도, 그 결과를 설명하고 책임질 수 있습니까?" —「AI 경계 짓기」 시즌 2 안내

정보·작업·역량·관계·기억까지.

AI를 사용하는 동안 나도 모르게 무뎌지는 경계를 점검하고, 스스로 설명하고 책임질 수 있는 역량을 남기는 열린 리터러시 시리즈.

AI가 새로운 능력을 가질 때마다, 우리는 새로운 경계를 정해야 한다.

튀르키예의 한 고등학교에서 9∼11학년 학생 약 1,000명을 대상으로 수학 학습 실험이 진행되었다. 학생들은 세 집단으로 나뉘었다. 한 집단은 ChatGPT와 유사하게 답하는 범용 AI를 사용했고, 다른 집단은 정답을 바로 알려주지 않고 학생이 푼 과정을 먼저 확인한 뒤 힌트와 단계적인 안내를 제공하도록 설계된 AI 튜터를 사용했다. 나머지 학생들은 AI 없이 교과서와 수업자료만으로 문제를 풀었다.

연습문제를 푸는 동안 범용 AI를 사용한 학생들의 성적은 AI를 사용하지 않은 학생들보다 48% 높았다. AI 튜터를 사용한 학생들의 성적은 127% 높았다. 적어도 AI를 사용할 수 있는 동안에는 두 집단 모두 훨씬 좋은 결과를 냈다.

그러나 AI를 사용할 수 없는 시험에서는 전혀 다른 결과가 나타났다. 범용 AI를 사용한 학생들은 처음부터 AI를 사용하지 않은 학생들보다 17% 낮은 점수를 받았다. 연습 중에는 더 많은 문제를 맞혔지만, 그 과정이 학생 자신의 수학 능력으로 충분히 남지는 않았던 것이다. 정답을 바로 제공하지 않도록 설계된 AI 튜터 집단에서는 성적이 그만큼 크게 저하되지는 않았지만, 그렇다고 AI 없이 공부한 집단보다 더 높은 시험 성과를 보이지도 않았다.

더 흥미로운 것은 학생들이 이 차이를 제대로 인식하지 못했다는 점이다. 범용 AI 집단은 시험 성적이 낮아졌는데도 자신이 덜 배웠다고 생각하지 않았다. AI 튜터 집단 역시 AI 를 활용했을 때만큼의 성적을 내지 못했음에도 자신은 더 잘 배웠다고 평가했다. 실제로 축적된 역량과 스스로 느끼는 학습 효과 사이에 차이가 있었던 것.

이 실험은 AI가 학습에 도움이 되는가, 해가 되는가라는 단순한 이분법적인 문제가 아니다. 같은 생성형 AI를 사용하더라도, AI가 답을 대신하게 하는지 아니면 직접 사고하도록 돕는 방식으로 쓰는지에 따라 이후의 역량 변화가 달라질 수 있다는 점이다.

이 문제는 비단 고등학생의 수학 학습에만 국한되지 않는다. 많은 사람이 논문이나 업무 보고서, 책을 요약하고, 자료를 비교하며 문서 구조를 만들고, 논지의 빈틈을 찾거나 다음 질문을 만들어내는 데 AI를 활용한다. AI에게 반론을 요청해 개념 사이의 연결을 테스트하거나, 아직 정리되지 않은 생각을 대화를 통해 발전시킬 수도 있다. 실제로 AI는 이전에 보지 못했던 관점을 발견하게 하거나, 학습과 작업의 범위를 넓히거나, 혼자서는 오래 걸렸을 사유를 더 멀리 밀어주는 역할을 하기도 한다.

AI 활용으로 이루어진 학습과 사유의 확장까지 부정할 순 없다. 다만 AI 덕분에 더 잘 수행할 수 있었던 것과, 그 수행이 자신의 역량으로 남았는지는 다른 문제다.

결과물은 이전보다 더 빠르고 정교하게 완성된다. 대화 수준도 높아지고, 질문을 던질 때마다 적절한 답이 돌아온다. 그러나 그 과정에서 자신의 역량이 확장된 것인지, 아니면 이전에 자신이 수행하던 과정의 일부가 AI 쪽으로 이동한 것인지 결과만으로는 구분하기가 점점 어려워진다. 오히려 AI를 능숙하게 사용할수록 이 차이는 더 잘 가려진다.

AI의 위험을 가장 크게 말하던 사람들조차 어느새 여러 AI 서비스를 병행해 사용하는 모습을 종종 본다. ‘AI를 믿지 않는다고 말하는 것’과 ‘AI를 사용하지 않는 것’은 이미 전혀 다른 문제가 되었다. 생성형 AI는 불과 2-3년 전만 해도 대학 수업에서 사용을 규제해야 한다는 논의가 오갔다는 사실이 무색할 만큼 빠르게 일상적인 환경으로 자리 잡았다.

국제노동기구는 2025년 전 세계 일자리 네 개 중 하나가 생성형 AI에 어느 정도 노출되어 있으며, 직업 전체의 즉각적인 자동화보다 인간과 AI가 맡는 업무가 다시 나뉘는 직무 전환이 더 가능성 높은 결과라고 분석한다. 세계경제포럼 역시 2030년까지 직무에 필요한 핵심 기술의 39%가 달라질 것으로 전망한다. AI와 빅데이터 같은 기술 역량의 중요성이 빠르게 높아지는 동시에, 분석적 사고, 창의적 사고, 회복탄력성, 협업과 같은 인간 역량을 어떻게 유지하고 강화할 것인지도 계속 중요한 문제로 남는다. 

그렇다면 이제 질문은 “AI를 사용할 것인가”가 아니다.

OECD의 「디지털 교육 전망 2026」은 생성형 AI가 명확한 교육 원칙 아래 사용될 때에는 학습을 지원할 수 있지만, 인지적 과제를 AI에 넘기는 방식으로 사용하면 당장의 수행만 향상되고 실제 학습으로 이어지지 않을 수 있다고 지적한다. 여러 연구에서 범용 생성형 AI를 사용한 학습자들은 과제를 수행할 때 더 좋은 결과를 냈지만, AI를 사용할 수 없는 시험에서는 그 우위가 사라지거나 오히려 역전되었다.

AI 사용 과정에서 느끼는 이해와 성장의 감각은 중요한 경험이다. 그러나 그 감각 자체가 역량 향상의 증거가 되지는 않는다. 유네스코의 AI 역량 프레임워크 역시 AI의 결과를 효율적으로 소비하는 능력보다 인간의 비판적 이해와 창조적 주도권을 강조한다.

AI는 단순히 더 좋은 답을 얻기 위한 도구가 아니다. 무엇을 직접 판단하고, 무엇을 AI와 나누며, 그 결과를 어디까지 스스로 책임질 것인지를 결정하는 능력이다.

보이지 않는 것은 사용량이 아니라 역량의 귀속이다

문서 파일을 정리하고, 발표자료를 만들고, 표를 고치고, 이미지나 형식을 다듬는 일에서 AI의 역할은 비교적 쉽게 식별된다. 어떤 업무를 AI가 대신 수행했는지가 결과물의 형식과 작업 단계에 드러나기 때문이다.

그러나 AI의 개입이 다음과 같은 단계로 이동하면 구분이 어려워진다.

· 무엇이 중요한 문제인지 제안받는 일
· 자료에서 가능한 논지를 추려내는 일
· 주장 사이의 관계를 구성하는 일
· 여러 해석의 방향을 시험하는 일
· 아직 정리되지 않은 생각을 언어화하는 일
· 다음 질문이나 반론을 만들어내는 일

특히 연구자, 강사, 창작자, 인문학 학습자에게 AI는 단순한 보조 도구에 머물지 않는다. 문제를 다시 설정하고, 논지의 빈틈을 찾고, 서로 떨어져 있던 생각을 연결하며, 아직 정리되지 않은 사유를 전개하는 대화 상대 역할까지 수행한다. 오히려 이러한 사용은 추론 모델로서 AI의 특성을 더 제대로 활용하는 방식일 수도 있다. 실제로 AI와의 대화를 통해 이전에는 미처 생각하지 못했던 반론을 발견하고, 자신의 이론을 더 멀리 밀고 나간 사람도 있다.

문제는 AI가 사유의 과정에 참여했다는 사실 자체가 아니다. 중요한 것은 그 과정에서 무엇이 자신의 판단에서 나왔고 무엇이 AI의 제안에서 시작되었는지, AI가 만들어낸 논리와 판단을 자신의 역량인 것처럼 덮어씌우고 있지는 않은지, 그 결과를 자신의 이름으로 설명하고 책임질 수 있는지를 스스로 구분할 수 있는가다.

이러한 오인은 한 번의 결과물에 그치지 않는다. 충분히 이해하지 못한 전제와 논리를 다음 작업의 기반으로 삼고, 스스로 검토할 수 없는 판단 위에 다시 새로운 결과를 쌓으면 오류와 모순은 갈수록 눈덩이처럼 커진다. 결과물의 수준은 계속 높아 보이지만, 그것을 내놓은 사람이 그 구조를 설명하거나 방어하지 못한다면..? 문제가 발견되어도 어떤 전제에서 잘못되었는지, 어디서부터 수정해야 할지를 모른다면..? 결국 자신의 이름으로 내놓은 작업에 스스로 책임질 수 없는 상황에 이르게 된다.

이 문제는 외부에서도 확인이 쉽지 않다. 매끄러운 논지와 완성도 높은 결과물만으로는 AI의 제안을 비판적으로 선택하고 다시 구성한 것인지, 아니면 AI의 관점을 그대로 자신의 판단으로 받아들였는지 파악하기 어렵기 때문이다. ‘경계 짓기’는 AI가 사유에 참여하지 못하게 막는 것이 아니다. AI의 제안이 어디까지 들어왔는지, 자신이 무엇을 이해하고 선택했는지, 그 결과를 어디까지 설명하고 책임질 수 있는지를 구분하는 일이다.

최근 연구들은 새로 만들어지는 웹 콘텐츠의 상당 부분에 이미 생성형 AI가 관여하고 있다고 추정한다. 2025년 중반 새로 게시된 웹사이트 가운데 약 35%가 AI가 생성했거나 AI의 도움을 받은 텍스트로 분류되었다. 정확한 비율을 확정하기는 어렵지만, 인터넷은 더 이상 인간이 만든 자료만으로 이루어진 공간이 아니다. AI가 만든 자료를 다른 AI가 다시 읽고, 그 결과가 다시 웹에 쌓이는 순환이 이미 시작되었다. AI가 생성한 데이터를 무분별하게 다시 학습에 사용하면 원래 데이터의 드물고 다양한 정보가 사라질 수 있다는 연구 결과도 있다.

따라서 이제는 어떤 자료가 인간이 만든 것인지, 어떤 자료에 AI가 개입했는지, 그 가운데 무엇이 신뢰할 수 있는 원자료인지를 구분하는 능력이 더 중요해지게 된다. 가끔 AI가 만든 답이 적절한지 다시 AI에게 묻곤 한다. AI가 자신의 답에서 모순이나 누락을 찾아내고 다른 관점을 제안할 수 있다. 하지만, 생성형 AI가 내놓은 답을 같은 AI나 다른 플랫폼의 AI에게 재확인하는 것은 엄밀히 말해 독립적인 검증이 아니다.

그 과정은 하나의 점검 단계는 될 수 있다. 하지만 외부 근거를 대조하거나 AI 없이 다시 설명하며 결론을 내릴 수 있는, 제대로된 검증​을 대신할 수는 없다. 그런데 우리는 그 점검마저 AI에게 맡기려 한다.

「AI 경계 짓기」는 AI의 답을 다시 AI에게 되묻는 순환을 끊고, 자신의 판단으로 돌아오는 데서 시작된다.

당신은 지금 어디에 와 있는가

AI 사용 능력은 단순히 얼마나 많은 기능을 알고 있는지가 아니다. 자신이 지금 무엇을 하고 있는지를 구분하는 것이다.

AI가 만들어준 구조 없이도 자신의 주장을 다시 설명할 수 있는가.
AI가 제안한 논지나 해석을 거부하고 다른 방향으로 다시 구성할 수 있는가.
AI와 공부한 내용을 며칠 뒤에도 자기 언어로 재구성할 수 있는가.
AI가 제시하지 않은 질문을 스스로 만들 수 있는가.
AI가 자신을 이해한다는 느낌을, 그 제안을 신뢰해도 된다는 근거로 받아들이고 있지는 않은가.
AI와의 대화를 중단하고 원문, 사람, 현장으로 돌아가야 할 시점을 알고 있는가.

이 질문에 자신 있게 대답하기 어렵다고 해서 AI 사용을 중단해야 하는 것은 아니다. 다만 현재의 편리함이 무엇을 대신하고 있는지, 그 과정에서 자신의 판단과 역량이 어디까지 이동했는지는 확인할 필요가 있다. AI를 사용하는 방식은 결국, 무엇을 맡길 것인가뿐 아니라 무엇을 자신의 것으로 남길 것인지를 정하는 일이기 때문이다.

「AI 경계 짓기」 시리즈 — 리터러시 강좌

이 시리즈는 AI를 덜 사용하기 위한 교육도, 더 능숙하게 부리기 위한 사용법 강좌도 아니다. AI를 사용하는 과정에서 정보, 작업, 기억, 관계와 역량의 어느 부분이 이동하고 있는지를 확인하고, 각자가 유지해야 할 경계를 다시 정하는 리터러시 과정이다.

시즌 1 「AI 리터러시」— 정보의 경계 (종료)

AI가 제공한 정보와 출처를 어디까지 믿을 수 있는지, 정책·인용·사례를 어떻게 확인해야 하는지, 개인정보와 저작권을 포함해 사용 전에 알아야 할 기본 경계를 다룬다. (시즌 1은 종료되었습니다.)

시즌 2 「AI 대화를 작업으로 바꾸는 법」— 작업의 경계 (4회)

AI와 대화를 계속하는 것과 실제 일을 끝내는 것은 다르다. 일을 나누고, 자료를 건네고, 꼬인 대화를 복구하며, 나온 결과를 자신의 작업으로 마무리하고, 반복 가능한 흐름으로 재설계하는 과정을 다룬다.

시즌 3 「AI로 공부해도 왜 남는 게 없을까」— 역량의 경계 (4회 - 10월 예정)

AI를 활용하면서도 읽기, 기억, 질문하기와 자기 언어로 재구성하는 능력을 어떻게 유지하고 발전시킬 것인지 다룬다. 결과를 빨리 만드는 방법이 아니라, AI를 사용해도 실제 실력이 축적되는 학습 과정을 설계한다.

시즌 4 「대화상대가 된 AI」— 관계의 경계 (2회-11월 초 예정)

AI는 감정을 가진 존재가 아니지만 이해하고 공감하는 상대처럼 경험된다. 사용자가 AI에게 어떤 역할을 부여하는지, 대화가 언제 판단의 대행이나 반복적 의존으로 바뀌는지 살핀다. (※ 참고: OpenAI·MIT미디어랩 공동연구(2025.3)는 ChatGPT 대화 400만 건 분석 및 이용자 4,076명 설문을 바탕으로, 일일 사용량이 높을수록 외로움·의존·문제적 사용이 높고 사회적 교류는 낮아지는 경향을 보고. 파워유저일수록 챗봇을 ‘친구’로 인식하는 경향도 확인됨)

시즌 5 「AI가 나를 기억하게 할 것인가」— 기억의 경계 (2회-11월 중순 예정)

AI가 기억한 정보가 이후의 답변과 사용자의 자기 이해에 어떤 영향을 미치는지 살핀다. 무엇을 기억하게 하고, 무엇을 수정하며, 무엇을 삭제할 것인지 개인화의 경계를 점검. (시즌1에서의 개인정보 설정법이 아닌, AI의 기억이 사용자의 사고와 자기 이해를 어떻게 바꾸는지를 다루는 집중 과정)

정기 점검 「AI를 껐을 때 남는 것」— 역량의 경계 점검 (시즌 밖 특강, 분기별 1회, 연 3~4회)(미정)

AI와 함께 만든 성과가 실제 자신의 역량으로 남았는지 확인하는 정기 점검 과정. AI 없이 설명하고, 질문하고, 재구성해보면서 스스로의 역량을 점검한다. (1부: 주요 모델 변화 브리핑 / 2부: 자체 역량 점검)

다섯 개 시즌과 정기 점검으로 닫히지 않는 시리즈

「AI 경계 짓기」는 고정된 커리큘럼이 아니다. AI가 새로운 능력을 가질 때마다 인간이 다시 정해야 하는 경계가 추가된다. AI 에이전트가 예약·결제·발송을 대신하기 시작하면 행동과 권한의 경계를, AI가 사용자 대신 선택하고 협상하기 시작하면 판단과 대리의 경계를, 내 이름과 문체, 얼굴과 목소리로 AI가 말하게 되면 저작과 정체성의 경계를 다시 물어야 한다.

강의 정보 — 시즌 2

※ 강의 녹화 영상은 제공되지 않습니다.

※ 카메라를 켜고 참여하는 것을 기본으로 합니다.

강사 소개

권신경아는 공학 박사이자 매체미학, 기술철학, 정신분석의 접점에서 인공지능 시대의 주체성, 감각, 기술적 실제의 문제를 연구해온 융합 연구자다. 박사논문 『기술과 실재: 기술적 주체의 새로운 실제』 이후 인공지능과 정신분석의 접점을 지속적으로 탐구해왔으며, 현재는 인공신경망의 계산 구조와 라캉 정신분석의 기표·결여·실재 개념 사이의 관계를 중심으로 심화 연구를 수행하고 있다. 이를 바탕으로 커뮤니케이션북스 인공지능총서 『AI 이미지와 실재』를 집필 중이다.

현재 한국연구재단 인문사회 학술연구교수로서 메타버스 및 확장현실(XR), AI를 활용한 융복합 공연예술 연구 과제를 수행하고 있으며, 사운드 알고리즘 개발, 실감 공연예술 제작, AI 이미지 연구, 생성형 AI 강의 및 에이전트 설계 교육을 병행해왔다. 이번 강의에서는 공학적 메커니즘과 인문사회적 사유를 연결하여, 수강생이 생성형 AI의 작동 구조를 이해하고 자신의 작업에 맞는 에이전트의 기준을 세울 수 있도록 안내한다.

참여 방법

참여비를 납입 <우리은행 1005-204-445780 김종락(대안연구공동체)>한 뒤, 과목명, 성명, 전화번호, 이메일 주소를 적어 paideia21@gmail.com 으로 송부.

오늘의 사유가 당신의 일상에 작은 파동이 되었기를 바랍니다.

[소통과 문의 | Contact] kwonshinka@gmail.com 독자님의 한 마디가 다음 사유의 동력이 됩니다.