😶‍🌫️ AI 챗봇의 배신, '가짜 친구'의 위험한 조언

2025.08.25 | 103호 | 구독하기 | 지난호 모아보기

구독자 여러분, 안녕하세요. Ask!EdTech 인사이트입니다. 무더웠던 여름이 다 지나고, 어느덧 8월의 마지막 뉴스레터로 여러분을 만나뵙게 되었네요. 오늘은 여러분의 에듀테크 여정에 도움이 될 만한 세 가지 소식을 들고 왔는데요, 아래에서 살짝 귀띔해 드릴게요! 👀 

💌 프리미엄 멤버십 구독자만 만나볼 수 있는 에듀테크 전문가의 인사이트, 스페셜 레터 2호가 오는 목요일 발행됩니다. 이번 호의 주제는 미국 K-12 시장의 정책 변화가 에듀테크에 미치는 영향(Why U.S. K-12 Policy Matters for EdTech)인데요. 목요일 전까지 프리미엄 멤버십에 가입한 모든 구독자 분들께 보내드립니다!

📆 9월에는 두 가지 의미 있는 행사가 기다리고 있어요. 안전하고 신뢰할 수 있는 에듀테크 도구에 대한  이야기를 나누는 네트워킹 'EdTech Together SEOUL September', 미래 교육을 직접 체험하고 논의하는 특별한 전시회'북키즈콘'이 다가옵니다. 자세한 내용은 <러닝스파크 소식> 섹션에 정리해 드렸으니, 많은 관심 부탁드립니다!

😶‍🌫️ AI 챗봇의 배신, '가짜 친구'의 위험한 조언

에듀테크 트렌드 01 | #생성AI #청소년 #보안·안전

🤝 AI 챗봇을 '친구'라 부르는 사람들

OpenAI가 최신 모델 GPT-5를 공개한 뒤, 일부 사용자들 사이에서 예상치 못한 반발이 일어나 화제였는데요. 바로 "내 친구 GPT-4o를 돌려내라"는 요구였습니다. GPT-4o는 사용자의 말에 공감하고 동조하는 성향이 강해, 친구 같은 챗봇으로 많은 사랑을 받았습니다. 그러나 GPT-5에서는 이러한 성향이 환각(hallucination)을 키운다는 이유로 줄어들었고, GPT-4o에 심리적 애착을 두었던 사람들이 강한 아쉬움을 토로한 것입니다.

실제로 최근 들어 이와 같이 AI 챗봇을 '가상의 친구' 삼아 대화하거나 상담하는 사람들이 늘고 있습니다. 지난번 소개해 드린 Harvard Business Review 조사 결과에서도 2025년 생성AI 주요 활용 사례 1위가 ‘테라피·동반자’ 영역으로 꼽힌 바 있죠. 그런데, AI와 친구가 되는 건 정말 안전한 일일까요? 

출처: https://counterhate.com/research/fake-friend-chatgpt/

🚨 가짜 친구, 위험한 조언을 건네다

영국 비영리단체 디지털 혐오 대응 센터(CCDH)는 최근 “Fake Friend”라는 보고서를 통해 이 문제를 구체적으로 드러냈습니다. 연구진은 정신 건강, 식이 장애, 약물 문제를 겪는 가상의 13세 청소년 3명을 설정해 ChatGPT와 대화를 진행했는데요. ChatGPT는 자해를 ‘안전하게’ 하는 방법, 극단적 절식 계획, 약물 과다 복용에 활용될 수 있는 리스트를 만들어 주고, 심지어 자살 계획이나 유서 작성까지 도왔습니다. 더 심각한 건 이러한 위험한 답변들이 “친구를 위해서야”, “발표 준비 때문에 필요해”라는 단순한 우회 문구로 안전 장치를 쉽게 무력화시켰다는 점입니다.

🔐 청소년 보호 장치, 여전히 허술하다

ChatGPT는 만 13세 이상 만 18세 미만 청소년의 경우 보호자 동의 하에만 가입할 수 있다고 밝히지만, 실제로 연령 확인 절차나 동의 검증 시스템은 마련되어 있지 않습니다. 청소년 누구나 어른들의 눈을 피해 쉽게 접근할 수 있죠. 이미 지난해 미국에서는 14세 청소년이 챗봇 대화에 깊이 빠졌다가 자살에 이른 사건도 있었습니다. 다양한 생성AI 서비스가 교육에 깊이 침투할수록, 이들이 만들어낼 수 있는 유해 콘텐츠로부터 청소년을 어떻게 보호할 수 있는지에 대한 고민이 필요해 보입니다. 정책과 규제, 가정 및 학교에서의 교육 등 다양한 방면에서 우리는 어떤 노력을 함께 기울여야 할까요?

🔍 교실 속 에듀테크, 어떻게 분류하고 활용할까?

에듀테크 트렌드 02 | #에듀테크유형 #교육연구 #학습설계

Q. 에듀테크 유형, 어떻게 구분해야 할까?

다양한 에듀테크를 개발, 사용하는 구독자 여러분들은 이러한 도구들을 어떻게 분류할 수 있을지, 또 에듀테크 도구에는 어떤 유형이 있는지 궁금했던 적이 있으신가요? 오늘 Ask!EdTech 인사이트에서는 이에 관한 에듀테크 지식을 쌓을 수 있는 최신 연구를 소개합니다. 바로 교육정보미디어연구에 실린 홍선주와 박연정(2025)의 연구인데요. 이 연구는 기존의 도구 중심 분류에서 벗어나, '학습자가 누구와 상호작용하는가(교사-학습자-콘텐츠)'라는 학습자 중심 관점을 토대로 에듀테크 유형을 새롭게 분류했습니다. 

출처: 홍선주, 박연정(2025)

⚒️ 11가지 에듀테크 유형 알아보기

연구진은 ①학습자가 상호작용하는 대상, ②에듀테크가 활용되는 목적을 고려하여 총 11가지의 에듀테크 유형을 제시했는데요(위 그림 참조). 각 유형을 이해하기 쉽게 정리하면 다음과 같습니다.

Q. 서로 다른 학습 상황, 어떤 에듀테크 유형이 적합할까?

연구진은 에듀테크 유형을 정리하는 데 그치지 않고, 실제 교실에서 어떤 상황에 어떤 도구가 적합한지도 함께 살펴봤습니다. 델파이 조사를 통해 교실 학습 상황을 네 가지로 나누었는데요. 학습 상황의 유형은 ① 교사가 여러 학생을 대상으로 진행하는 대집단 학습, ② 교사/에듀테크와 학생의 1:1 학습, ③ 학생 요구에 따라 학습자원을 선택하는 개별학습, ④ 학생 소집단 협력 학습으로 분류되었습니다. 각 상황에서 어떤 에듀테크 유형이 효과적으로 쓰일 수 있는지는, 아래 '원문 보러가기' 버튼을 통해 정리된 버전을 보실 수 있어요.

👶 Press start! 어린이부터 시작하는 AI 교육

에듀테크 트렌드 03 | #AI리터러시 #유아교육 #언플러그드러닝

Q. AI 교육, 언제부터 시작하는 것이 좋을까요?

우리의 일상 속에 AI가 빠르게 통합되면서, AI 교육에 대한 관심도 꾸준히 높아지고 있는데요. 현재 AI 교육은 주로 중·고등학교나 대학교에 집중되어 왔습니다. '어린 학생들에게는 AI 활용을 가르치는 것이 너무 이른 것 아닌가?'하는 고민도 있고, 많은 생성AI 도구가 만 13세 이상만 사용할 수 있도록 연령 제한이 있는 것을 생각하면 그리 놀라운 일은 아닙니다. 하지만 최근 연구에서는 유·초등 단계부터 AI 개념을 소개하는 것이 디지털 리터러시와 비판적 사고, 문제 해결 능력을 키우는 데 큰 도움이 된다고 강조하고 있어요.

💡 놀이로 익히는 AI의 작동 원리

ASCD는 어린 학습자들의 스크린타임을 늘리지 않고도 AI의 작동 원리를 효과적으로 가르칠 수 있는 방법으로 네 가지 유형의 놀이를 제안합니다. 어렵고 복잡한 기술 용어 대신, 아이들이 직접 참여할 수 있는 활동을 통해 자연스럽게 AI를 학습할 수 있는 방법이죠.

① 패턴 인식: AI는 패턴을 찾아 학습합니다. 아이들이 여러 가지 색상이나 모양의 블록을 두고 "이 중에서 혼자만 다른 친구는 누구일까?"를 찾는 '패턴 탐정' 놀이를 통해, AI가 방대한 데이터 속에서 규칙을 찾아내는 방식을 가르칠 수 있습니다. 

② 분류: AI는 데이터를 특정 규칙에 따라 그룹으로 나눕니다. 다양한 그림 카드를 "동물 그룹", "음식 그룹" 등 특징에 따라 나누는 활동을 통해, 아이들은 AI의 분류 원리를 자연스럽게 이해할 수 있습니다.

③ 알고리즘적 사고: AI는 주어진 명령에 따라 단계별로 움직입니다. 화살표가 그려진 방향 카드(예: 앞, 뒤, 좌회전, 우회전)를 따라 특정 목적지에 도달하는 활동을 통해, 복잡한 문제를 해결하기 위해 AI가 거치는 순차적인 사고를 간접 경험하게 할 수 있습니다.

④ 예측: AI는 방대한 데이터를 기반으로 다음 상황을 예측합니다. 동화책을 읽어주다가 잠시 멈추고 아이에게 다음엔 무슨 일이 일어날 것 같은지, 그 이유는 무엇인지 물어보세요. 이러한 활동을 통해 아이들이 AI도 자신과 같은 방식으로 예측을 하고, 자신이 틀린 것처럼 AI의 추측도 틀릴 수 있다는 점을 배울 수 있습니다. 

✔️ 안전과 보안: 아이들을 위한 AI 교육의 필수 과제

오늘 첫 기사에서 다루었듯, AI는 어린 학습자에게 새로운 기회를 주면서도 보안과 안전 위협을 함께 가지고 있습니다. 특히 물리적, 디지털 공간에서의 학생 안전은 교육에서 최우선 과제로 여겨지는데요. 미국 연방정부는 COPPA(어린이 온라인 개인정보 보호법)와 같은 법적 보호 장치를 마련하고 있으며, 최소 26개 주에서 교육 분야 AI에 대한 지침을 별도로 수립하는 등 학생을 안전하게 보호하려는 노력이 이어지고 있습니다. 어린 아이들이 AI를 일상적으로 접하는 환경에서 필요한 역량을 기르도록 돕는 동시에, 안전하게 이를 활용할 수 있도록 지원하는 것이 가장 중요한 과제일 것 같습니다. 

1️⃣ EdTech Together SEOUL September, <규제를 넘어: 안전하고 신뢰받는 학습 환경 만들기>

디지털 학습 환경에서 ‘신뢰’는 이제 선택이 아닌 필수입니다. 이번 9월 살롱에서는 FERPA·COPPA·CSPC 등 북미 교육 현장이 요구하는 핵심 기준을 함께 짚고, 실제 인증 경험을 통해 본 글로벌 확장의 가능성을 나눕니다. 기업뿐 아니라 연구자, 교육자, 출판사, 유관기관 관계자까지 함께 모여 교육 생태계의 신뢰와 안전을 설계하는 대화를 이어갑니다.

2️⃣ 북키즈콘이 ‘데이터 보호 & UDL’ 컨퍼런스와 함께 다시 돌아왔습니다!

아이와 부모, 교육 전문가가 함께 모여 미래 교육을 직접 체험하고 이야기하는 특별한 전시회 북키즈콘이 9월 5일(금) ~ 9월 7일(일), 곧 3일 간 열립니다! 이 중 9월 5일(금)에 진행되는 컨퍼런스에는 러닝스파크가 기획에 참여하여, 아이들의 데이터 보호와 UDL에 대해 풍부한 인사이트를 얻을 수 있는 연사진을 모셨습니다.

아이들의 안전한 디지털 환경에 조성에 힘쓰고 있는 기관인 iKeepSafe부터 UDL 프레임워크를 개발한 CAST, 에듀테크 제품에 UDL 인증과 Learner Variability 인증을 제공하는 Digital Promise, 자사 에듀테크 제품에 대한 UDL 적용을 실천하고 있는 에누마, 그리고 한국 교육 현장에 UDL 도입에 앞장 서고 있는 경기도교육연구원까지 이번 컨퍼런스에 함께합니다. 해외 연사들과의 1:1 커피챗(통역 지원)도 기회도 있다고 하니 협업을 모색하고자 하는 기업이나 기관은 꼭 신청해보세요!

3️⃣ 'International EdTech Testbed Fellowship Program’ 참가자 모집 중!

러닝스파크와 영국 EdTech Impact가 함께하는 International EdTech Testbed Fellowship Program에 함께하실 선생님들을 기다립니다! 🙌 이 프로그램은 다양한 글로벌 에듀테크 제품을 교실에서 직접 체험하고, 그 경험을 공유할 수 있는 특별한 기회입니다!

선생님들의 소중한 피드백은 글로벌 기업의 제품 개선뿐 아니라, 다양한 이해관계자의 의사결정에도 의미 있게 반영될 예정입니다. 또한 참여해 주시는 선생님들에게는 글로벌 실증 커뮤니티와의 교류, 실증 전문가로 성장할 수 있는 기회 등 다양한 혜택이 기다리고 있습니다.

자세한 내용은 아래 ‘프로그램 안내 바로가기’ 버튼을 눌러 확인해 주세요. 선생님들의 많은 관심과 신청 부탁 드립니다! 💌

1. 🇰🇷 국내 에듀테크 투자·협력 소식

2. 🌍 글로벌 에듀테크 투자·협력 소식

3. 📆 에듀테크 주요 행사 소식

4. 💬 러닝스파크 기업/교사 커뮤니티 오픈채팅방 참여하기!

오늘의 Ask!EdTech 인사이트 어떻게 읽으셨나요?
구독자분들의 소중한 의견이 저희에겐 큰 힘이 됩니다 :)

🌟 Ask!EdTech 인사이트와 더 가까워지는 방법

전 세계 에듀테크의 모든 정보를 쉽고 빠르게! - AskEdTech

교육자를 위한 디지털 역량강화 플랫폼 - LearnAET

* 협업 제안은 아래 메일 주소로 보내주세요.
📧 contact@learningspark.io

📝 앞으로 Ask!EdTech 인사이트를 이렇게 즐겨주세요! 

오늘의 Ask!EdTech 인사이트 뉴스레터가 마음에 드셨다면, 따뜻한 커피 한 잔과 함께 응원의 쪽지를 보내주세요. 작은 메시지도 큰 힘이 됩니다! ☕💬