🏫 교육에서 '안전한 AI 환경'이란?: 글로벌 정의와 실무 체크리스트

💌 4월, 스페셜 레터에서 들려드릴 이야기

어느덧 4월의 마지막 목요일이 찾아왔습니다! 이번 스페셜 레터 10호에서는 교육계의 필수 과제가 된 '안전한 AI 환경'에 대한 인사이트를 전해드리려고 합니다.

지난 2025년 말부터 올해 초까지, 한국을 비롯한 주요 선진국들은 'AI 교육 안전성'에 관한 새로운 기준들을 잇달아 발표했습니다. 그중에서도 우리가 주목해야 할 대표적인 지표를 아래 정리해 보았는데요.

표를 살펴보면, 글로벌 교육계는 모두 동일한 질문을 던지고 있는 듯 합니다.

"학교에서 AI를 사용한다는 것은, 어떤 환경을 전제로 해야 하는가?"

그 해답의 실마리를 이번 레터에서 확인해 보세요.

1. 🔐 안전한 AI 환경, 어떻게 정의할 것인가?

교육에서 안전한 AI 교육 환경이란 어떻게 정의될 수 있을까요? UNESCO의 AI 윤리 권고(2021)와 생성형 AI 교육 가이드(2023), 영국 DfE의 제품 안전 기대수준, 미국 교육부의 Empowering Education Leaders Toolkit, OECD의 Digital Education Outlook, 그리고 한국 교육부의 학습지원 SW 선정기준까지. 

이들을 종합한 결과, 전 세계가 공통으로 지향하는 '안전한 AI 교육 환경'의 핵심은 다음 6가지 키워드로 요약됩니다.

① 학생 데이터 보호 (Data Privacy)

OECD 설문 결과, 모든 참여국이 생성형 AI 정책의 최우선 순위로 데이터 보호와 프라이버시를 꼽았습니다. 한국의 학습지원 SW 필수 기준 역시 이를 핵심으로 다루며, 주요 내용은 ① 개인정보 최소수집, ② 수집·이용 목적·항목·기간 명시, ③ 만 14세 미만 아동 보호 절차, ④ 보호책임자 지정, ⑤ 제3자 제공·위탁 관리입니다.

② 콘텐츠 안전성 (Content Safety)

영국 DfE는 AI와 대화가 이루어지는 전 구간에서 유해 콘텐츠 필터링이 실시간으로 작동해야 함을 강조합니다. 이 시스템은 학생의 연령이나 위험 수준, 특수 교육적 요구에 따라 세밀하게 조정될 수 있어야 합니다. 다국어와 이미지, 오탈자를 이용한 우회 시도까지 차단해야 하며, 유해 정보 차단 시 학생에게는 연령에 맞는 설명을 제공하고 관리자에게는 즉시 알림이 전달되어야 합니다.

③ 정확성과 신뢰성 (Accuracy & Reliability)

영국 DfE 가이드는 생성형 AI의 환각 현상, 편향성, 민감 정보 처리 오류를 명확한 위험 요소로 규정합니다. 따라서 AI가 내놓은 모든 결과물은 반드시 사람이 사실관계를 검증한 뒤 활용해야 합니다. 특히 경험이 적은 초임 교사들이 이러한 검증 역량을 충분히 갖출 수 있도록 별도의 지원 과제를 마련해야 한다고 명시하고 있습니다.

④ 투명성과 설명가능성 (Transparency)

OECD는 알고리즘의 작동 방식이 투명하게 공개되고 AI 결과의 근거를 설명할 수 있어야 하며, 데이터의 편향을 해소하는 것을 주요 과제로 분류합니다. UNESCO 교사 AI 역량 프레임워크 또한 AI 윤리를 이해하고 개인정보를 보호하며, 데이터의 편향을 회피하는 능력을 교사의 핵심 역량으로 정의합니다.

⑤ 인간 감독 (Human-in-the-Loop)

영국 DfE는 모든 AI 활용 과정에 인간의 감독이 반드시 동반되어야 하며, 그 결과에 대한 최종 책임은 교사와 학교에 있다는 점을 분명히 합니다. 한국 교육부의 2026학년도 수행평가 AI 활용 관리 방안 역시 일률적인 금지보다는 안전하고 교육적인 활용을 채택하면서, 교사가 학생의 수행 과정을 직접 관찰하는 실시간 활동 중심 평가를 통해 평가의 신뢰성을 보완하도록 권고하고 있습니다.

⑥ 형평성과 접근성 (Equity & Accessibility)

UNESCO는 모든 학생을 위한 보편적인 인터넷 접근권과 환경 친화적인 AI 운영을 강조합니다. 또한 AI를 교사나 인프라 부족 문제를 해결하기 위한 단기적인 만능 해법으로 오용해서는 안 된다고 조언합니다. 서울시교육청은 학습 지원이나 특수 교육 대상 학생, 이주 배경 학생들을 위한 맞춤형 AI 교육을 종합 계획에 명시하며 교육의 형평성을 실천하고 있습니다.

✅ 안전한 AI 교육 환경 - 바로 쓰는 실무 체크리스트

A. 학교 관리자용 (교장·교감·교육청 담당자) — 거버넌스 (8문항)

B. 교사용 — 수업 설계 및 운영 (10문항)

C. 에듀테크 공급자용 — 제품 및 서비스 설계 (10문항)

D. 학부모 및 학생 안내용 — (5문항)

👋 마치며

안전한 AI 환경은 단순히 안전한 도구를 도입하는 것만으로 완성되지 않습니다. 이는 안전을 만들어내는 학교의 거버넌스, 교사의 역량, 그리고 공급자의 책임이 결합될 때 가능합니다. AI는 이제 정책적 담론을 넘어 구체적인 실무의 영역으로 들어왔습니다.

앞서 공유한 체크리스트는 안전을 위한 최소한의 출발점입니다. 학교마다, 교과마다, 그리고 학생마다 이 기준은 새롭게 해석되고 다시 쓰여야 합니다. 이번 레터가 현장에 꼭 맞는 안전 지침을 마련하는 데 쓸모 있는 단서가 되기를 기대합니다.

러닝스파크는 서울시교육청, 경남교육청, Good Future Foundation과 공동 주관으로 '학교에서 실천하는 안전하고 책임 있는 AI 글로벌 포럼'을 개최합니다. 한국과 영국의 고민과 실천 사례를 공유하며, 보다 안전한 AI 활용 환경의 초석을 다지는 자리가 될 것입니다. 관심 있는 분들은 아래 버튼을 통해 신청해 주세요.

참고문헌

오늘의 Ask!EdTech 인사이트 뉴스레터가 마음에 드셨다면, 따뜻한 커피 한 잔과 함께 응원의 쪽지를 보내주세요. 작은 메시지도 큰 힘이 됩니다! ☕💬