AI가 코드를 짜고 글을 쓰는 시대라는 건 알려져 있지만, 같은 AI가 이제 보안 취약점을 스스로 찾아내는 수준까지 올라왔다는 사실은 덜 알려져 있습니다. 1~2년 전만 해도 AI가 악용 가능한 취약점을 찾아내는 성공률은 한 자릿수였지만, 최근 모델들은 같은 과제에서 90%를 넘기기 시작했습니다. 공격의 비용과 속도가 동시에 무너진 셈입니다. 고객 데이터를 다루고, AI 도구에 정보를 입력하고, 브랜드 이름으로 소통하는 마케터야말로 가장 먼저 노출되는 위치에 있습니다.
핵심은 공격자가 똑똑해진 것이 아니라 공격이 자동화·대량화됐다는 점입니다. 과거의 해킹은 숙련된 사람의 시간과 노력이 드는 작업이라, 대부분의 중소 브랜드는 "우리 같은 작은 회사를 누가 노리겠어"라는 막연한 안심 속에 있었는데요. 이 전제가 흔들리고 있습니다. 벤치마크를 보면 어떤 모델은 4% 수준의 성공률을 보였지만, 몇 세대 뒤 모델은 69%, 최신 실험 모델은 90%를 넘겼습니다. 사람이 며칠 걸려 찾던 구멍을 AI가 분 단위로 훑어낸다는 의미입니다. 공격 비용이 0에 수렴하면 공격자는 가치 높은 표적만 노리지 않고 쉬운 표적 전부를 노립니다. 규모가 작아서 안전하던 시대가 끝나가는 겁니다. 다만 방어 측 AI도 같이 발전하므로 곧바로 "내일 우리가 털린다"를 뜻하는 건 아니지만, 무게중심이 공격자 쪽으로 기울었다는 사실은 인정하고 시작하는 편이 안전합니다.
지오랭크가 GEO 컨설팅 과정에서 겪은 시행착오를 익명으로 공유합니다. 한 B2B SaaS 고객사(E사)는 마케팅팀 전원이 외부 AI 챗봇을 쓰면서 고객 계약서, 미공개 가격표, 내부 전환율 데이터까지 별생각 없이 프롬프트에 붙여넣고 있었습니다. 학습에 쓰지 않는 옵션이 있는데도 아무도 설정을 확인하지 않았습니다. 약 3주에 걸쳐 도구별 데이터 처리 약관을 재검토하고 민감 정보 입력 가이드를 만들었습니다. 다행히 실제 유출 정황은 없었지만 "편의가 곧 노출"이 되는 구조였습니다. 저희 자신도 캠페인용 랜딩 페이지의 관리자 계정에 2단계 인증을 걸지 않은 채 두 달가량 방치해, 로그상 자동화된 로그인 시도가 한 달에 수백 건씩 들어오고 있었습니다. 이후 외부 노출 계정에 2단계 인증을 의무화하고 끝난 페이지는 즉시 비공개로 돌린 결과, 의심스러운 로그인 시도 알림이 약 80% 줄었습니다. 거창한 솔루션이 아니라 기본기의 문제였던 셈입니다.
마케팅 조직의 보안 위험은 대부분 도구·데이터·사람이라는 세 갈래에서 새어 나옵니다. 일상 업무에서 권한·데이터·신뢰가 통제 없이 외부로 연결되는 상태가 위험인데, 대표적으로 세 가지입니다. 첫째는 AI 도구·SaaS 연동 과정에서 메일·드라이브·캘린더 접근 권한이 기본값으로 열려 있는 경우, 둘째는 고객 데이터를 검증 없이 외부 AI에 입력하는 경우, 셋째는 브랜드 이름·임원 얼굴·목소리가 딥페이크로 복제돼 사칭에 쓰이는 경우입니다.
빠른 자가 점검 항목은 다음과 같습니다.
1. AI 도구 데이터 학습 옵트아웃 — "학습 사용 안 함" 설정을 확인한 적 없으면 위험(우선순위 높음)
2. 외부 도구 권한 범위 — 메일·드라이브·캘린더가 기본 연동됨(높음)
3. 관리자 계정 2단계 인증 — 일부만 적용 또는 미적용(높음)4. 고객 데이터 입력 정책 — 프롬프트에 계약·실적을 그대로 붙여넣음(높음)
5. 퍼스트파티 채널 보유 — 직접 채널이 없음(중간)
6. 방치 페이지·계정 — 끝난 캠페인 페이지가 공개 상태로 남음(중간)
점검은 단계적으로 권합니다. 1단계로 팀이 쓰는 AI·SaaS 도구를 전부 목록화하고 각 도구가 어떤 데이터에 접근하는지 적습니다. 2단계로 학습 옵트아웃과 2단계 인증을 즉시 켭니다. 3단계로 고객 데이터 입력 가이드를 문서화해 공유합니다. 4단계로 더 이상 쓰지 않는 계정·페이지를 정리합니다. 여기까지는 도구나 예산 없이 대부분 당일에 시작할 수 있습니다.
같은 보안이라도 데이터 유출, 도구 권한, 사칭, 인프라 침해는 대응법이 다릅니다. 데이터 유출 측면에서는 입력 데이터가 모델 학습에 쓰이는지, 데이터 처리 약관(DPA)이 회사 정책과 맞는지 두 가지를 확인해야 합니다. 옵트아웃이 불가능하거나 약관이 불투명하면 적어도 민감 정보는 넣지 않는 선을 지키고, 프라이버시 우선 도구나 사내 환경 모델을 검토할 수 있습니다. 도구 권한 측면에서는 AI 도구가 생산성을 명분으로 메일·드라이브·캘린더 접근을 기본 요청하는 경우가 많아, 한 계정이 뚫리면 연결된 모든 데이터가 함께 노출됩니다. "필요한 만큼만, 한시적으로"라는 최소 권한 원칙으로 관리하고 쓰지 않는 연동은 끊어야 합니다.
사칭과 딥페이크는 마케터에게 특히 중요합니다. AI는 목소리와 얼굴을 설득력 있게 복제하고, 임원을 사칭한 영상·음성으로 송금을 유도하거나 가짜 계정으로 고객을 낚는 시도가 늘고 있습니다. 방어선은 역설적으로 마케팅의 본령과 겹칩니다. 공식 도메인, 인증된 계정, 일관된 톤을 꾸준히 쌓아 두면 가짜를 구별하기 쉬워 사칭의 효과가 떨어집니다. 인프라 침해는 "이미 일부 뚫렸을 수도 있다"고 전제하면 행동이 달라집니다. 고객 데이터는 최소한만 보관하고, 기간이 지난 데이터는 정기적으로 파기하며, 백업과 복구 절차를 미리 마련해 둡니다. 데이터를 적게 들고 있을수록 사고가 나도 피해가 작습니다. GEO와 보안은 가까운 주제로, AI가 우리를 정확히 인용하게 만드는 가시성의 문제와 가짜 정보·사칭으로부터 브랜드를 지키는 신뢰의 문제는 결국 한 몸입니다.
숫자로 현실을 보면 우선순위가 분명해집니다. 한 글로벌 컨설팅사의 2025년 조사에서 조직의 약 77%가 데이터·AI 보안의 기본기조차 갖추지 못했습니다. 글로벌 비즈니스·사이버 리더의 약 50%는 "적대적 AI 역량"을 가장 큰 우려로 꼽았고, 또 다른 2025년 상반기 보고서에서는 보안 책임자의 약 93%가 "매일 AI 기반 공격을 마주할 것"이라고 내다봤습니다. 정책 환경도 빠르게 움직입니다. 한국은 2026년 시행을 앞두고 AI 기본법 체계를 정비하며 고영향·생성형 AI의 투명성·안전성 의무를 구체화하고 있고, 개인정보보호법은 이미 가명처리·동의·국외 이전을 규율해 고객 데이터를 외부 AI에 넘기는 행위가 법적 검토 대상이 될 수 있습니다. 해외에서는 EU AI Act가 위험 등급별 규제를 시행 중입니다. 보안은 이제 "착하게 보이는 일"이 아니라 "안 하면 제재받는 일"에 가까워지고 있습니다.
실무 효과도 참고할 만합니다. 도구 권한을 최소화하고 방치 계정을 정리한 뒤 외부 의심 접근 시도가 두 자릿수 퍼센트로 감소한 사례가 반복 관찰됐습니다. 거창한 솔루션을 들이기 전에 기본기를 채우는 것이 투자 대비 효과가 가장 큰 구간입니다. 다만 기본기만으로 모든 위협을 막을 수는 없어, 조직이 커지거나 데이터가 민감해질수록 외부 전문가의 정기 감사와 전담 인력은 비용 항목으로 잡아야 합니다. 마지막으로, AI가 공개 웹을 대량 학습하고 검색이 AI 답변으로 옮겨 가는 환경에서는 내가 통제하는 채널의 가치가 다시 올라갑니다. 뉴스레터, 멤버십, 비공개 커뮤니티 같은 퍼스트파티 채널은 사칭에 강하고 알고리즘 변화에도 덜 흔들리며 고객과의 신뢰를 직접 쌓을 수 있습니다. 보안을 위기 관리로만 보지 않고 브랜드 자산을 직접 소유하는 전략으로 확장할 때 방어와 성장이 같은 방향을 보게 됩니다.
원문 보기: https://georank.co.kr/report/ai-security-marketing-defense-guide
의견을 남겨주세요