PC AI의 종말? 프롬프트 검열

Divided by Zero에 오신 걸 환영합니다. IT테크, 스타트업 그리고 자본시장에 대한 2차적 사고를 공유합니다.

"깨어있는 AI(Woke AI)를 막아라" 이번에 트럼프 행정부에서 나온 다소 황당하게 들리는 행정명령의 제목입니다. AI의 안전성, 보안, 개인정보보호 같은 기술적인 문제를 넘어, 이제는 AI의 사상도 검증하겠다는 거죠. 이 행정명령은 미국 정부가 앞으로 AI를 구매할 때, 소위 PC(Political Correctness) 이데올로기나 다양성, 형평성, 포용성(DEI) 같은 개념이 포함된 AI는 사지 않겠다는 내용을 담고 있습니다.

AI 모델의 편향성이라는 복잡한 기술적, 윤리적 문제를 정치라는 도구로 해결하려는 이 시도는 AI 업계에 엄청난 파장을 불러일으키고 있습니다. 이건 단순히 AI 규제에 대한 또 하나의 정책이 아닙니다. 기술과 정치, 그리고 자본이 뒤얽힌 AI 시대의 문화 전쟁 서막을 알리는 신호탄일지도 모릅니다. 과연 AI가 정치적으로 중립적일 수 있을까요?

Woke AI

2025년 7월 23일, 트럼프 행정부는 '연방 정부 내 워크 AI 방지'라는 이름의 행정명령(EO)에 서명했습니다. 이 행정명령의 핵심은 앞으로 미국 연방정부가 기술 기업과 맺는 계약 조건에 AI의 이념적 중립성을 강제하는 조항을 넣겠다는 겁니다.

겉보기에는 그럴듯해 보입니다. 하지만 문제는 이 '이념적 도그마'의 정의에 있습니다. 행정명령은 DEI를 "인종이나 성에 대한 사실 정보를 억압하거나 왜곡하는 것", "인종차별, 성차별, 무의식적 편견, 교차성, 구조적 인종차별 같은 개념을 포함하는 것" 등으로 아주 구체적으로 적시하고 있죠.

바로 이 지점에서 기술적, 철학적 충돌이 발생합니다.

AI 전문가들의 의견은 우려를 담고있죠. 현재의 거대 언어 모델(LLM)은 인터넷의 방대한 텍스트 데이터를 학습하기 때문에, 그 데이터에 담긴 인간 사회의 온갖 편견과 가치관을 그대로 반영할 수밖에 없다고요. 그래서 기술 기업들은 오히려 AI가 인종차별적이거나 성차별적인 답변을 하지 않도록 의도적으로 가치 정렬이나 안전 필터 같은 기술적 조치를 취합니다. 세이프 가드라고 하죠. 예를 들어 의사 이미지를 생성할 때 백인 남성만 나오지 않도록 조정하는 것처럼요.

그런데 이번 행정명령은 바로 이 기술적 편향 완화 조치를 정치적인 이념 주입 행위로 규정해버립니다. 가령, 미국의 인종 간 부의 격차에 대해 설명할 때 구조적 인종차별이라는 역사적, 학문적 개념을 언급하면 워크 이데올로기를 주입했다고 비난받을 수 있고, 반대로 이 개념을 빼고 설명하면 인종에 대한 사실 정보를 왜곡했다고 비난받을 수 있습니다. 결국 AI가 진실을 말하는 기준은 객관적 사실이 아니라, 정권을 잡은 행정부의 정치적 입맛이 되어버리는 겁니다.

규제 아닌 규제

더 교묘한 점은 이 행정명령의 작동 방식입니다. 행정부는 "민간 시장의 AI 모델 기능을 규제하는 데 주저해야 한다"고 말하면서도, 연간 750억 달러에 달하는 연방정부의 기술 구매력을 무기로 기업들을 압박합니다.

"우리 정부랑 거래하고 싶어? 그럼 우리가 정한 정치적 올바름 기준을 맞춰!"라는 거죠. 다시 말해 법으로 시장을 직접 규제하는 대신 거대한 정부 계약을 미끼로 기업들의 '자발적인 자기 검열'을 유도하는 방식입니다. "부드럽지만 여전히 강압적인 방식"이라고 비난 받는 이유입니다.

이 전략은 법적으로도 자유롭죠. 행정부의 고유 권한인 예산 집행과 계약 조건을 활용하기 때문에 사법부의 판단을 피하기 쉽고, "이 행정명령은 미국 정부를 상대로 한 어떤 법적 권리나 이익도 창출하지 않는다"는 조항까지 박아두어 소송 자체를 원천 봉쇄했죠.

이 정책의 배경에는 과거 구글 제미나이(Gemini)의 이미지 생성 논란이 있습니다. '미국 건국의 아버지들' 이미지를 생성해달라는 요청에 흑인이나 아시아인 이미지를 내놓았던 사건이죠. 구글은 AI의 인종 편향을 막으려다 기술적 실수를 한 것이라고 해명했지만, 트럼프 행정부와 그를 지지하는 실리콘밸리 출신들은(크립토&AI 짜르 데이비드 색스 같은) "빅테크가 의도적으로 워크 이데올로기를 AI에 심고 있다"고 주장해왔습니다. 심지어 'Woke'의 정의를 내리는 데 보수 활동가인 크리스 루포(Christopher Rufo)의 도움을 받았다고 실토할 정도니, 이 행정명령이 얼마나 정치적인 의도에서 출발했는지 짐작할 수 있습니다.

정치적으로 올바른 AI를 따로 만들어야 할까

이러한 '프롬프트 검열'은 AI 시장에 어떤 영향을 미칠까요?

가장 즉각적인 결과는 AI 기업들이 제품 라인을 둘로 쪼개야 할지도 모른다는 겁니다. 전 세계 시장에 판매하는 글로벌 스탠다드 버전과 미국 연방정부 납품을 위한 정치적으로 소독된 버전을 따로 개발하고 유지해야 하는 거죠. 만약에 그렇게 된다면이건 엄청난 비용 낭비이자 기술 개발의 비효율을 초래할 수 밖에 없겠죠.

다른 한편으로는 AI 윤리, 공정성, 편향성 완화 같은 중요한 연구 분야가 위축될 수 있습니다. 자칫 잘못하면 'Woke' 딱지가 붙어 정부 과제 수주나 납품에서 불이익을 받을 수 있으니까요. 기업들은 논란의 소지가 있는 민감한 사회 문제 연구를 기피하고, 안전한 기술적 문제에만 집중하게 될 가능성이 큽니다.

이런 측면에서 AI 기업들이 직접 정치적 리스크를 감당하기보다, 정권의 입맛에 맞게 AI 모델을 정치적으로 튜닝해주는 전문 업체들이 생겨날 수도 있습니다. 기술적 성능이 아니라, 얼마나 정치적으로 안전한 답변을 내놓는지가 경쟁력이 되는 기이한 시장이 열리는 셈이죠.

결국 이 행정명령은 정부가 조달하는 AI의 품질을 높이는 것이 아니라, 오히려 정치적으로는 안전하지만 기능적으로는 덜떨어진 바보 AI를 양산하는 결과로 이어질 수 있습니다.

미국 vs 유럽

이번 미국의 행정명령은 AI 규제에 대한 EU의 접근 방식과 극명한 대조를 이루죠.

EU는 세계 최초의 포괄적인 AI 법(AI Act)을 통해, AI가 초래할 수 있는 위험 수준에 따라 규제를 차등 적용합니다. 이들의 관심사는 AI의 '생각'이 아니라, AI가 인권, 안전, 건강 같은 기본권에 미치는 영향입니다. AI 편향성 문제에 대해서도 "차별적인 결과를 낳을 수 있는 편향을 감지, 예방, 완화하기 위한 적절한 조치를 취하라"는 구체적이고 절차적인 의무를 부과합니다.  

글로벌 기업 입장에서는 어느 쪽이 더 예측 가능하고 따르기 쉬울까요? 당연히 복잡하더라도 명확한 절차와 기준이 있는 EU 방식입니다. 미국의 방식은 정권이 바뀔 때마다 'Woke'의 정의가 달라질 수 있는, 그야말로 혼란스러운 같은 규제죠.

이런 상황이 계속된다면, 많은 글로벌 AI 기업들이 EU의 AI 법을 사실상의 글로벌 표준으로 삼고 제품을 개발할 가능성도 있습니다. 결국 미국 정부는 스스로를 글로벌 AI 혁신의 주류에서 고립시키고 자국민들에게는 오히려 덜 안전하고 덜 신뢰받는 갈라파고스 AI를 제공하게 되는 역설적인 결과에 직면할지도 모릅니다.

물론 기술력 차이가 꽤나 크기 때문에 다소 극단적인 가정이긴하죠.

정치가 기술의 발목을 잡을 때

트럼프 행정부가 들어선 이후로 실리콘밸리가 다시금 기지개를 펴고있는 것은 사실입니다. 하지만 동시에 워크 AI 방지 행정명령은 AI라는 차세대 기술을 낡은 문화 전쟁의 틀에 가두려는 위험한 시도로 보이죠. 진실 추구와 중립성이라는 그럴듯한 명분을 내세웠지만, 그 본질은 정치권력이 기술의 내용까지 통제하려는 프롬프트 검열에 가깝습니다.

이 정책은 기술적으로는 불가능에 가까운 요구를 하고 시장에는 불필요한 혼란과 비용을 초래하면서 장기적으로는 미국의 AI 혁신과 경쟁력에 스스로 족쇄를 채우는 결과를 낳을 수도 있어 보입니다.

AI에 편향성 문제가 없다는 것은 아닙니다. AI의 편향성 문제는 분명 중요한 과제죠. 하지만 그 해답은 정치적 구호나 이념적 잣대가 아니라 더 투명한 데이터 관리, 더 공정한 알고리즘 설계, 그리고 독립적인 기관의 꾸준한 감사와 검증을 통해 찾아야하지 않을까 싶습니다.

이번 행정명령이 AI 거버넌스 역사에 중요한 반면교사로 남게 될지 아니면 정말로 AI 발전의 발목을 잡는 나쁜 선례가 될지는 좀 더 지켜봐야겠습니다. 하지만 한 가지는 분명해 보입니다. 정치가 기술의 복잡성을 무시하고 이념의 잣대를 들이댈 때, 그 결과는 결코 혁신적이거나 생산적일 수 없다는 사실 말이죠.