"AI 처방 안전했다"는 미국 주정부 발표, 원문 보고서를 열어봤습니다

✉️ 제이슨 노트

지난 1월부터 미국 유타주에서는 AI가 만성질환 약 처방을 연장해주는 실험이 돌아가고 있어요. 5월에는 첫 운영 결과 보고서가 나왔어요. 말하자면 이 실험의 첫 성적표죠. 주정부는 발표에 이렇게 적었어요. "현재까지 중대한 안전 사고는 보고되지 않았다."

이 한 줄이 여러 헤드라인에서 "AI 처방, 안전 입증"으로 번지는 걸 봤어요.

정말 그럴까요? 원문 보고서를 열어서 같이 확인해 볼게요.

📰 3분 브리핑

🔍 딥다이브

AI가 처방한다더니, 실제로는 이래요

유타에서 벌어지는 일을 한 줄로 줄이면 이래요. 환자가 챗봇에게 약이 떨어졌다고 말하면, AI가 처방 기록을 확인하고 연장해도 되는지 판단해요.

단, 조건이 많아요. 이미 의사가 처방한 약을 30·60·90일 연장하는 것만 할 수 있어요. 새 약 처방, 용량 변경, 마약류는 처음부터 금지고요. 비용은 한 건에 4달러, 보험은 아직 안 돼요.

그리고 제일 중요한 조건이 있어요. 지금 단계에서는 AI가 판단한 모든 건을 면허 있는 의사가 약국으로 보내기 전에 다시 봐요. 이 실험은 의사의 감독을 점차 줄여가는 3단계 설계인데, 마지막 단계에도 무작위 표본 점검이 남아 있어요.

그러니까 "무사고 5개월"은 정확히 말하면, 사람이 모든 건을 미리 검사하는 조건에서의 무사고예요. 주정부도 결론을 내리기엔 이르다고 스스로 적었고요.

성적표 숫자는 준수해요. 그런데 누가 채점했을까요

5월 보고서의 숫자를 볼게요. AI는 들어온 요청의 72%에서 연장해도 된다고 판단했어요. 나머지 28%는 사람 의사가 봐야 한다며 넘겼고요. AI가 연장을 추천한 건에서는 검토 의사의 91%가 동의했어요.

여기까지 보면 나쁘지 않은 성적표예요. 그런데 이 점수, 누가 매겼을까요?

보고서 첫 장에 답이 있어요. 이 숫자는 서비스를 만든 회사 Doctronic 소속 의사들이 집계한 거예요. 주정부의 독립 검토는 이제 막 시작됐고요. 

회사가 내세우는 더 유명한 숫자도 같아요. "치료계획 일치 99.2%"는 회사 소속 연구자 8명이 쓴, 아직 외부 검증을 거치지 않은 논문에서 나왔어요. 게다가 잰 대상도 만성 질환 처방 연장이 아니라 급성진료 500건이었으니, 시험 과목이 다른 성적표인 거죠. 회사는 올해 안에 외부 검증을 거친 연구를 내겠다고 예고한 상태예요.

숫자가 가짜라는 말이 아니에요. 누가 쟀고 무엇을 쟀는지를 빼고 읽으면 다른 뜻이 된다는 이야기죠.

의사들은 "멈춰라", 주정부는 "계속한다"

이 실험을 두고 4월에 큰 충돌이 있었어요. 유타에서 의사 면허를 관리하는 위원회가 주정부에 편지를 보냈거든요. 위원 14명 중 11명이 서명했고, 내용은 "당장 멈춰라"였어요. 자기들도 뉴스를 보고서야 이 프로그램을 알았다면서요.

주정부의 답은 다음 날 나왔어요. 지금은 의사가 모든 건을 검토하니 평소 진료와 다를 게 없다, 그러니 멈추지 않겠다는 내용이었죠. 이 편지들은 비밀이 아니에요. 양쪽 다 주정부 홈페이지에 올라와 있어서 누구나 읽을 수 있어요.

그럼 이 실험은 누가 감독하고 있을까요? AP가 취재해 보니 주정부의 감독 위원회는 AI 전문가 5명이었고, 의사는 한 명도 없었어요. FDA는 지금까지 어떤 AI 챗봇도 허가한 적이 없다는 입장이에요. 정작 회사는 FDA에 허가를 신청했느냐는 질문에 답을 피했고요.

👥 직군별 생각 포인트

🏛️ 공직·기관 약사라면 — 이 실험의 핵심은 벤더 자기보고와 규제기관 독립 검토가 나란히 달리는 감독 구조예요. 국내에서 비슷한 파일럿이 논의된다면 식약처·심평원이 받을 보고서의 집계 주체를 계약에 어떻게 명시할지, 지금부터 논점을 잡아둘 만해요.

🏥 병원 약사라면 — 91%나 97% 같은 일치율이 원내 CDSS나 EMR 알림 평가에 들어올 때, 분모가 무엇이고 채점자가 누구인지 먼저 묻는 습관을 점검해볼 만한 대목이에요.

🏪 개국 약사라면 — 유타 계약은 약사가 AI 갱신 건을 처방 회사 의사에게 되물을 전용 창구를 명시했어요. 국내 비대면 진료와 장기 처방 흐름에서 우리에게 그런 창구가 있는지 자문해볼 시점이에요.

📎 한 걸음 더

🎯 직접 확인해보기 · 5월 보고서 PDF 첫 장의 배경 설명 두 번째 항목만 보세요. 이 데이터가 Doctronic 의사들의 보고에 기반한다는 문장이 거기 있어요.

💌 푸터

요즘 '이거 진짜야?' 싶었던 뉴스가 있나요? 답장으로 보내주세요 — 다음 검증 대상이 됩니다.

다 읽어요.

약사·제약인을 위한 AI 커뮤니티,

약토피아를 소개합니다

약토피아는 약학 도메인과 AI 역량을 바탕으로 서로의 성장을 돕고 응원하는 커뮤니티에요.

약국, 병원뿐만 아니라 연구소, 제약회사, CRO 등 다양한 약학 분야 종사자를 위한 AI 정보 콘텐츠 및 상호 교류 기회를 제공해요.

AI를 실제 업무에 어떻게 쓰는지 서로 배우기도 하고,
뉴스레터를 읽다가 "우리 약국에서는 어떨까?", "우리 회사는 어떻게 하고 있지?" 싶어지면,
그 얘기를 할 수 있는 곳이에요.

약토피아 홈페이지

약토피아 링크드인

약토피아 인스타그램