10월 뉴스레터 한눈에 보기
- 금융권 A사, 챗봇 하나로는 부족했던 이유
- AI 챗봇의 잘못된 답변, 기업이 책임져야 할까?
- [백서] 우리 조직의 AX가 실패하는 5가지 이유
- 인터뷰 “에이전틱 AI 시대, 구조화된 데이터가 핵심”
- AI FESTA 26·제조 공정 피지컬 AI 세미나 현장
- 함께 볼 AI 뉴스📰 종이책부터 국가 데이터까지, AI 학습데이터 확보 경쟁
어느덧 10월의 마지막 주입니다. 🍂
갑자기 쌀쌀해진 날씨에 겨울이 성큼 다가온 것 같은데요.
이번 달 뉴스레터에서는 기업의 AI 도입 사례와 산업 현장에서 주목할 만한 소식들을 준비했습니다.
프로젝트 사례
금융권 A사, 챗봇 하나로는 부족했던 이유 🏦
금융권 A사에는 매일 새로운 사내 문서가 쌓이고, 부서와 직원마다 열람할 수 있는 정보가 달랐습니다. 따라서 최신 문서와 사용자별 접근 권한을 반영하고, 에이전트의 답변 품질과 보안까지 관리할 수 있는 환경이 필요했습니다. 금융권의 보안 요건을 충족하면서도, 새로운 AI 모델과 기술도 도입할 수 있어야 했죠.
데이터부터 운영·평가까지 한 번에
크라우드웍스는 A사와 함께 약 8개월에 걸쳐 전사 AI 환경을 구축했습니다. 이번 프로젝트에는 크라우드웍스의 노하우가 집약된 3개의 솔루션이 모두 사용됐습니다.
이 과정에서 기존 사내 문서 150만 건 이상을 전처리하고, 구축 이후에도 매일 2,000건 이상의 신규 문서를 처리할 수 있도록 데이터 파이프라인을 마련했습니다.
현재 A사는 업무 매뉴얼 질의응답, 고객의 소리 분석 등 실제 업무에 AI를 활용하고 있습니다. 하루 100명 이상의 임직원이 이용하고, 에이전트 메시지는 하루 900건 이상 처리되고 있죠. 새로운 업무가 생기면 임직원이 직접 에이전트를 추가해 활용 범위를 넓힐 수 있습니다.
금융권 A사의 전사 AI 환경 구축 과정이 궁금하시다면?
인공지능 트렌드
AI 챗봇의 잘못된 답변, 기업이 책임져야 할까? ⚠️
2025년, 독일 미용의료업체 Aesthetify가 챗봇의 잘못된 답변으로 소송에 휘말렸습니다.
고객상담 챗봇이 회사의 소속 의사 두 명을 성형·미용외과 전문의라고 안내했는데요. 두 사람은 의사는 맞았지만, 해당 전문의 자격은 없었습니다. AI 챗봇이 실제로 갖추지 않은 자격을 안내한 것이죠. Aesthetify는 챗봇의 답변을 통제하기 어려웠다고 주장했지만, 독일의 Hamm 고등법원은 기업의 책임을 인정했습니다.
AI의 오답은 기업의 리스크가 될 수 있습니다
특히 금융·보험에서는 AI의 답변이 고객의 자산이나 투자 판단에 영향을 줄 수 있어 더 꼼꼼한 검증이 필요합니다. 답변이 정확하고 일관되는지 확인하는 성능 평가와, 개인정보 노출이나 부적절한 권유 같은 위험을 점검하는 안전성 평가를 함께 진행해야 하는 이유입니다.
국내 기업들은 AI 평가를 어떻게 진행했을까요?
메리츠화재는 보험 전문가가 만든 질문과 기준 답변을 활용해 자동 평가와 전문가 검증을 병행했습니다. 유안타증권은 다양한 질문으로 AI의 취약점을 찾는 레드티밍까지 진행했는데요. 이 과정에서 부적절한 투자 권유 등을 발견하고, 답변 가이드라인과 안전장치를 보완했습니다.
국내 금융·보험 기업의 실제 사례는 블로그에서 확인해보세요.
백서
우리 회사의 AX는 어디서 막히고 있을까? 📘
필요한 데이터를 모으고 예산과 인력도 투입했는데, AX 프로젝트가 예상보다 더디게 진행되고 있나요? 그렇다면 데이터 구축·관리 과정에서 다음과 같은 문제가 발생하고 있는지 확인해야합니다.
크라우드웍스의 백서「우리 조직의 AX가 실패하는 이유」에는 데이터 구축부터 운영까지 AX를 가로막는 5가지 문제와 국내 기업의 해결 사례를 담았습니다. 함께 수록된 체크리스트를 통해 우리 조직의 AX를 점검해보세요.
인터뷰
"에이전틱 AI 시대, 구조화된 데이터가 핵심"
AI가 질문에 답하는 것을 넘어, 직접 업무를 수행하기 시작했습니다. 그렇다면 기업이 데이터를 준비하는 방식도 달라져야 하지 않을까요?
크라우드웍스 이준호 부사장은 전자신문 인터뷰에서 에이전틱 AI 시대에 필요한 데이터 준비 방식을 설명했습니다. 대규모 학습데이터 확보뿐 아니라, 기업 내부 데이터를 AI가 실제 업무에 활용할 수 있도록 구조화하는 일이 중요해지고 있는데요.
예를 들어 AI 에이전트가 사내 규정을 확인하고 업무를 처리하려면 관련 문서를 검색하는 것만으로는 부족합니다. 어떤 규정이 최신인지, 해당 업무에 어떻게 적용되는지, 다른 규정과는 어떤 관계가 있는지까지 파악해야 하죠.
에이전틱 AI 시대에 달라지는 데이터 경쟁력,
이준호 부사장의 인터뷰에서 자세히 확인해 보세요.
현장 스케치
현장에서 보는 피지컬 AI의 미래 📸
① AI FESTA 26에서 만난 크라우드웍스
10월 6~8일 열린 AI FESTA 26에 크라우드웍스가 참가했습니다. 현장에서는 IITP 월드파운데이션 모델 기술개발 사업과 크라우드웍스가 맡은 데이터 구축 역할을 소개했습니다. 텔레오퍼레이션·시뮬레이션 환경에서 생성되는 데이터를 수집·검증·관리하는 '피지컬 AI 데이터 플랫폼'도 함께 선보였는데요.
부스에는 이해민 대통령비서실 AI미래기획수석비서관과 하정우 국가인공지능전략위원회 부위원장도 방문해 크라우드웍스의 피지컬 AI 관련 기술과 사업을 살펴봤습니다.
② 숙련공은 줄어드는데, 로봇이 대신 배울 수 있을까?
10월 27일 광주에서 '제조 공정 피지컬 AI 기술 세미나'가 열렸습니다. 현장에서는 신규 인력 감소와 기술 유출 등 제조기업이 마주한 고민이 공유됐는데요.
크라우드웍스 이준호 부사장은 '피지컬 AI 도입을 위한 제조 현장 데이터 구축 방안'을 주제로 발표했습니다. 숙련공이 현장을 떠나기 전, 작업 표준서에 담기 어려운 움직임과 노하우를 로봇 학습 데이터로 만드는 방법을 소개했죠. 특히 영상과 센서 데이터를 동기화하고, 데이터의 누락과 오류를 점검하는 일이 중요하다고 강조했습니다.
함께 볼 AI 뉴스
AI 학습데이터, 국가가 직접 공급한다? 🇨🇳
중국이 지난 10월 20일, 국가 차원에서 데이터 개발과 활용을 전담하는 국유기업 '국가데이터그룹'을 출범시켰습니다.
중국이 해결하려는 핵심 과제는 방대한 데이터를 실제 산업 현장에서 활용할 수 있는 자원으로 바꾸는 것입니다. 이를 위해 정부와 산업별로 흩어진 데이터를 연결·가공하고, AI 학습에 필요한 고품질 데이터셋과 말뭉치를 공급할 계획입니다.
AI 학습을 위해 헌책방까지 뒤진다고? 📚
최근 해외 중고 서점에 대량 주문이 이어지고 있습니다. 국내 서점에서도 비슷한 주문이 들어오면서 'AI 학습데이터 확보를 위한 구매가 아니냐'는 추측이 나오고 있는데요.
실제로 앤트로픽은 종이책 수백만 권을 구매하고, 스캔해 AI 학습데이터로 활용했습니다.
AI 기업들이 종이책에 주목하는 이유는 무엇일까요? 책에는 저자의 지식과 관점, 긴 호흡의 논리와 서사가 담겨 있고, 편집을 거쳐 다듬어진 문장도 풍부합니다. 특히 오래되거나 절판된 책에는 온라인에서 구하기 어려운 자료까지 포함되어있죠. 물류비와 스캔 비용이 들더라도, AI 기업이 종이책을 구매하려는 이유입니다.
이번 달 뉴스레터는 어떠셨나요?
이번에 소개한 사례와 인사이트가 우리 조직의 AX를 점검하고,
앞으로의 방향을 고민하는 데 도움이 되길 바랍니다.
다음 달에도 현장에 필요한 AI 소식으로 찾아오겠습니다. 😊
