웨비나에 참석해주셔서 감사합니다.
AI 에이전트가 만들어내는 예측 불가능한 트래픽 폭주 시대에,
API 트래픽을 '얼마나 막을 것인가'에서 '어떻게 흘려보낼 것인가'가 중요해졌습니다.
그렇기에 AI 서비스에서는 API Gateway와 API 유량 제어의 조화로운 운영이 필수입니다.
인젠트의 'APIM'과 같은 API Gateway는 정책, 권한, 라이선스 등 기본 운영을 담당하고
에스티씨랩의 'NetFUNNEL API'는 서버 상태 기반의 실시간 & 우선순위 제어를
대기열 환경과 함께 제공함으로써 안정적인 서비스를 보장합니다.
발표 영상은 아래와 같습니다. 다시 한번 살펴보시고 내용을 확인해주시기 바랍니다.
API 트래픽 유량 제어, 이럴 때 필요합니다.
- 트래픽 집중 시 특정 API의 응답 속도가 현저히 저하될 때
- 실패한 요청이 자동 재시도 되어 부하가 가중될 때
- 여러 팀 및 서비스가 같은 내부 API를 공유해 호출량 통제가 어려울 때
- AI, 에이전트 기능 도입 후 백엔드 호출량이 급증했을 때
- VIP, 핵심 업무 요청과 일반 요청이 혼재되어 우선순위 부여가 필요할 때
넷퍼넬 API, 이렇게 사용하실 수 있습니다.
대기열 기반의 진입 제어를 통해 안정적인 서비스를 보장하는 넷퍼넬 API는
- 설정된 진입 허용수 내의 요청만 처리하고, 초과 요청은 대기처리합니다.
- API 요청을 등급별로 구분해 주요 요청의 처리 비율을 높여 순차 처리합니다.
- 서버 응답시간을 기준으로 진입 허용수를 유동적으로 제어할 수 있습니다.
- 대기, 차단 등의 응답을 자유롭게 정의할 수 있습니다.
- 주요 메트릭 지표를 기준으로 정책을 자동으로 설정 변경할 수 있습니다.
제품에 대해 궁금하신 사항이나 소개서, 방문 상담 등 더 필요하신 사항은
아래 설문을 통해 내용 전달해주시기 바랍니다. 빠른 시간 안에 답변 드리겠습니다.
앞으로도 저희 에스티씨랩의 트래픽 관리 & 리소스 최적화 솔루션에 대해
많은 관심과 응원 부탁드립니다. 감사합니다!
의견을 남겨주세요