'2025/04/23 글 목록

1. 🔁 SageMaker Endpoints실시간 추론용 API 엔드포인트모델을 실시간으로 사용할 수 있도록 HTTP API 형태로 제공사용자 요청 시 → 모델이 즉시 응답예: 추천 시스템, 챗봇, 실시간 사기 탐지 등운영 흐름학습된 모델을 model.tar.gz로 패키징엔드포인트 생성 (sagemaker.create_endpoint())클라이언트가 REST API로 추론 요청요금 주의: 인스턴스 항상 켜져 있음 → 비용 지속 발생2. 🧠 SageMaker Multi-Model Endpoints (MME)하나의 엔드포인트에 여러 모델을 동적으로 로드해서 사용모델 수가 많을 때, 엔드포인트를 여러 개 띄우지 않아도 됨요청 시 필요한 모델만 로드 → 비용 절감예시 상황사용자별 개인화 모델 (100개 이상..

AWS Cloud/MLA 2025. 4. 23. 01:08

이전 1 다음