'2025/04/22 글 목록

1. ✅ 실시간 추론 (Real-time Inference)API 호출마다 즉시 응답이 필요한 경우 사용모델을 엔드포인트(endpoint) 로 띄워 놓고 요청이 들어올 때마다 추론✅ 예시고객이 웹사이트에 들어올 때마다 상품 추천챗봇이 대화할 때 즉시 응답실시간 사기 탐지 -> Linear Learner 알고리즘 적용🧠 특징항목설명지연 시간낮아야 함 (low latency)비용항상 인스턴스 떠 있으므로 상대적으로 비쌈AWS 서비스SageMaker Endpoint (Real-time Inference)2. ✅ 배치 추론 (Batch Inference)사전에 예측을 미리 수행해서 저장실시간 성능은 필요 없고, 대량 처리가 필요한 경우✅ 예시하루에 한 번 전체 고객에 대해 등급 예측 후 DB에 저장수만 개의 ..

AWS Cloud/MLA 2025. 4. 22. 23:00

이전 1 다음