SageMaker 핵심 기능 정리

1. 🔁 SageMaker Endpoints

실시간 추론용 API 엔드포인트

• 모델을 실시간으로 사용할 수 있도록 HTTP API 형태로 제공
• 사용자 요청 시 → 모델이 즉시 응답
• 예: 추천 시스템, 챗봇, 실시간 사기 탐지 등

운영 흐름

1. 학습된 모델을 model.tar.gz로 패키징
2. 엔드포인트 생성 (sagemaker.create_endpoint())
3. 클라이언트가 REST API로 추론 요청

요금 주의: 인스턴스 항상 켜져 있음 → 비용 지속 발생

---

2. 🧠 SageMaker Multi-Model Endpoints (MME)

하나의 엔드포인트에 여러 모델을 동적으로 로드해서 사용

• 모델 수가 많을 때, 엔드포인트를 여러 개 띄우지 않아도 됨
• 요청 시 필요한 모델만 로드 → 비용 절감

예시 상황

• 사용자별 개인화 모델 (100개 이상)
• 지역별 언어 분리된 모델

장점

• 엔드포인트 하나로 여러 모델 핸들링
• 비용 효율적, 관리 간소화

주의점

• cold start 이슈 가능 (처음 불러올 때 로딩 시간 필요)

---

3. 🔍 SageMaker Model Monitor

배포된 모델의 입력/예측 데이터 품질을 실시간으로 감시

• 추론 API의 입력 데이터가 훈련 데이터 분포와 얼마나 달라졌는지 감시
• Data Drift / Concept Drift 감지 가능
• 정기적으로 스케줄링하여 알림 또는 재학습 유도 가능

지원 항목

감시 항목	설명
Data Quality	피처 값의 분포 변화 감지
Bias Monitor	편향(Bias) 감시
Explainability	예측 기여도(Shapley 등) 감시
Model Quality	실제 라벨과 예측 비교 (ground truth 필요)

---

4. 📦 SageMaker Model Registry

모델 버전 관리 + 승인(workflow) 체계 제공

• 학습한 모델들을 버전별로 등록
• 승인/승격/배포/추적 등의 파이프라인 자동화

예시

• churn-predictor:v1 → 테스트 완료 → 등록
• v2 학습 완료 → Model Registry에 업로드
• → 승인 → 프로덕션 배포

장점

• ML 팀 협업 시 체계적인 모델 관리 가능
• CI/CD 연결에 필수

---

5. 🛠️ SageMaker Pipelines

머신러닝 워크플로우 자동화 도구 (CI/CD)

• 전체 ML 프로세스를 코드로 정의하고 자동 실행
• 학습 → 검증 → 등록 → 배포 → 모니터링까지 연결 가능

예시 구성 요소

단계	설명
Processing Step	데이터 전처리, 분석
Training Step	모델 학습
Evaluation Step	성능 평가 (조건부 승인)
Register Model	Model Registry에 등록
Deploy Model	엔드포인트로 자동 배포

일종의 ML용 Jenkins + GitOps 느낌

---

6. 🧾 SageMaker Experiments

수많은 실험(모델, 파라미터 조합 등)을 체계적으로 정리

• 학습 실행(job)별 성능 지표, 하이퍼파라미터 등을 자동 기록
• 어떤 설정이 어떤 결과를 냈는지 한눈에 확인 가능

---

7. 🧪 기타 유용한 기능들

기능	설명
Processing Job	데이터 전처리, 통계, 필터링 등 실행용
Training Job	훈련 인스턴스에서 모델 학습
Batch Transform	배치 추론 (비실시간 대용량 예측)
Inference Recommender	최적 추론 인스턴스 및 파라미터 추천
Clarify	모델 편향 탐지 및 설명 가능성 시각화
Canvas	코드 없이도 AutoML 가능한 GUI 툴

---

🚀 요약

기능	역할
Endpoint / Async / MultiModel	추론 (실시간 or 비동기 or 다중모델)
Model Monitor	추론 품질 실시간 감시
Model Registry	모델 버전/승인 관리
Pipelines	ML 자동화 워크플로우
Experiments	실험 결과 추적 및 비교
Clarify / Canvas	편향 감지 / GUI AutoML