AWS

AWS 클라우드 따라잡기 18장

AI/ML — SageMaker와 생성형 AI(Bedrock)

이번 장은 AWS의 인공지능·머신러닝 서비스를 다룬다.

AWS 18장 개념도

머신러닝을 처음부터 직접 구축하는 것은 어렵지만, AWS는 여러 추상화 수준의 도구를 제공한다.

이 장의 목표는 다음과 같다.

  • AWS AI/ML 서비스의 계층을 이해한다.
  • SageMaker가 무엇을 해결하는지 안다.
  • 생성형 AI 서비스 Bedrock을 안다.

1. 세 가지 계층

AWS의 AI/ML 서비스는 크게 세 층으로 나뉜다.

  • AI 서비스(완성형): 모델을 몰라도 API만 호출하면 되는 서비스.
  • Rekognition(이미지 분석), Transcribe(음성→텍스트), Translate(번역), Comprehend(자연어) 등.
  • ML 플랫폼: 직접 모델을 만들고 훈련·배포하는 SageMaker.
  • 인프라: GPU 인스턴스 등 밑바닥 컴퓨팅.

대부분의 실무는 위 두 층에서 해결된다.

2. SageMaker

SageMaker는 머신러닝의 전 과정을 관리형으로 제공한다.

  • 데이터 준비 → 모델 훈련 → 튜닝 → 배포 → 모니터링까지 한 곳에서.
  • 훈련용 인스턴스를 자동으로 띄우고 끝나면 정리한다.
  • 배포하면 추론용 엔드포인트가 생겨 API로 호출한다.

직접 서버에 프레임워크를 깔고 관리하는 수고를 없애 준다.

3. Bedrock — 생성형 AI

Bedrock은 생성형 AI(파운데이션 모델)를 API로 제공하는 서비스다.

  • 여러 회사의 대형 모델을 골라 API로 호출한다.
  • 인프라를 직접 운영하지 않고 텍스트 생성·요약·챗봇을 만든다.
  • RAG(검색 증강 생성): 내 데이터를 검색해 근거로 답하게 한다.
  • 지식 베이스, 에이전트 기능으로 업무 자동화를 붙인다.

4. 어떤 것을 고를까

  • 이미지/음성/번역 등 일반적 작업 → 완성형 AI 서비스(API 한 번).
  • 내 데이터로 맞춤 모델이 필요 → SageMaker.
  • LLM 기반 챗봇·요약·생성 → Bedrock.

바퀴를 다시 발명하지 말고, 가장 높은 추상화 층에서 시작하는 게 원칙이다.

정리

  • AWS AI/ML은 완성형 AI 서비스 · SageMaker · 인프라의 3층 구조다.
  • 일반 작업은 API 한 번으로 끝나는 완성형 서비스로.
  • 맞춤 모델은 SageMaker, 생성형 AI는 Bedrock.
  • 가장 높은 추상화에서 시작해 필요할 때 내려간다.

다음 장에서는 여러 계정을 안전하게 관리하는 거버넌스를 다룬다.

댓글 0