본문으로 건너뛰기
kr-central-1 kr-central-2

GPU 개요

카카오클라우드는 가속 컴퓨팅(Accelerated computing)을 위해 GPU, NPU, 비디오 트랜스코딩(Video transcoding) 인스턴스를 제공합니다.
이 중에서 GPU(Graphic Processing Unit, 그래픽 처리 유닛) 카드는 병렬 처리 능력이 뛰어나기 때문에 데이터 분석, 과학 연산, 딥러닝 훈련 및 추론, 과학 연산, 비디오 인코딩, 게임 그래픽스 등의 작업에서 뛰어난 성능을 발휘합니다.

안내

GPU 서비스에서는 가상 머신 인스턴스로 제공되는 가속 컴퓨팅에 관해 설명하고 있습니다. GPU Accelerator 카드가 포함된 서버를 Bare Metal Server로 이용하고 싶은 경우 Bare Metal Server를 참고 바랍니다.

사용 목적 및 사례​

카카오클라우드 GPU 인스턴스는 대부분의 일반적인 프레임워크와 라이브러리를 지원하며, NVIDIA 인스턴스의 경우 TensorRT, cuDNN, NCCL과 같은 특화 라이브러리를 지원합니다.
GPU 서비스는 물리적인 서버로 사용하는 컴퓨팅 환경을 대체하여 활용할 수 있습니다. 또한 GPU/NPU 인스턴스는 대규모 연산이 필요한 작업에 적합하여 데이터 분석, 과학 연산, 머신러닝, 딥러닝, 게임 그래픽스 등 다양한 분야에서 활용할 수 있습니다.

  • 머신러닝 및 배포를 위한 컴퓨팅, 고속 네트워킹 환경
  • 데이터 분석, 그래픽 처리 시 필요한 고성능 서버
  • 대규모 게임 서비스 및 고성능 데이터베이스 서버 운영을 위한 환경

주요 특징​

다양한 유형의 GPU 인스턴스​

  • NVIDIA A100, T4 GPU, FuriosaAI WARBOY NPU 등 최신 카드를 적용한 고성능 컴퓨팅 인스턴스를 제공
  • 광범위한 성능과 비용 요구사항에 적합한 다양한 인스턴스 사이즈를 제공

유연한 설치와 확장​

  • 웹 콘솔에서 기본적인 설정만으로 GPU 인스턴스의 생성과 구성이 가능
  • 필요에 따라 인스턴스를 추가하거나 삭제할 수 있어 컴퓨팅 리소스를 유연하게 관리

합리적인 비용​

  • 타사 대비 약 80~90% 수준의 경쟁력 있는 GPU 인스턴스 요금
  • 필요한 리소스를 필요한 시간만큼 사용하므로 효율적인 비용 관리가 가능

인스턴스 보안 관리​

  • 보안 그룹을 사용하여 네트워크에 배포된 인스턴스의 보안 강화
  • 보안 그룹에서 IP 주소와 포트 번호를 기반으로 인스턴스로 전송된 패킷을 필터링

시작하기​

GPU에 대한 자세한 사용 가이드는 How-to Guides에서 설명합니다. 카카오클라우드를 처음 시작하신다면 카카오클라우드 시작하기를 참고하시기 바랍니다.