GPU 인스턴스

GPU(Graphics Processing Unit) 인스턴스는 수천 개의 컴퓨팅 코어에 액세스할 수 있는 GPU 기반 환경을 제공합니다. 이를 활용하여 대규모 데이터 세트에서 빠른 속도로 모델을 학습시키거나, 고성능 그래픽 애플리케이션을 실행하는 등 다양한 사용 사례를 구현할 수 있습니다. 예를 들어, 영상 인식, 음성 인식, 자연어 처리, 게임 개발 등의 분야에서 GPU 기반 인스턴스는 높은 수준의 성능과 처리 속도를 제공하여 시간과 비용을 절약하고 높은 수준의 정확성을 보장합니다. 또한, 이러한 GPU 인스턴스를 사용하면 대규모 분산 처리를 수행하여 빠른 속도로 데이터를 처리하고 저장할 수 있습니다.

• 적용 유형 : p2a, p2i, gn1i, p1i

p2a

p2a 인스턴스는 3세대 AMD EPYC 7003 시리즈 프로세서로 구동되며 NVIDIA A100 Tensor Core GPU를 탑재해 고성능 컴퓨팅(HPC) 워크로드에 적합합니다. 베어 메탈 인스턴스(예: p2a.baremetal)에서는 애플리케이션이 프로세서, 메모리, 네트워크 등 호스트 서버의 물리적 리소스에 직접 액세스할 수 있습니다. 현재 베어 메탈 인스턴스만 제공하고 있습니다.

하드웨어 사양

• 최대 3.65GHz의 3세대 AMD EPYC 프로세서(AMD EPYC 7513)
• 최대 50Gbps의 네트워크 대역폭
• 최대 128개의 vCPU 및 1,536GiB 메모리를 지원하는 인스턴스 크기
• 최대 8개의 NVIDIA A100 Tensor Core GPU
• AMD 명령어 세트(AVX, AVX2) 지원

세부 정보

인스턴스 크기	GPU	vCPU	메모리(GiB)	네트워크 대역폭(Gbps)
p2a.baremetal	8	128	1536	50

p2i

p2i 인스턴스는 3세대 Intel 제온 스케일러블 프로세서로 구동되며 범용 GPU 컴퓨팅에 적합합니다.

하드웨어 사양

• 최대 3.2GHz의 3세대 Intel 제온 스케일러블 프로세서(Ice Lake 6338)
• 최대 50Gbps의 네트워크 대역폭
• 최대 96개의 vCPU 및 768GB 메모리를 지원하는 인스턴스 크기
• 최대 4개의 NVIDIA A100 Tensor Core GPU
• Intel 명령어 세트(AVX, AVX2, AVX-512) 지원
• Intel 터보 부스트 기술 2.0 지원

세부 정보

인스턴스 크기	GPU	vCPU	메모리(GiB)	네트워크 대역폭(Gbps)
p2i.6xlarge	1	24	192	12.5
p2i.12xlarge	2	48	384	25
p2i.24xlarge	4	96	768	50

NUMA 토폴로지

Non-Uniform Memory Access(NUMA) 아키텍처에서는 각 CPU가 자체적으로 할당된 메모리(로컬 메모리)에 액세스할 수 있습니다. NUMA 아키텍처를 사용하면 여러 프로세서가 메모리를 공유 가능하므로 높은 확장성을 갖을 수 있습니다.

p2i 인스턴스는 인스턴스 크기에 따라 아래와 같은 NUMA 토폴로지를 갖습니다.

인스턴스 크기	NUMA 도메인 수	NUMA당 기본 코어 수
p2i.6xlarge	1	12
p2i.12xlarge	1	24
p2i.24xlarge	2	24

NUMA 토폴로지 아키텍처

p2i.6xlarge

p2i.12xlarge

p2i.24xlarge

p1i

p1i 인스턴스는 Gold 5120 Skylake Intel 제온 스케일러블 프로세서로 구동되며 기계 학습 및 HPC 애플리케이션 등 고급 계산 워크로드에 적합합니다.

하드웨어 사양

• 최대 3.2GHz의 Gold 5120 Skylake Intel 제온 스케일러블 프로세서
• 최대 50Gbps의 네트워크 대역폭
• 최대 56개의 vCPU 및 512GB 메모리를 지원하는 인스턴스 크기
• 최대 4개의 NVIDIA V100 Tensor Core GPU
• Intel 명령어 세트(AVX, AVX2, AVX-512) 지원
• Intel 터보 부스트 기술 2.0 지원

세부 정보

인스턴스 크기	GPU	vCPU	메모리(GiB)	네트워크 대역폭(Gbps)
p1i.baremetal	4	56	512	최대 50

gn1i

gn1i 인스턴스는 2세대 Intel 제온 스케일러블 프로세서로 구동되며 NVIDIA T4 Tensor Core GPU를 탑재하여 머신 러닝 및 그래픽 집약적 워크로드에 적합합니다.

하드웨어 사양

• 최대 3.9GHz의 2세대 Intel 제온 스케일러블 프로세서(Cascade Lake 5220)
• 최대 50Gpbs의 네트워크 대역폭
• 최대 64개의 vCPU 및 256GiB 메모리를 지원하는 인스턴스 크기
• 최대 4개의 NVIDIA T4 Tensor Core GPU
• Intel 명령어 세트(AVX, AVX2, AVX-512) 지원
• Intel 터보 부스트 기술 2.0 지원

세부 정보

인스턴스 크기	GPU	vCPU	메모리(GiB)	네트워크 대역폭(Gbps)
gn1i.xlarge	1	4	16	최대 10
gn1i.2xlarge	1	8	32	최대 10
gn1i.4xlarge	1	16	64	최대 10
gn1i.8xlarge	1	32	128	25
gn1i.12xlarge	4	48	192	25
gn1i.16xlarge	1	64	256	50

NUMA 토폴로지

gn1i 인스턴스는 인스턴스 크기에 따라 아래와 같은 NUMA 토폴로지를 갖습니다.

인스턴스 크기	NUMA 도메인 수	NUMA당 기본 코어 수
gn1i.xlarge	1	2
gn1i.2xlarge	1	4
gn1i.4xlarge	1	8
gn1i.8xlarge	2	16
gn1i.12xlarge	2	12
gn1i.16xlarge	2	16

NUMA 토폴로지 아키텍처

gn1i.xlarge

gn1i.2xlarge

gn1i.4xlarge

gn1i.8xlarge

gn1i.12xlarge

gn1i.16xlarge