엔드포인트 운영

엔드포인트 목록과 상세 화면에서 배포 상태를 확인하고, 모델 버전 적용, 상태 변경, 수정, 삭제 작업을 실행할 수 있습니다.

엔드포인트 목록 확인

1. AI Service > Advanced AI Space 메뉴로 이동합니다.
2. 엔드포인트 메뉴를 클릭합니다.

항목	설명
이름	엔드포인트 이름 이름 클릭 시 상세 화면으로 이동
상태	엔드포인트의 현재 배포 및 실행 상태
배포 모델 버전	엔드포인트에 현재 배포된 모델 버전
모델 정보	엔드포인트에 배포된 모델
생성 일시	엔드포인트 생성 일시

행의 더보기 메뉴에서 신규 버전 적용, 상태 변경, 수정, 삭제를 실행할 수 있습니다. 현재 상태에서 실행할 수 없는 작업은 비활성화됩니다.

상태별 작업

상태	신규 버전 적용	상태 변경	수정	삭제
Creating	불가	불가	불가	가능
Provisioning	불가	불가	불가	가능
Active	가능	가능	가능	가능
Updating	불가	불가	불가	가능
Deleting	불가	불가	불가	불가
Stopping	불가	불가	불가	가능
Stopped	가능	가능	불가	가능
Failed	불가	불가	불가	가능

엔드포인트 상세 확인

엔드포인트 목록에서 이름을 클릭하면 상세 화면으로 이동합니다. 세부 정보 탭에서 다음 정보를 확인할 수 있습니다.

항목	설명
상태	엔드포인트의 현재 상태
모델 정보	엔드포인트에 배포된 모델과 모델 버전
도메인 ID	엔드포인트 생성 시 입력한 도메인 ID
엔드포인트 URL	추론 API 호출 URL 복사 버튼으로 복사 가능
인스턴스 유형	엔드포인트에서 사용하는 인스턴스 유형
프로파일 정보(리소스 수)	리소스 프로파일과 리소스 수
Replica 수	엔드포인트를 구성하는 Replica 수
생성 일시	엔드포인트 생성 일시

로그, 요청 및 토큰 사용량과 시스템 지표는 엔드포인트 상세 조회 및 모니터링에서 설명합니다.

신규 버전 적용

신규 버전 적용은 커스텀 모델에 새로 생성한 Revision을 기존 엔드포인트에 적용하는 기능입니다. 신규 버전을 적용하는 동안 엔드포인트에서 추론 요청을 처리할 수 없습니다.

1. Active 또는 Stopped 상태의 엔드포인트에서 더보기 메뉴를 엽니다.
2. [신규 버전 적용]을 클릭합니다.
3. 적용할 모델 버전을 선택합니다.
4. [적용] 버튼을 클릭합니다.
5. 신규 버전 적용이 완료된 후 배포된 모델 버전을 확인합니다.

버전 변경

모델 버전 변경 전 새 Revision의 저장소, 엔드포인트 정보, 환경 변수와 Secret 설정을 확인하세요.

상태 변경

상태 변경은 엔드포인트를 삭제하지 않고 일시적으로 중지하거나 다시 활성화하는 기능입니다. 엔드포인트를 비활성화(Stopped)하면 추론 요청을 처리할 수 없지만 언제든지 다시 활성화할 수 있으며, 비활성화 상태에서는 해당 엔드포인트에 대한 요금이 부과되지 않습니다.

1. 엔드포인트의 더보기 메뉴에서 [상태 변경]을 클릭합니다.
2. 변경할 상태를 선택하고 [저장]을 클릭합니다.

엔드포인트 수정

1. Active 상태의 엔드포인트에서 더보기 메뉴를 엽니다.
2. [수정]을 클릭합니다.
3. 인스턴스 유형, Replica 수, 무중단 배포, 리소스 프로파일, 리소스 수, Logging 또는 API 제한 설정(Tier)을 변경합니다.
4. 변경 내용을 확인하고 [저장]을 클릭합니다.

리소스 변경

리소스 설정을 변경하면 엔드포인트가 일시적으로 비활성화되어 요청 처리가 중단될 수 있습니다. 변경 전에 서비스 영향을 확인하세요.

엔드포인트 삭제

1. Creating, Provisioning, Active, Updating, Stopping, Stopped 또는 Failed 상태인 엔드포인트의 더보기 메뉴에서 [삭제]를 클릭합니다.
2. 삭제 확인 창에 영구 삭제를 입력합니다.
3. 삭제할 엔드포인트 이름과 모델 정보를 확인한 후 [삭제] 버튼을 클릭합니다.

삭제한 엔드포인트와 URL은 복구할 수 없습니다. 애플리케이션의 호출 대상과 연결된 API 키를 먼저 확인하세요.