추론 API 호출

엔드포인트 상세 화면에 표시되는 URL과 해당 엔드포인트에 연결된 API 키를 사용하여 추론 API를 호출합니다.

사전 준비

• 엔드포인트 상태가 Active인지 확인합니다.
• API 키를 생성하고 호출할 엔드포인트에 연결합니다.
• API 키에 사용량 제한을 적용하려면 엔드포인트 연결에서 Tier를 선택합니다.
• 모델 Revision에 설정된 API Schema를 확인합니다.

엔드포인트 정보 확인

1. AI Service > Advanced AI Space 메뉴로 이동합니다.
2. 엔드포인트 메뉴를 클릭합니다.
3. 호출할 엔드포인트의 이름을 클릭합니다.
4. 세부 정보에서 엔드포인트 URL을 확인하고 복사합니다.
5. 인증 정보 > API 키 메뉴에서 사용할 API 키의 연결된 엔드포인트 수를 확인합니다.
6. API 키의 더보기 메뉴에서 [엔드포인트 설정]을 클릭하여 호출할 엔드포인트가 연결되어 있는지 확인합니다.

요청 정보 준비

모델 Revision에 설정된 **API Schema(endpoint)**에서 HTTP 메서드, 요청 경로, 헤더와 요청 본문 형식을 확인합니다. 호출에 필요한 값은 다음과 같습니다.

변수	설명
{HTTP_METHOD}	API Schema에 정의된 HTTP 메서드
{ENDPOINT_URL}	엔드포인트 상세 화면에 표시되는 URL
{REQUEST_PATH}	API Schema에 정의된 요청 경로
{API_KEY_HEADER}	API 키를 전달하는 HTTP 헤더 이름
{API_KEY}	엔드포인트에 연결된 API 키
{REQUEST_BODY}	API Schema에 맞게 작성한 JSON 요청 본문

요청 전송

확인한 값을 다음 호출 형식에 적용합니다. HTTP 메서드, 요청 경로, 인증 헤더와 요청 본문은 모델의 API Schema에 따라 달라질 수 있습니다.

curl --request {HTTP_METHOD} \
  --url "{ENDPOINT_URL}{REQUEST_PATH}" \
  --header "{API_KEY_HEADER}: {API_KEY}" \
  --header "Content-Type: application/json" \
  --data '{REQUEST_BODY}'

호출 결과 확인

• 인증에 실패하면 API 키의 만료 여부와 엔드포인트 연결 상태를 확인합니다.
• 요청이 거부되면 API 키 연결에 적용된 Tier와 현재 쿼터 사용률을 확인합니다.
• 엔드포인트가 응답하지 않으면 상태가 Active인지 확인합니다.
• 엔드포인트의 로그 조회 탭에서 모델 서버 로그를 확인합니다.
• Request/토큰 사용량 탭에서 요청 수와 토큰 사용량을 확인합니다.