추론 API 호출
엔드포인트 상세 화면에 표시되는 URL과 해당 엔드포인트에 연결된 API 키를 사용하여 추론 API를 호출합니다.
사전 준비
- 엔드포인트 상태가
Active인지 확인합니다. - API 키를 생성하고 호출할 엔드포인트에 연결합니다.
- API 키에 사용량 제한을 적용하려면 엔드포인트 연결에서 Tier를 선택합니다.
- 모델 Revision에 설정된 API Schema를 확인합니다.
엔드포인트 정보 확인
- AI Service > Advanced AI Space 메뉴로 이동합니다.
- 엔드포인트 메뉴를 클릭합니다.
- 호출할 엔드포인트의 이름을 클릭합니다.
- 세부 정보에서 엔드포인트 URL을 확인하고 복사합니다.
- 인증 정보 > API 키 메뉴에서 사용할 API 키의 연결된 엔드포인트 수를 확인합니다.
- API 키의 더보기 메뉴에서 [엔드포인트 설정]을 클릭하여 호출할 엔드포인트가 연결되어 있는지 확인합니다.
요청 전송
엔드포인트 상세 화면에서 확인한 URL로 요청을 보내고, 해당 엔드포인트에 연결한 API 키를 인증정보로 함께 전달합니다. 요청 형식은 모델 Revision에 설정된 **API Schema(endpoint)**를 따릅니다.
호출 결과 확인
- 인증에 실패하면 API 키의 만료 여부와 엔드포인트 연결 상태를 확인합니다.
- 요청이 거부되면 API 키 연결에 적용된 Tier와 현재 쿼터 사용률을 확인합니다.
- 엔드포인트가 응답하지 않으면 상태가
Active인지 확인합니다. - 엔드포인트의 로그 조회 탭에서 모델 서버 로그를 확인합니다.
- Request/토큰 사용량 탭에서 요청 수와 토큰 사용량을 확인합니다.