본문으로 건너뛰기

추론 API 호출

엔드포인트 상세 화면에 표시되는 URL과 해당 엔드포인트에 연결된 API 키를 사용하여 추론 API를 호출합니다.

사전 준비​

  • 엔드포인트 상태가 Active인지 확인합니다.
  • API 키를 생성하고 호출할 엔드포인트에 연결합니다.
  • API 키에 사용량 제한을 적용하려면 엔드포인트 연결에서 Tier를 선택합니다.
  • 모델 Revision에 설정된 API Schema를 확인합니다.

엔드포인트 정보 확인​

  1. AI Service > Advanced AI Space 메뉴로 이동합니다.
  2. 엔드포인트 메뉴를 클릭합니다.
  3. 호출할 엔드포인트의 이름을 클릭합니다.
  4. 세부 정보에서 엔드포인트 URL을 확인하고 복사합니다.
  5. 인증 정보 > API 키 메뉴에서 사용할 API 키의 연결된 엔드포인트 수를 확인합니다.
  6. API 키의 더보기 메뉴에서 [엔드포인트 설정]을 클릭하여 호출할 엔드포인트가 연결되어 있는지 확인합니다.

요청 전송​

엔드포인트 상세 화면에서 확인한 URL로 요청을 보내고, 해당 엔드포인트에 연결한 API 키를 인증정보로 함께 전달합니다. 요청 형식은 모델 Revision에 설정된 **API Schema(endpoint)**를 따릅니다.

호출 결과 확인​

  • 인증에 실패하면 API 키의 만료 여부와 엔드포인트 연결 상태를 확인합니다.
  • 요청이 거부되면 API 키 연결에 적용된 Tier와 현재 쿼터 사용률을 확인합니다.
  • 엔드포인트가 응답하지 않으면 상태가 Active인지 확인합니다.
  • 엔드포인트의 로그 조회 탭에서 모델 서버 로그를 확인합니다.
  • Request/토큰 사용량 탭에서 요청 수와 토큰 사용량을 확인합니다.