Skip to main content

Kubeflow 하이퍼파라미터 튜닝하기

카카오클라우드 Kubeflow와 Katib를 사용하여 MNIST 데이터세트에 대한 하이퍼파라미터 튜닝을 수행하는 과정을 단계별로 설명합니다.

기본 정보

시작하기 전에​

Kubeflow와 Katib를 활용하여 하이퍼파라미터 튜닝을 수행하기 전에, MNIST 데이터세트와 실습에 필요한 최소 Kubeflow 환경 사양을 준비합니다. 이를 통해, 사용자는 모델의 성능을 향상시키기 위한 최적의 하이퍼파라미터 조합을 구성할 수 있습니다.

시나리오 소개​

이 시나리오에서는 Katib를 활용하여 다음의 주요 내용을 다룹니다.

  • 하이퍼파라미터 튜닝을 통한 모델 성능 최적화
  • 자동화된 머신러닝 실험을 통한 최적의 하이퍼파라미터 조합 탐색
  • MNIST 데이터세트를 사용한 하이퍼파라미터 튜닝 실습

지원 도구​

도구버전설명
Katib0.15.0- 하이퍼파라미터를 조정해 모델 성능을 향상시킬 수 있는 오픈소스 프로젝트입니다.
- 모델 성능 향상을 위한 다양한 하이퍼파라미터 조합 및 테스트할 수 있습니다.
안내

Katib에 대한 자세한 설명은 Kubeflow > Katib 공식 문서를 확인해 주세요.

사전 작업​

1. 학습 데이터 준비​

이 실습은 MNIST 데이터세트를 사용합니다. 별도의 다운로드 없이 아래의 실습 단계를 따르면 자동으로 데이터세트를 받을 수 있습니다.

MNIST 이미지 데이터세트 MNIST 이미지 데이터세트

MNIST 데이터세트는 0부터 9까지 숫자의 손글씨 이미지를 모은 데이터세트로, 컴퓨터 비전 분야에서 널리 사용됩니다. 총 70,000개의 28x28 픽셀 회색조 이미지로 구성됩니다.

2. Kubeflow 환경 준비​

Kubeflow에서 Katib을 사용하기 전에, 실습에 적합한 MIG 설정과 GPU 노드 풀 사양을 확인하세요. Kubeflow 환경이 준비되지 않았다면, Kubeflow를 이용한 Jupyter Notebook 환경 구성 문서를 참고하여 GPU 파이프라인 노드풀이 설정된 Kubeflow 환경을 생성하세요.

필요 최소 사양

  • MIG 설정 최소 사양 : 1g.10gb 인스턴스 3대 이상
  • GPU 파이프라인 노드풀 필수

작업 순서​

Katib를 사용한 MNIST 데이터세트에 대한 하이퍼파라미터 튜닝 과정의 구체적인 단계는 다음과 같습니다.

Step 1. 실습 예제로 새로운 실험 생성하기​

  1. Kubeflow 대시보드에 접속합니다.

  2. 좌측에 위치한 Experiments (AutoML) 탭을 선택합니다.

  3. 우측 상단에 위치한 [NEW EXPERIMENT] 버튼을 클릭합니다.

  4. Create an Experiment 화면에서 [Edit and submit YAML]을 클릭 후, 아래 YAML 코드 예제를 복사하여 붙여넣고 [CREATE] 버튼을 클릭합니다.

    YAML 스크립트 만들기 YAML 스크립트 코드 예제 삽입하기

    실습 예제. YAML 스크립트 코드 예제
    apiVersion: kubeflow.org/v1beta1
    kind: Experiment
    metadata:
      namespace: kubeflow
      name: test-automl2
    spec:
      objective:
        type: maximize
        goal: 0.99
        objectiveMetricName: accuracy
        additionalMetricNames:
          - loss
      metricsCollectorSpec:
        source:
          filter:
            metricsFormat:
              - "{metricName: ([\\w|-]+), metricValue: ((-?\\d+)(\\.\\d+)?)}"
          fileSystemPath:
            path: "/katib/mnist.log"
            kind: File
        collector:
          kind: File
      algorithm:
        algorithmName: random
      parallelTrialCount: 3
      maxTrialCount: 12
      maxFailedTrialCount: 3
      parameters:
        - name: lr
          parameterType: double
          feasibleSpace:
            min: "0.01"
            max: "0.03"
        - name: momentum
          parameterType: double
          feasibleSpace:
            min: "0.3"
            max: "0.7"
      trialTemplate:
        retain: true
        primaryContainerName: training-container
        trialParameters:
          - name: learningRate
            description: Learning rate for the training model
            reference: lr
          - name: momentum
            description: Momentum for the training model
            reference: momentum
        trialSpec:
          apiVersion: batch/v1
          kind: Job
          spec:
            template:
              metadata:
                annotations:
                  sidecar.istio.io/inject: 'false'
              spec:
                containers:
                  - name: training-container
                    image: bigdata.kr-central-1.kcr.dev/mlops-pipelines/katib-pytorch-mnist-gpu:v0.15.0.1a
                    command:
                      - "python3"
                      - "/opt/pytorch-mnist/mnist.py"
                      - "--epochs=1"
                      - "--log-path=/katib/mnist.log"
                      - "--lr=${trialParameters.learningRate}"
                      - "--momentum=${trialParameters.momentum}"
                    resources:
                      requests:
                        cpu: '1'
                        memory: 2Gi
                      limits:
                        nvidia.com/mig-1g.10gb: 1
                restartPolicy: Never
                affinity:
                  nodeAffinity:
                    requiredDuringSchedulingIgnoredDuringExecution:
                      nodeSelectorTerms:
                        - matchExpressions:
                            - key: kakaoi.io/kke-nodepool
                              operator: In
                              values:
                                - ${GPU_PIPELINE_NODEPOOL_NAME}
    환경변수설명
    GPU_PIPELINE_NODEPOOL_NAME🖌︎사용자의 GPU 파이프라인 노드풀 이름 기입 ex. "gpu-node"

    위 예제 YAML 파일은 Katib 실험의 구성을 정의합니다. 이 파일에는 실험의 목적, 최적화할 메트릭, 사용할 알고리즘, 하이퍼파라미터의 검색 범위 등이 포함됩니다.

Step 2. 생성한 실습 실험 확인하기​

  1. 실험 실행 후, Kubeflow 대시보드에서 Experiments (AutoML) 탭으로 이동하여 실험 결과를 확인할 수 있습니다.

    이미지. 실험 생성완료 확인하기 실험 생성완료 확인하기

  2. 실험이 성공적으로 실행었다면, 해당 실험을 클릭하여 자세한 정보와 함께 최적의 하이퍼파라미터 값을 볼 수 있습니다.

    이미지. 생성한 실험 상세 내용 확인하기 생성한 실험 상세 내용 확인하기

    안내

    Katib에 대한 자세한 설명은 Kubeflow > Katib 공식 문서를 확인해주세요.

Last updated on