[GCP] Google Cloud TPU 생성(create) & 삭제 (delete)

GCP에서 제공하는 Cloud TPU는 먼저 생성을 한후 GCP VM과 네트워크 적으로 연결시켜 사용한다.

GCP 콘솔에서 직접 버튼을 눌러 생성하는 방법도 있겠지만 상당히 번거롭다. 따라서 이번 포스팅에서는 gcloud를 이용하여 TPU를 생성하고, 삭제해 볼 것 이다.

Gcloud 설정

우선 현재 환경에 gcloud가 설치되어 있어야 한다. 환경 설정을 하지 않았다면 아래의 링크에 포스팅 해두었으니 참고바란다.
https://manchann.tistory.com/24

Cloud TPU 생성

gcloud compute tpus create "TPU 이름" \
            --zone=us-central1-b \
            --accelerator-type='v2-8' \
            --version='2.5.0'

해당 명령어를 입력하여 TPU를 생성한다.
—accelerator-type에는 TPU 버전을 지정해 주어야한다. 현재 포스팅 날짜 기준으로 TPU v2, v3 버전을 GCP에서 사용할 수 있으므로 사용하고자 하는 버전을 넣는다.
—version 에는 Tensorflow 버전을 넣는다.

명령어를 입력하면 생성중이라는 메세지와 함께 조금의 시간이 지난 후에 TPU가 생성되어 있을 것이다.

잘 생성되어있는지 확인하기 위해서는 아래의 명령어로 tpu list에 만든 tpu가 있는지 확인한다.

gcloud compute tpus list --zone us-central1-b

** 간혹 TPU 생성이 되지 않고 사용할 수 있는 TPU 리소스가 없다는 메세지가 나오는 경우가 있다. 이 경우 실제로 GCP에서 제공할 TPU 용량이 없다는 것이다. 나의 경우는 될 때 까지 반복하다 보면 생성이 정상적으로 되었었다.

Cloud TPU 삭제

Google Cloud TPU는 상당히 비싼 자원의 컴퓨팅 리소스이기 때문에 사용하지 않는 경우 바로바로 삭제하는 것이 좋다. 따라서 삭제 명령어도 같이 알아두고 생성과 삭제를 반복하며 요금을 절약해보자.

gcloud compute tpus delete "TPU 이름" --zone=us-central1-b

create와 달리 TPU 이름과, 리전만 인자로 입력해주면 된다. 마찬가지로 삭제중이라는 메세지와 함께 삭제가 진행될 것 이다.

나같은 경우 생성과 삭제 명령어를 shell script 파일로 만들어두고 필요할 때만 TPU를 생성할 수 있도록 환경을 구성해두었다. 가격이 비싼 컴퓨팅 자원인 만큼 생성과 삭제를 적절히 활용하여 효율적으로 사용해 보자.