[AWS EC2] Graviton2 기반 EC2 인스턴스 소개

M1 맥북이 출시되면서 더이상 인텔이 하드웨어 칩에서 1인자가 아님을 여러 느끼고 있다. 여러 하드웨어 칩 셋 제공업자들은 더이상 인텔에 의존하지 않고 독자적인 Arm 기반 칩을 만드는데 주력하는 것이 최근 트렌드인 듯 하다.

AWS도 발빠르게 이러한 트렌드를 따라가고(주도 하는 것 같기도) 있으며 추론 용 하드웨어인 AWS Inferentia Neuron 칩도 발표가 되었었다.

오늘은 일반 인텔기반 EC2 처럼 범용적으로 사용할 수 있지만 성능면에서 최적화한 AWS의 Graviton2 칩을 소개하고자 한다.

이 글은 아래 세미나 강의를 적극 참고하여 작성했습니다.
Graviton2 기반의 EC2 인스턴스 집중 탐구 - 윤석찬
https://www.youtube.com/watch?v=GHQMFVLRl4U

다양한 프로세서 선택 옵션 제공

AWS에서는 현재 다음과 같은 종류의 프로세서를 제공하고 있다.

• Intel 제논 프로세서
  
  
• AMD 기반 프로세서
  
  
• AWS Graviton 프로세서  
   
  • 64 비트 Arm Neoverse 코어 기반 맞춤형 프로세서
  • 클라우드 네이티브 워크로드를 위한 대상 최적화
  • 높은 가격 대비 성능 제공

ARM64 지원 생태계

• 운영체제 / 컨테이너
  
  
  • 다양한 AMI를 제공, Linux의 경우 운영 배포판 arm64 버전을 지원
  • 컨테이너용 arm64 이미지가 제공되며, 기존 인텔 환경과 멀티 아키텍쳐로 병렬 빌드 가능
• 프로그래멍 언어
  
  
  • 대부분 인터프리터 언어 기반 애플리케이션은 수정없이 실행 가능 (Python, Java, Ruby, PHP, Node.js 등)
  • Python의 경우, pip를 통해 설치하되, 컴파일 안된 C/C++ 패키지 재컴파일 필요
• 대부분 애플리케이션 및 AWS 도구와 SDK를 지원함

Graviton2 기반 인스턴스

동급 x86(intel) 기반 인스턴스에 비해 가격 대비 최대 40% 나은 성능을 보임

• T4g - 버스팅용 (vs T3)
• M6g, M6gd - 범용 (vs M5)
• C6g, C6gn, C6gd - 컴퓨팅 파워 최적화 (vs C5)
• R6g, R6gd - 메모리 최적화 (vs R5)

기존 인텔 기반 인스턴스 타입에 대응하여 대부분 Arm 기반 인스턴스가 출시된 듯 하다.

Graviton2 인스턴스 벤치마킹

좌, 우로 각각 인텔기반 M5 인스턴스와 Arm기반 M6g 인스턴스의 처리량을 비교한 그래프이다.

출처: 동영상 슬라이드

기본적인 CPU 사용 워크로드, 웹 배포 부터 고성능 컴퓨팅의 경우까지도 높은 효율성을 보여주며 전체적인 성능 향상이 된 인스턴스임이 확인됨, 추가적으로 Arm 기반 인스턴스는 전력량과 탄소배출량이 2.5배 감소하여 조금 더 친환경적 인스턴스임도 강조하는 듯 하다.

조금 더 디테일한 Graviton2 사용법과 가이드는 AWS 공식 깃허브에서 제공해주고 있다. 직접 사용해 볼 때 참고하면 좋을 듯 하다.
https://github.com/aws/aws-graviton-getting-started

개인적으로 Arm 기반 하드웨어의 문제는 기존 인텔 칩과의 호환성 이슈가 가장 크다고 생각했는데 Arm 기반 하드웨어의 사용이 증가하는 추세이므로 문제가 없어보인다. 아직까지는 장점밖에 보이지 않는데 나도 직접 연구를 하면서 사용해 보고 성능을 비교해볼 예정이다.