W tym przewodniku wyjaśniono zalecane jednostki przetwarzania grafiki lub instancje procesora graficznego dla Deep Learning Amazon Machine Images.
Głębokie uczenie się w instancjach GPU
Uczenie maszynowe i uczenie głębokie są postrzegane jako złożone, ponieważ są czasochłonne i wymagają specjalistycznej wiedzy w danej dziedzinie. AWS usuwa te bariery w adopcji uczenia maszynowego i udostępnia je programistom i naukowcom danych. AWS zapewnia usługę SageMaker z szeroką gamą przypadków użycia, aby ułatwić tworzenie, trenowanie i wdrażanie modeli Deep Learning na dużą skalę w chmurze:
Jakie są zalecane instancje GPU dla DLAMI?
Usługa Amazon EC2 umożliwia użytkownikowi tworzenie maszyn wirtualnych w chmurze, a usługa SageMaker umożliwia użytkownikowi trenowanie tych modeli przy użyciu instancji EC2. Platforma zaleca korzystanie z wielu instancji GPU w usłudze w celu wykonywania modeli Deep Learning przy użyciu systemów AMI dostępnych w usłudze. Te zalecane przypadki są wymienione i wyjaśnione w następującej sekcji posta:
Instancja EC2 P3
Instancje Amazon EC2 P3 są dominującymi instancjami GPU na platformie chmurowej AWS i są przeznaczone do równoległych obciążeń obliczeniowych o dużej mocy obliczeniowej. Instancje P3 są dostępne w rozmiarach obejmujących 1, 4 lub 8 procesorów graficznych NVIDIA Tesla v100, zapewniających do 1 petaflopa wydajności obliczeniowej w jednej instancji:
Instancja EC2 P4
Instancje Amazon EC2 P4 są zasilane przez najnowszą generację procesorów graficznych NVIDIA A100, aby rozwiązywać największe problemy z ML lub HPC. Zmniejsza koszty i czas szkolenia w zakresie modeli Machine Learning lub Deep Learning, ponieważ są to najtańsze wystąpienia w chmurze. Instancje EC2 P4 mogą zaoszczędzić nawet połowę kosztów instancji P3 i poprawić wydajność DL o 2,5x:
Instancja EC2 G3
Instancje Amazon EC2 G3 są obsługiwane przez maksymalnie 4 procesory graficzne NVIDIA Tesla M60 i są najnowszą generacją instancji graficznych EC2. Zapewnia najpotężniejsze połączenie procesora, karty graficznej i obliczeń o wysokiej wydajności z maksymalnie 2048 równoległymi rdzeniami przetwarzającymi. Zapewnia szybką i wydajną kartę graficzną do obsługi obciążeń graficznych z ekonomicznymi i elastycznymi funkcjami:
Instancja EC2 G4
Instancje Amazon EC2 G4 są obsługiwane przez procesory graficzne AMD Radeon Pro v520 i procesory AMD Epic drugiej generacji. Te instancje zapewniają o 45% lepszą wydajność cenową w porównaniu z porównywalnymi procesorami graficznymi dla aplikacji intensywnie korzystających z grafiki w chmurze:
Instancja EC2 G5
Klienci potrzebują instancji GPU o wysokiej wydajności do wielu zastosowań, takich jak intensywne obciążenia graficzne lub szkolenia Deep Learning w chmurze. Instancje Amazon EC2 G5 zapewniają do 3 razy lepszą wydajność dla aplikacji intensywnie korzystających z grafiki i wnioskowania ML:
To wszystko na temat zalecanych instancji GPU dla Deep Learning AMI.
Wniosek
AWS oferuje wiele instancji Graphic Processing Units dla Machine Learning lub Deep Learning Amazon Machine Images. AWS oferuje usługę SageMaker dla klientów korzystających z modeli ML lub DL do trenowania modeli z większą dokładnością i wydajnością. W tym przewodniku wyjaśniono zalecane instancje GPU dla Deep Learning Amazon Machine Image.