Este documento descreve os recursos do Hyperdisk ML, que oferece a maior capacidade de processamento de todos os tipos de Google Cloud Hyperdisk. O Google recomenda o uso do Hyperdisk ML para machine learning e para cargas de trabalho que exigem alta capacidade de leitura em conjuntos de dados imutáveis. O Hyperdisk ML de alta capacidade de processamento oferece resultados em tempos de carregamento de dados mais rápidos, tempos de inatividade do acelerador mais curtos e custos de computação mais baixos.
Para grandes cargas de trabalho de inferência, treinamento e HPC, é possível anexar um único volume do Hyperdisk ML a várias instâncias de computação no modo somente leitura.
É possível especificar até 1.200.000 MiB/s de capacidade de processamento para um único volume do Hyperdisk ML. Não é possível provisionar um nível de IOPS, mas cada MiB/s de capacidade de processamento provisionada vem com 16 IOPS, até 19.200.000 IOPS.
Para mais informações sobre o Hyperdisk e os outros tipos de Hyperdisk, consulte Sobre o Hyperdisk.
Para criar um volume de ML do Hyperdisk, consulte Criar um volume do Hyperdisk.
Casos de uso
O ML do Hyperdisk é adequado para os seguintes casos de uso:
- Cargas de trabalho de HPC
- Machine learning
- Cargas de trabalho otimizadas para aceleradores
Suporte a séries de máquinas
É possível usar o Hyperdisk ML com as seguintes séries de máquinas:
Sobre a performance provisionada
Não é necessário provisionar a performance ao criar volumes do Hyperdisk. Se você não provisionar a performance, o Compute Engine vai criar o volume com valores padrão que podem ser modificados mais tarde. Para saber mais sobre os valores padrão, consulte Valores de IOPS e throughput padrão.
Se você souber suas necessidades de desempenho, poderá especificar os limites de IOPS e de capacidade para um volume do Hyperdisk ML ao criar o volume e mudar os valores provisionados depois. Não é possível especificar um nível de IOPS ou de capacidade se você não especificar um tamanho.
Limites de tamanho e desempenho
Os limites a seguir se aplicam aos valores de tamanho, throughput e IOPS que podem ser especificados para um volume do Hyperdisk ML.
Tamanho: entre 4 GiB e 64 TiB. O tamanho padrão é 100 GiB.
Capacidade de processamento: entre 400 e 1.200.000 MiB/s. A capacidade de processamento mínima e máxima têm limites próprios com base no tamanho do volume, conforme descrito abaixo:
Taxa de transferência mínima: para volumes de 4 a 3.341 GiB, o valor mínimo é 400 MiB/s. Para volumes de 3.342 GiB ou mais, o valor mínimo depende do tamanho e varia entre 401 e 7.680 MiB/s.
Capacidade de processamento máxima: para volumes de 750 GiB ou mais, o valor máximo é de 1.200.000 MiB/s. Para volumes de 749 GiB ou menores, o valor máximo depende do tamanho e varia de 6.400 a 1.199.999 MiB/s.
Para conferir exemplos, consulte Limites de throughput provisionado.
IOPS: não é possível especificar um limite de IOPS para volumes do Hyperdisk ML. Em vez disso, as IOPS provisionadas dependem da capacidade provisionada. Cada volume do Hyperdisk ML é provisionado com 16 IOPS para cada MiB/s de capacidade de processamento, até um máximo de 19.200.000 IOPS.
Limites da capacidade de processamento provisionada
A tabela a seguir lista os limites de capacidade provisionada para tamanhos de volume
comuns. Se um tamanho não estiver listado, use a fórmula abaixo para calcular os
valores permitidos, em que x
é o tamanho do volume em GiB:
- Capacidade configurável mínima:
MAX (400, 0.12x)
- Capacidade configurável máxima:
MIN (1200000, 1600x)
Tamanho | Capacidade mínima | Capacidade máxima |
---|---|---|
4 | 400 | 6.400 |
10 | 400 | 16.000 |
50 | 400 | 80.000 |
64 | 400 | 102.400 |
100 | 400 | 160.000 |
300 | 400 | 480.000 |
500 | 400 | 800.000 |
1.000 | 400 | 1200000 |
5.000 | 600 | 1200000 |
25.000 | 3.000 | 1200000 |
64.000 | 7.680 | 1200000 |
Valores de IOPS e capacidade de processamento padrão
Se você não especificar um limite de IOPS ou de capacidade ao criar um volume do Hyperdisk ML,
o Compute Engine vai atribuir valores padrão. O valor atribuído é baseado nas
seguintes fórmulas, em que x
é o tamanho do volume em GiB.
- Capacidade padrão:
MAX (24x, 400)
MiB/s - Tamanho padrão: 100 GiB
Mudar o desempenho ou o tamanho provisionado
É possível mudar o tamanho provisionado a cada quatro horas e a capacidade de processamento a cada seis horas. Para instruções sobre como modificar o tamanho ou o desempenho, consulte Modificar um volume do Hyperdisk.
Limites de desempenho quando anexado a uma instância
Esta seção lista os limites de desempenho do ML do Hyperdisk. É possível especificar até 1.200.000 MiB/s de capacidade de processamento para um único volume do Hyperdisk ML. Não é possível provisionar um nível de IOPS, mas cada MiB/s de capacidade de processamento provisionada vem com 16 IOPS, até 19.200.000 IOPS.
A tabela a seguir lista o desempenho máximo que os volumes do Hyperdisk ML podem alcançar para cada instância com suporte. O desempenho de um volume do Hyperdisk ML quando ele está anexado a uma instância não pode exceder os limites do tipo de máquina da instância. Os limites de desempenho também são compartilhados em todos os volumes do Hyperdisk ML anexados à mesma instância, independentemente do desempenho provisionado de cada volume.
Cenários que exigem várias instâncias para alcançar o desempenho provisionado
A capacidade de processamento provisionada de um volume do Hyperdisk ML é compartilhada entre cada instância a que o volume está anexado, até o limite máximo do tipo de máquina listado na tabela a seguir. Se o desempenho provisionado de um volume do Hyperdisk ML for maior que o limite de desempenho de uma instância, o volume só poderá alcançar o desempenho provisionado se for anexado a várias instâncias. As instânciasa3-ultragpu-8
têm um limite de transferência de
4.000 MiB/s.
Por exemplo, suponha que você tenha um volume do Hyperdisk ML provisionado com 500.000 MiB/s de capacidade de processamento
e queira anexar o volume a instâncias a3-ultragpu-8
. Uma única
instância do a3-ultragpu-8
não pode alcançar mais de 4.000 MiB/s
de capacidade. Portanto, para alcançar a capacidade de processamento provisionada do volume, é necessário anexar o volume
a pelo menos 125 (500.000/4.000) instâncias a3-ultragpu-8
. Por outro lado, para o tipo de máquina a2-highgpu-1g
, você precisa de 272 instâncias.
Tipo de máquina da instância | IOPS máximas | Capacidade máxima (MiB/s) |
---|---|---|
a2-*-1g |
28.800 | 1.800 |
a2-*-2g |
38.400 | 2.400 |
a2-*-4g |
38.400 | 2.400 |
a2-*-8g |
38.400 | 2.400 |
a2-megagpu-16g |
38.400 | 2.400 |
a3-*-1g |
28.800 | 1.800 |
a3-*-2g |
38.400 | 2.400 |
a3-*-4g |
38.400 | 2.400 |
a3-*-8g (no modo somente leitura)1 |
64.000 | 4.000 |
a3-*-8g (no modo de leitura-gravação)1 |
38.400 | 2.400 |
c3-*-4 |
6.400 | 400 |
c3-*-8 |
12.800 | 800 |
c3-*-22 |
28.800 | 1.800 |
c3-*-44 |
38.400 | 2.400 |
c3-*-88 |
38.400 | 2.400 |
c3-*-176 |
38.400 | 2.400 |
c3-*-192 |
38.400 | 2.400 |
c3d-*-4 |
6.400 | 400 |
c3d-*-8 |
12.800 | 800 |
c3d-*-16 |
19.200 | 1.200 |
c3d-*-30 |
19.200 | 1.200 |
c3d-*-60 |
38.400 | 2.400 |
c3d-*-90 |
38.400 | 2.400 |
c3d-*-180 |
38.400 | 2.400 |
c3d-*-360 |
38.400 | 2.400 |
ct6e-standard-1t |
19.200 | 1.200 |
ct6e-standard-4t |
28.800 | 1.800 |
ct6e-standard-8t |
28.800 | 1.800 |
g2-standard-4 |
12.800 | 800 |
g2-standard-8 |
19.200 | 1.200 |
g2-standard-12 |
28.800 | 1.800 |
g2-standard-16 |
38.400 | 2.400 |
g2-standard-24 |
38.400 | 2.400 |
g2-standard-32 |
38.400 | 2.400 |
g2-standard-48 |
38.400 | 2.400 |
g2-standard-96 |
38.400 | 2.400 |
1 Para instâncias a3-*-8g
, o desempenho depende
se o volume do Hyperdisk ML está anexado à instância no modo somente leitura ou leitura-gravação.
Disponibilidade regional do Hyperdisk ML
O Hyperdisk ML está disponível nas seguintes regiões e zonas:
Região | Zonas disponíveis |
---|---|
Changhua County, Taiwan—asia-east1 |
asia-east1-a |
asia-east1-b |
|
asia-east1-c |
|
Tóquio, Japão—asia-northeast1 |
asia-northeast1-a |
asia-northeast1-b |
|
asia-northeast1-c |
|
Seul, Coreia do Sul—asia-northeast3 |
asia-northeast3-a |
asia-northeast3-b |
|
Jurong West, Singapura—asia-southeast1 |
asia-southeast1-a |
asia-southeast1-b |
|
asia-southeast1-c |
|
Mumbai, Índia—asia-south1 |
asia-south1-b |
asia-south1-c |
|
St. Ghislain, Bélgica—europe-west1 |
europe-west1-b |
europe-west1-c |
|
Londres, Inglaterra—europe-west2 |
europe-west2-a |
europe-west2-b |
|
europe-west3-b |
|
Eemshaven, Países Baixos—europe-west4 |
europe-west4-a |
europe-west4-b |
|
europe-west4-c |
|
Zurique, Suíça—europe-west6 |
europe-west6-b |
europe-west6-c |
|
Tel Aviv, Israel—me-west1 |
me-west1-b |
me-west1-c |
|
Council Bluffs, Iowa—us-central1 |
us-central1-a |
us-central1-b |
|
us-central1-c |
|
us-central1-f |
|
Moncks Corner, Carolina do Sul—us-east1 |
us-east1-b |
us-east1-c |
|
us-east1-d |
|
Ashburn, Virgínia—us-east4 |
us-east4-a |
us-east4-b |
|
us-east4-c |
|
Columbus, Ohio—us-east5 |
us-east5-a |
us-east5-b |
|
us-east5-c |
|
Dallas, Texas—us-south1 |
us-south1-a |
The Dalles, Oregon—us-west1 |
us-west1-a |
us-west1-b |
|
us-west1-c |
|
Salt Lake City, Utah—us-west3 |
us-west3-b |
Las Vegas, Nevada—us-west4 |
us-west4-a |
us-west4-b |
|
us-west4-c |
Proteção contra desastres para volumes do Hyperdisk ML
É possível fazer backup de um volume do Hyperdisk ML com snapshots padrão. Os snapshots fazem backup dos dados em um volume do Hyperdisk ML em um momento específico.
Replicação entre zonas
Não é possível replicar volumes do Hyperdisk ML em outra zona. Para replicar dados em outra zona na mesma região, use volumes do Hyperdisk Balanced High Availability.
Compartilhar um volume de ML do Hyperdisk entre VMs
Para cargas de trabalho de machine learning otimizadas para aceleradores, é possível anexar o mesmo volume do Hyperdisk ML a várias instâncias. Isso permite o acesso simultâneo e somente leitura a um único volume em várias VMs. Isso é mais econômico do que ter vários discos com os mesmos dados.
Não há custos adicionais associados ao compartilhamento de um disco entre VMs. Anexar um disco no modo somente leitura a várias VMs não afeta o desempenho do disco. Cada VM ainda pode alcançar o desempenho máximo de disco possível para a série de máquinas da VM.
Limitações para compartilhar o Hyperdisk ML entre VMs
- Os volumes do Hyperdisk ML não oferecem suporte ao modo de vários gravadores. É possível compartilhar um volume do Hyperdisk ML entre várias instâncias se ele estiver no modo somente leitura.
- Os volumes do Hyperdisk ML não podem ser anexados a uma única instância no modo somente leitura.
- Se você compartilhar um volume do Hyperdisk ML no modo somente leitura, não será possível reativar o acesso de gravação ao disco.
- É possível anexar um volume do Hyperdisk ML a até 100 instâncias durante cada intervalo de 30 segundos.
- Para volumes do Hyperdisk ML, o número máximo de instâncias depende de o tamanho provisionado, da seguinte maneira:
- Volumes com menos de 256 GiB: 2.500 VMs
- Volumes com capacidade entre 256 GiB e 1 TiB: 1.500 VMs
- Volumes com capacidade entre 1 TiB e 2 TiB: 600 VMs
- Volumes com mais de 2 TiB de capacidade: 30 VMs
Se o volume estiver conectado a mais de 20 VMs, será necessário provisionar pelo menos 100 MiB/s de capacidade de processamento para cada VM. Por exemplo, se você anexar um disco a 500 VMs, será necessário provisionar o volume com pelo menos 50.000 MiB/s de capacidade de processamento.
Para saber mais, consulte Modo somente leitura para Hyperdisk.
Preços
Você vai receber cobranças pelo tamanho total provisionado e pela capacidade de processamento dos volumes de ML do Hyperdisk até que eles sejam excluídos. As cobranças são feitas mesmo se o volume não estiver conectado a nenhuma instância ou se a instância estiver suspensa ou interrompida. Para mais informações, consulte Preços de disco.
Limitações
- Os volumes do Hyperdisk ML são zonais e só podem ser acessados na zona em que você criou o volume.
- Não é possível criar uma imagem de máquina em um volume do Hyperdisk.
- Não é possível criar um Instant Snapshot de um volume do Hyperdisk ML.
- Não é possível usar o Hyperdisk ML como discos de inicialização.
- Não é possível criar um disco Hyperdisk ML no modo de leitura e gravação com base em um snapshot ou uma imagem de disco. É necessário criar o disco no modo de leitura para muitos.
- É possível mudar o tamanho de um volume do Hyperdisk ML a cada 4 horas e a capacidade de processamento a cada 6 horas.
A seguir
Adicionar um volume do Hyperdisk ML à VM