A Google assina acordos de resposta à procura com a I&M e a TVA para tornar as cargas de ML flexíveis face à rede

De adiar um transcode do YouTube a adiar tarefas de ML

A Google afirma que as suas primeiras capacidades de resposta à procura em centros de dados envolveram deslocar tarefas de computação não urgentes — o post dá como exemplo o processamento de um vídeo do YouTube — para fora das horas em que a rede está sob pressão. Estas capacidades têm sido postas em prática através de parcerias com a Centrica Energy e o operador de transporte Elia na Bélgica, e com a Taiwan Power Company em Taiwan.

Os dois novos acordos, com a Indiana Michigan Power (I&M) e a Tennessee Valley Authority (TVA), alargam essa mesma ideia a uma categoria de trabalho mais exigente. A Google afirma claramente que estes acordos 'representam a primeira vez que estamos a implementar resposta à procura em centros de dados visando cargas de trabalho de machine learning (ML).' O precedente é uma demonstração com a Omaha Public Power District, na qual a Google reduziu a procura de energia associada a ML durante três eventos na rede no ano passado.

Esta evolução é relevante porque o treino de ML e a inferência em lote estão entre as cargas maiores e de crescimento mais rápido num centro de dados moderno. Tornar essas tarefas escalonáveis em função das condições da rede é um problema diferente de adiar a codificação de um vídeo, e é precisamente essa a capacidade que a Google está agora a assumir por contrato.

O produto é uma classificação de que tarefas podem esperar

Por trás da linguagem contratual com as operadoras, a verdadeira proposta de engenharia é de escalonamento. A resposta à procura só funciona se um sistema conseguir separar de forma fiável a computação entre o que tem de correr já e o que pode ser adiado ou reduzido 'durante certas horas ou períodos do ano,' como refere o post.

A Google descreve a procura flexível como algo que 'pode ser implementado rapidamente, ajudando a colmatar a diferença entre o crescimento de carga a curto prazo e as soluções de energia limpa a longo prazo.' Na prática, essa rapidez vem do software: a capacidade de pausar, limitar ou reposicionar tarefas de ML mediante sinal de um operador de rede. O acordo com a operadora é o contrato; o classificador que decide o que é adiável é o mecanismo.

Um limite rígido de fiabilidade traçado em torno dos serviços voltados para o utilizador

A Google é explícita quanto ao facto de esta flexibilidade ter limites. Escreve que 'há limites à flexibilidade que um determinado centro de dados pode ter, uma vez que níveis elevados de fiabilidade são fundamentais para serviços como o Search e o Maps, bem como para clientes do Cloud em setores essenciais como a saúde.'

Incorporar cargas de trabalho de ML é um passo importante para permitir flexibilidade de procura a maior escala, gerando benefícios de fiabilidade da rede e de poupança de custos nos locais onde estas capacidades são implementadas.Montana Labs

Esta frase traça claramente a linha operacional. O tráfego sensível à latência e voltado para o utilizador — o frontend com que as pessoas interagem diretamente — mantém-se fixo. A capacidade adiável vem do trabalho de ML em segundo plano. A resposta à procura escala precisamente porque as tarefas de ML estão do lado tolerante dessa fronteira, e não porque a Google esteja disposta a tornar o Search mais lento.

O que a contratação de carga de ML flexível sinaliza para o escalonamento sensível à rede

A implicação concreta destes acordos com a I&M e a TVA é que a Google está a tratar a computação de ML adiável como um recurso de rede negociável, e não apenas como uma alavanca interna de eficiência. Steve Baker, da I&M, descreve a flexibilidade de carga como 'uma ferramenta extremamente valiosa' para servir o novo centro de dados da Google em Fort Wayne, associando uma interligação mais rápida de grandes cargas à disposição da Google para reduzir a procura quando solicitado.

A Google admite abertamente que isto está numa fase inicial e é específico de cada local: a flexibilidade 'só estará disponível em determinados locais,' e a empresa refere novos investimentos em geração e transporte de energia como parte do mesmo conjunto de medidas. Mas o ponto estrutural é que a divisão entre serviços urgentes voltados para o utilizador e trabalho de ML deslocável está agora consagrada em contratos com operadoras. Para equipas que gerem grandes frotas de ML, isto reenquadra o escalonamento de tarefas como algo com valor não só em custo e produtividade, mas também em compromissos face à rede — e dá uma importância acrescida a saber exatamente que cargas de trabalho podem, em segurança, ser instruídas a esperar.