Benchmark público de energia de IA ML.ENERGY da University of Michigan

A inteligência artificial pode parecer algo sem peso - apenas texto, imagens e vídeo num ecrã. Só que cada prompt é processado em servidores que consomem eletricidade de verdade, e novas medições indicam que certas tarefas de IA exigem muito mais energia do que outras.

Testes diretos em sistemas modernos mostram que gerar um único vídeo com IA pode gastar mais de 100 vezes mais eletricidade do que gerar uma imagem.

Essa disparidade não se explica apenas pelo tamanho do modelo. Ela varia conforme o que o sistema precisa produzir e de que forma está configurado.

Para deixar essas diferenças mais evidentes, engenheiros da University of Michigan (U-M) criaram um sistema público de benchmark que expõe o consumo de energia lado a lado com velocidade e qualidade, comparando os mesmos modelos e tarefas.

Um novo benchmark de energia de IA

No ML.ENERGY Leaderboard, essas diferenças de energia aparecem de forma clara ao lado das métricas de velocidade e qualidade para os mesmos modelos e tarefas.

Ao desenvolverem o kit de ferramentas aberto por trás desse placar, os engenheiros registaram como implementações diferentes do mesmo modelo podem puxar quantidades de eletricidade radicalmente distintas.

Ao analisar sistemas de linguagem, imagem e vídeo, as maiores variações não vieram apenas do número de parâmetros, mas sobretudo de como cada sistema foi configurado e do que foi solicitado a ele.

Quando esses contrastes são vistos em paralelo, fica evidente que o uso de energia não é um “custo fixo” da capacidade de IA; é um resultado variável, moldado por escolhas de design que merecem uma análise mais cuidadosa.

Como o consumo de energia da IA foi medido

No artigo, a equipa da U-M registou energia em 46 modelos e sete tarefas, totalizando 1.858 combinações de hardware e software.

As medições focaram a inferência - o instante em que um modelo já treinado responde a um pedido - porque é nessa fase que os servidores realizam a maior parte do trabalho.

No cenário económico mais amplo da IA, o ML.ENERGY Benchmark estimou que a inferência representa 80 a 90 por cento da procura total por computação.

Projeções recentes da International Energy Agency indicam que a procura de centros de dados nos Estados Unidos foi de 183 terawatt-hora em 2024 e pode chegar a 426 terawatt-hora até 2030.

O timing molda o uso de energia da IA

Nos modelos de linguagem, o consumo de energia variou bastante conforme o modo de geração das respostas. Nos testes, tarefas de resolução de problemas chegaram a gastar 25 vezes mais eletricidade por resposta do que conversas informais.

A diferença, em grande parte, está nos tokens - pequenos blocos de texto produzidos pelo modelo. Cada token adicional aciona uma nova rodada de cálculos e tráfego de memória dentro do servidor.

Em modo de raciocínio, os modelos frequentemente produziram cerca de dez vezes mais tokens, o que também diminuiu o número de pedidos que o sistema conseguia atender em simultâneo.

Como saídas mais longas consomem mais eletricidade, reduzir o tamanho da resposta ou interromper a geração mais cedo pode baixar o consumo, mesmo quando o prompt permanece igual.

O processamento em lote também alterou a conta. Ao agrupar muitos pedidos, os servidores reduziram a energia por token de três a cinco vezes, até que os ganhos se estabilizassem. Esse ajuste - conhecido como tamanho do lote - melhora a eficiência do hardware ao manter os chips mais ocupados.

O contraponto é a velocidade. Lotes maiores atrasam cada resposta, porque o sistema precisa concluir mais trabalho antes de devolver o próximo token.

Em serviços que precisam parecer instantâneos, lotes menores podem compensar o custo extra de energia, já que os utilizadores tendem a perceber mais a latência do que o consumo elétrico.

Quando o hardware atrasa tudo

O consumo de energia não depende apenas do modelo de IA. Em alguns cenários, o maior desperdício aparece nas etapas que o rodeiam.

Sistemas de IA dependem de chips potentes chamados GPUs para executar a maior parte dos cálculos. Porém, mesmo quando uma GPU está à espera de dados, ela continua a consumir eletricidade. Isso significa que a energia pode ser desperdiçada simplesmente porque o sistema não está plenamente coordenado.

Em tarefas de imagem e vídeo, o pedido muitas vezes precisa de preparação adicional antes de chegar à GPU.

Essa preparação costuma correr em processadores comuns e, se demorar demasiado, a GPU fica ociosa - ligada, mas sem fazer trabalho útil.

Nessas situações, trocar por uma GPU mais rápida nem sempre resolve. Se outras partes do software continuarem lentas, o chip caro ainda passa tempo à espera - e continua a gastar energia durante essa espera.

Como a computação impulsiona o consumo

Para geradores de imagem e vídeo, a eletricidade gasta dependeu menos da contagem de parâmetros e mais do que os utilizadores pediram para o sistema criar.

Um vídeo curto feito por IA pode exigir muito mais energia do que uma única imagem, por causa da forma como a geração acontece.

Modelos de difusão - sistemas que refinam ruído visual passo a passo - voltam a executar repetidamente as operações matemáticas centrais.

Mais passos, resolução mais alta e mais fotogramas aumentam a computação e a movimentação de memória, elevando o consumo a cada melhoria.

Reduzir a resolução ou o número de fotogramas pode diminuir rapidamente a procura de energia, mas esses ajustes também afetam a nitidez da imagem e a qualidade do movimento.

Definições de precisão e padrões de tráfego

As definições de precisão acrescentaram mais uma camada de complexidade. Mesmo com o modelo inalterado, formatos numéricos menores nem sempre reduziram o consumo de eletricidade em implementações reais.

Com quantização - armazenar números com menos bits - os servidores moveram menos dados, mas tiveram de executar trabalho adicional de conversão.

Com tamanhos de lote pequenos, esse overhead por vezes impediu o hardware de operar com eficiência, fazendo subir tanto o atraso quanto o consumo de energia.

Por isso, a configuração de precisão mais eficiente depende dos padrões de tráfego, e a melhor escolha pode mudar à medida que a carga do sistema varia.

Mais GPUs, resultados mistos

Distribuir um modelo por mais GPUs geralmente reduziu o tempo de resposta, mas, no mesmo tamanho de lote, o consumo total de energia na maioria das vezes aumentou.

Dispositivos adicionais precisam de se coordenar por ligações rápidas, e essa coordenação cria overhead que não gera novos tokens.

Quando limites de memória impediam lotes maiores numa única GPU, espalhar o modelo por várias GPUs por vezes reduziu o consumo total de energia.

As decisões práticas dependem do nível de atraso que os utilizadores aceitam e de o modelo caber bem em menos chips.

Projetar IA com energia em mente

Em vez de tratar a energia como um efeito colateral invisível, as equipas podem medi-la por pedido enquanto constroem e testam o sistema.

Varreduras automatizadas podem rodar em modelos e hardware internos, usando o kit de ferramentas da U-M para experimentar configurações que atinjam um atraso-alvo sem ultrapassar um orçamento de energia.

Como muitos serviços comerciais mantêm dados de consumo em sigilo, o leaderboard público foca modelos de pesos abertos, cujos parâmetros internos ficam disponíveis para análise e comparação. Essa transparência também evidencia uma lacuna maior no sector.

“A realidade não é preto no branco, e há muita coisa que não sabemos porque ninguém está a disponibilizar medições diretas do consumo de energia da IA”, disse Chowdhury.

Números claros de energia ligam o que um modelo escreve, como os servidores operam e como o hardware se comporta, tudo dentro de um único orçamento viável.

À medida que mais grupos publicarem medições diretas, programadores, planeadores da rede elétrica e compradores poderão discutir o crescimento da IA com evidências, em vez de cálculos de pior caso. Também poderão desenhar sistemas que considerem desempenho e energia desde o início.