Meta já usa milhões de CPUs AMD EPYC e será cliente principal da próxima geração

Meta já usa milhões de CPUs AMD EPYC e será cliente principal da próxima geração - Foto
Fonte da notícia: Adrenaline Adrenaline

O grupo Meta e a AMD aprofundaram sua parceria estratégica com a implantação dos primeiros sistemas AMD Helios em escala de rack na infraestrutura da empresa de Mark Zuckerberg. O acordo prevê que o Meta utilize as soluções Helios da AMD para alimentar modelos de inteligência artificial como o agente Muse, além de suporte day-0 para Muse Spark Open e Muse Glimmer.

A colaboração abrange processadores EPYC, GPUs Instinct e otimização de software aberto, com implantação em escala de gigawatts voltada à era da superinteligência. Lisa Su, presidente do conselho e CEO da AMD, afirmou que o Grupo Meta é um parceiro estratégico construído ao longo de anos de colaboração técnica profunda, desde processadores EPYC na infraestrutura até GPUs Instinct e software aberto para cargas de IA.

Segundo ela, com o Helios em operação no Grupo Meta, a parceria alcança nova escala, com desenvolvimento conjunto de silício, software e sistemas para os modelos mais ambiciosos de superinteligência. Sugestões de compra

Processador AMD Ryzen 5 5500 3.6GHz Notebook Ideapad Slim 3 Ryzen 7 7735HS 8GB + 512GB

Notebook VAIO FE16 AMD Ryzen 5-5625U Windows 11 Home CPUs EPYC Venice e a base do agente Muse

Os processadores EPYC sustentam a base do agente de IA pessoal Muse. A empresa já implantou milhões de processadores EPYC em diversas gerações e é cliente líder das CPUs EPYC de 6ª Geração “Venice”, baseadas na arquitetura de núcleo Zen 6.

O Grupo Meta também colabora com a AMD no desenvolvimento de processadores futuros, como o Verano, projetado para cargas de trabalho de IA agêntica. Uma apresentação da AMD projeta para 2028 o EPYC Florence, com chips identificados como Florence SP7 e SP8, acompanhados das descrições Nó de Host de IA Ferrara e Sandbox Agêntico Fidenza.

O material posiciona o Florence como extensão da liderança EPYC para a era agêntica. Instinct MI450 e GPUs personalizadas

No segmento de GPUs, o Grupo Meta utiliza os aceleradores Instinct da AMD para treinamento, ranking e mecanismos de recomendação. A empresa é cliente de definição inicial da série Instinct MI450 e planeja implantar uma GPU Instinct personalizada, otimizada para suas cargas de trabalho.

A parceria se estende às plataformas futuras Instinct MI500 e aos sistemas em escala de rack de próxima geração. A frota do Grupo Meta é heterogênea e combina GPUs NVIDIA, GPUs AMD e aceleradores proprietários MTIA, arranjo adotado para reduzir custos e mitigar o aprisionamento a fornecedores.

O histórico extenso de otimizações específicas para NVIDIA, porém, limita a portabilidade de desempenho para outros hardwares. Otimização de software e suporte day-0

AMD e Grupo Meta expandiram a colaboração em software para treinamento de IA em larga escala, com otimização de modelos nas GPUs Instinct MI350X e contribuições para PyTorch, Triton e ROCm. O avanço do ROCm por meio do PyTorch permite que desenvolvedores utilizem GPUs AMD imediatamente, o que viabilizou o suporte day-0 ao modelo Muse Spark Open nas GPUs Instinct e a chegada do Muse Glimmer aos PCs Ryzen AI e às GPUs Radeon.

Otimizações do Muse Spark OpenO modelo (816B total / 42B ativos MoE, contexto de 1M) roda em um único nó 8x MI350X com vLLM em BF16, MXFP4 e FP8. Funciona como um motor grande que cabe em uma única carcaça.Ajustes na etapa de processamento (como otimização de memória, organização interna dos blocos e redução de 180 comandos repetidos por ciclo) aumentaram a velocidade do sistema de IA de 206 para 350 tokens/s com 4 usuários ao mesmo tempo, e de 719 para 1.180 com 32 usuários.A divisão inteligente do trabalho (ativando o paralelismo de especialistas nas placas de vídeo) aumentou a velocidade de entrega em até 20% ao processar entre 32 e 128 pedidos ao mesmo tempo, além de reduzir o tempo de espera inicial em 24%, atingindo a marca de 2.197 tokens/s.Uma tabela pronta do AITER envia pequenos lotes direto para um processador rápido, sem perder tempo organizando os dados.

A velocidade de resposta sobe de 98 para 114 tokens por segundo (+16%) usando 8 placas de vídeo, sem mudar o código, pois a tabela já vem inclusa no sistema. É um ganho que já vem pronto de fábrica.O sistema de previsão do AITER usa técnicas inteligentes para acelerar a leitura e guardar dados temporários de forma eficiente.

Com isso, a velocidade atinge 199 tokens por segundo em uma única tarefa: um ganho de +72% em relação ao método anterior, que diminui para +47% com 2 pedidos, +31% com 4 e +6% com 32 pedidos simultâneos. Funciona como um adiantamento de tarefa que evita espera.A nota em testes de matemática fica entre 94,4% e 95,5% em todas as formas de uso do sistema supercompacto.

A precisão se mantém estável como uma balança que não desregula.A melhor escolha de configuração aponta para o uso de 8 placas divididas por tarefa com o sistema de previsão para até 64 pedidos simultâneos (ou o sistema simples para um único usuário) e muda para 8 placas divididas por especialista acima disso.

Escolhe-se a marcha certa conforme o terreno. MI350X contra B200: co-design e ganho de vazão

O artigo técnico do Grupo Meta detalha métodos de otimização de aceleradores alternativos, usando a comparação entre AMD Instinct MI350X e NVIDIA B200 no treinamento de modelos de recomendação como estudo de caso. O documento propõe três princípios reutilizáveis, sendo o primeiro o co-design hardware-modelo: em vez de portar modelos diretamente de GPUs NVIDIA, a revisão das estruturas dos modelos e das receitas de software permite explorar os pontos fortes específicos do acelerador, como a capacidade de HBM 1,6x maior da MI350X em relação à B200.

“O segundo princípio é uma fórmula que calcula o rendimento do sistema e escolhe as melhores ferramentas de processamento sem precisar de testes prévios, funcionando com vários formatos de arquivos e modelos reais, o que facilita a regulagem. Leia mais

PS6 portátil pode ser o único handheld com GPU AMD RDNA 5 customizada AMD enfim trabalha em driver para overclock de CPUs Ryzen no Linux

AMD Ryzen Chipset Driver 8.09.28.1124 traz correções de bugs Fluxos agênticos ampliam o alcance do ROCm

O terceiro se apoia em fluxos de trabalho agênticos maduros, que reduziram a barreira para portar do ecossistema CUDA; esses fluxos foram estendidos para otimizações de kernel cientes da microarquitetura e geração de shims personalizados. Comparado ao sistema original convertido sem mudanças, esse grupo de técnicas entrega até 1,5x mais velocidade no treinamento do início ao fim.

De acordo com o documento, este é o primeiro relatório de uma grande empresa de tecnologia sobre o uso real de chips gráficos AMD para treinar sistemas gigantes, com melhorias enviadas diretamente para as ferramentas de código aberto PyTorch, Triton e ROCm. A combinação de CPUs EPYC (incluindo Venice), sistemas Helios em escala de rack e GPUs Instinct com co-otimização profunda de software e ecossistemas abertos como ROCm e PyTorch viabiliza os modelos mais ambiciosos do Grupo Meta e reduz a dependência de qualquer fornecedor único.

Para finalizar, ressaltamos que o resultado são caminhos mais rápidos e eficientes para a IA em produção, de sistemas de recomendação a agentes de próxima geração. E aí? O que achou da novidade? Compartilhe o seu ponto de vista nesta publicação e continue acompanhando o Adrenaline!

Fonte: WCCFtech Conteúdo Relacionado

Em breve! Microsoft prepara Windows 11 para aproveitar nova tecnologia dos futuros processadores Intel e AMD

Publicação Original Adrenaline adrenaline.com.br
Acessar no site oficial
Compartilhar: WhatsApp Facebook Telegram X
Curadoria e Apuração Editorial QTU Conteúdo jornalístico publicado em conformidade com os nossos Princípios Editoriais e política de transparência.
Conhecer a Redação →