notícias da empresa sobre Panmnesia e Meta adotam visão de chip único baseada em CXL para data centers de IA

A fornecedora de tecnologia da Meta e da CXL, Panmnesia, diz que os data centers de IA precisam ser vistos como um único recurso de processamento coordenado, não como um conjunto co-localizado de servidores independentes.

O centro de dados de IA deve ser um recurso fortemente acoplado, com um único domínio de coerência, como um chip de CPU.que têm muitos domínios de coerênciaOs centros de dados de IA podem executar um único trabalho em centenas, até milhares, de GPUs, aproximadamente semelhantes a uma carga de trabalho de computação de alto desempenho envolvendo núcleos de processador coordenados,Memória e ligações de rede.

A Panmnesia e a Meta propuseram conjuntamente uma arquitetura de datacenter de IA de próxima geração como esta, na qual o datacenter opera como um único chip.Uma revista Nature Portfolio.

Myoungsoo Jung
Myoungsoo Jung, CEO da Panmnesia, disse: "À medida que os sistemas de IA continuam a aumentar,A capacidade de ligar um grande número de aceleradores e dispositivos de memória de forma rápida e eficiente está a tornar-se tão importante como o desempenho dos aceleradores individuaisEsta pesquisa descreve uma direcção para a infra-estrutura de IA de próxima geração, onde o CXL permite que todo o datacenter funcione como um único sistema de computação.

Os componentes de um único chip de processamento, núcleos, etc., são concebidos e colocados de modo a terem caminhos de ligação uniformes num único domínio de coerência e a desempenharem o seu trabalho num tempo determinado,forma coordenada e controladaEm contraste, os data centers existentes têm processadores de servidores e armazenamento em prateleiras de rack com ligações e switches de rede dentro e entre racks.Não há uma estrutura de controle para que o processamento do servidor seja coordenado.

Centro de dados tipo chip
A Panmnesia diz: "Nos datacenters atuais, os aceleradores dentro de um rack são ligados por interligações de escala rápida,enquanto as conexões que saem do rack e as conexões com dispositivos que não aceleradores dependem de redes de escala mais lentasMedições de tais ambientes mostram distribuições de latência pesadas, com 99o percentil de retardo de ida e volta aproximadamente cinco vezes a mediana.E quanto mais dispositivos participarem, quanto mais frequente e mais grave ocorrer.

Para que um datacenter de IA funcione de forma eficiente e rápida, é necessário o controlo e a coordenação tanto no rack como entre racks de GPUs, a sua memória e armazenamento.,Diz, reduzir a variação de latência entre dispositivos para que o datacenter como um todo se comporte de forma previsível é tão importante quanto melhorar o desempenho de dispositivos individuais ou a velocidade da ligação.

Panmnesia LAU
A Meta e a Panmnesia propõem que o CXL seja utilizado como base para isso, com novos conceitos que lhe permitam operar no nível de rack multi-GPU.O CXL estendido fornece coerência de cache entre os racks de aceleradores em seu esquema, suportando um número maior de dispositivos do que o rack-scale da Nvidia, baseado no NVLink GB200 NVL72 e UALink.

Ele define as regras básicas para juntar dispositivos, mas não roteamento de dados e latência.
Interruptor sem bloqueio de alta ventilação: conecta muitos dispositivos ao mesmo tempo, reduzindo o número de saltos e mantendo os comprimentos de caminho semelhantes independentemente da fonte.
Unidade de aceleração de link (LAU): move o processamento de protocolo repetitivo em cada ponto de conexão para um pipeline de hardware dedicado, tornando o comportamento de nível de hop mais regular e limitando a variação de latência.
Controlador de tecido: aplica a mesma política de encomenda para o tratamento de solicitações em todo o sistema, de modo que as transações sejam processadas de forma consistente, independentemente do dispositivo pelo qual passam.

Panmnesia com ventilador alto e interruptor sem bloqueio
O controlador de tecido (um controlador CXL/PCIe combinado) e a LAU completaram a validação do silício e o interruptor de tecido foi fabricado como um chip físico de silício.com o silício de pré-lançamento agora sendo fornecidoIsto demonstra que a arquitetura proposta é válida ao nível do silício fabricável.

A sua arquitetura agrupa CPUs, aceleradores, memória e interruptores por função em bandejas, grupos de bandejas em pods,e conecta as cápsulas através de um tecido uma hierarquia de tecido regular concebida para preservar o salto fixo, mais consistentes caminhos de comunicação e tempo.

Controlador de tecido Panmnesia
Em comparação com o projeto da Nvidia, em que uma CPU é acoplada a dois aceleradores através do NVLink-C2C, o interior do rack é conectado pelo NVLink,e servidores e racks são unidos por uma rede de escala, como Ethernet ou InfiniBand, o seu esquema:
Fornece um aumento de 8 vezes nos aceleradores diretamente coordenados por uma única CPU; de 2 para 16,
Permite que até 960 aceleradores operem em conjunto num único domínio de coerência,
Reduz a latência de acesso de dados do nível de microssegundos para várias centenas de nanossegundos; aproximadamente uma ordem de magnitude menor,
A unidade de substituição de falha torna-se um dispositivo único com mau funcionamento em vez de um servidor.Separar os recursos por tipo permite que o sistema substitua apenas os dispositivos com mau funcionamento, em vez de um servidor inteiro, evitando o desperdício de recursos e paradas operacionais prolongadas.

A Panmnesia já implementou os principais componentes da arquitetura em silício, completou a validação e está agora a prepará-los para fornecimento comercial.Os desenvolvimentos futuros buscam interconexões ópticas para aumentar a velocidade e a escalabilidade.

Nota de arranque
A referência do artigo NREE está disponível.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Diretora Global de Estratégia
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
Foco em Negócios:
Distribuição de produtos TIC/Integração de sistemas e serviços/Soluções de infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parcerias com as principais marcas globais para fornecer produtos confiáveis e serviços profissionais.
¢Utilizando a tecnologia para construir um mundo inteligente ¢O seu prestador de serviços de produtos TIC de confiança!