notícias da empresa sobre Instintivo e EPYC; VAST Data estabelece ampla colaboração AMD CPU/GPU

John Mao

Principais pilares da colaboração alargada

• - VAST adota a 6a geração AMD EPYC (nome em código Venice) para alimentar suas plataformas CBox de 6a geração e EBox de 3a geração subjacentes ao VAST AI OS.fornecendo o dobro da largura de banda de E/S e uma latência mais baixa do que a PCIe Gen 5 para os serviços de dados de IA suportados pela VAST DataBase e pela DataEngine, incluindo bancos de dados, armazéns de dados e streaming de eventos.
• - Uma Arquitetura de Referência de Infraestrutura de IA tripartita co-desenvolvida pela VAST, AMD e DriveNets, incorporando hardware de IA de escala de rack da AMD Helios, VAST AI OS e redes de tecido de IA da DriveNets.O plano detalha o apoio às infra-estruturas de formação, inferência, aprendizagem de reforço e cargas de trabalho de cache KV, além de orientação de dimensionamento para equipes que constroem fábricas de IA.
• - Parcerias de ecossistema mais amplas com TensorMesh, EmbeddedLLM e outros fornecedores para acelerar pilhas de inferência de nível de produção otimizadas para IA agente.
• - Novas otimizações de cache e inferência KV que combinam GPUs AMD Instinct, Infinity Context, software ROCm e VAST AI OS.
• - Gestão automatizada do ciclo de vida do cache KV: a limpeza do cache que contém dados pessoais sensíveis coloca grandes obstáculos à conformidade das empresas.A pilha integrada aproveita as regras nativas do ciclo de vida de dados do VAST para expirar e apagar automaticamente os dados do cache KV, proporcionando segurança robusta, privacidade e conformidade regulamentar sem trabalho administrativo manual.
• -AMD Pensando Pollara 400 AI NIC cria vias de dados de alta velocidade ligando GPUs Instinct para VAST AI OS.transfere dados entre a memória GPU e os clusters de armazenamento NVMe SSD do VAST, alimentando cache KV e acesso de armazenamento crítico para inferência em larga escala e IA agente.
• - Implementações verificadas nos principais provedores de nuvem de IA que oferecem serviços de IA baseados em AMD globalmente, incluindo 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave e Vultr.