O setor global de flash e memória teve intensa atividade no fim de semana, apresentando uma disputa Micron-Apple, negociações de fornecimento de chips da Anthropic com SK Hynix, uma nova parceria Nvidia-SK Hynix, progresso de DRAM 3D da SK Hynix e inovação de pool de memória CXL da Samsung.
A SK Hynix dominou as manchetes recentes do setor. O analista da Citrini, Jukan, confirmou que a empresa está desenvolvendo DRAM empilhada em 3D, apoiada pela contratação estratégica de engenheiros de design de DRAM em lógica empilhada em 3D por meio de sua subsidiária em San Jose, nos EUA. O recrutamento visa talentos capazes de co-projetar matrizes lógicas DRAM empilhadas em 3D com vários clientes baseados nos EUA.
A nova arquitetura coloca pilhas de DRAM 3D sobre processadores semicondutores de sistema. A integração de DRAM e lógica em um único chip oferece conectividade entre chips mais rápida e menor consumo de energia do que a ligação tradicional pacote-em-pacote (PoP) de memória separada e pacotes lógicos.
Jukan observa que a tecnologia tem como alvo dispositivos de carga de trabalho de IA que exigem alta largura de banda de memória e baixo consumo de energia, principalmente processadores de aplicativos móveis para smartphones – posicionando a Apple como um cliente potencial importante da SK Hynix.
O SK Group expandiu sua parceria estratégica com a Nvidia por meio de cartas formais de intenções, formando uma colaboração avaliada em mais de US$ 500 bilhões. A SK Telecom construirá uma Nvidia Vera Rubin DSX AI Factory de 2 gigawatts como um novo provedor de nuvem para atender à demanda global de computação. Os chips Vera Rubin adotarão a memória HBM4 da SK Hynix, com lançamento da primeira AI Factory programado para 2027.
A parceria visa acelerar o desenvolvimento de infraestruturas de IA em grande escala, abrangendo serviços de IA soberanos, físicos, de agentes e empresariais, e responder à crescente procura de IA em toda a Coreia do Sul e na região mais ampla da Ásia-Pacífico. A SK Hynix também lançará uma parceria de memória de IA de longo prazo com a Nvidia, garantindo o fornecimento estável de memória de IA de próxima geração para a Nvidia e, ao mesmo tempo, ampliando a capacidade de produção da SK Hynix. Ambos os lados irão co-desenvolver e otimizar HBM e outras soluções de memória de IA para treinamento LLM, cenários de IA físicos e de agente.
O presidente do Grupo SK, Chey Tae-won, afirmou que a colaboração aproveitará a memória de IA da SK Hynix e os pontos fortes da infraestrutura da SK Telecom para construir uma fábrica de IA de classe mundial, transformando a Coreia do Sul de um adotante de IA em um centro global de inovação de IA.
O ex-CEO da Intel, Pat Gelsinger, criticou abertamente a HBM durante um bate-papo na indústria coreana, chamando-a de uma solução de memória imperfeita. Ele apontou as principais falhas da HBM: problemas de empilhamento térmico, limites de conectividade restringidos pelas margens da GPU, baixa eficiência de energia e ineficiência de bits – sacrificando cerca de quatro bits de memória por bit operacional efetivo. Mesmo assim, Gelsinger reconheceu que a HBM é a melhor solução viável disponível atualmente.
O vice-presidente sênior da SK Hynix, Hoshik Kim, endossou parcialmente a visão de Gelsinger, afirmando que a HBM não pode resolver fundamentalmente o gargalo inerente à parede de memória da IA. Ele esclareceu que a HBM serve apenas como uma medida de mitigação temporária, enquanto a SK Hynix desenvolve ativamente soluções alternativas para enfrentar o desafio da parede de memória central.
De acordo com a Bloomberg, a empresa líder de IA dos EUA, Anthropic, está negociando com a SK Hynix o fornecimento de chips de memória dedicados para suportar seus processadores internos de IA personalizados. O presidente do SK Group, Chey Tae-won, revelou a notícia em julho de 2024 no San Francisco AI Summit, onde o CEO da Anthropic, Dario Amodei, também falou, elogiando os ambiciosos objetivos de desenvolvimento de hardware da Anthropic em meio aos esforços generalizados da indústria para quebrar o domínio da GPU da Nvidia. Amodei não respondeu publicamente aos comentários.
A Samsung alcançou desempenho DRAM quase nativo para cargas de trabalho de inferência de IA usando memória externa agrupada CXL para descarregamento de cache KV, de acordo com seu blog técnico oficial. Os LLMs dependem do cache KV para armazenar chaves e valores de atenção computados para reduzir a latência de inferência e a computação redundante, mas modelos grandes exigem centenas de gigabytes de cache, excedendo facilmente a memória do processador de IA integrado. O SSD convencional ou o descarregamento baseado em rede facilitam os limites de capacidade, mas introduzem latência extra e sobrecarga de largura de banda.
A tecnologia CXL quebra as restrições físicas tradicionais de DRAM por meio de interconexões PCIe coerentes de alta largura de banda, permitindo pool de memória escalonável em vários dispositivos por meio de switches CXL. O CMM-D (CXL Memory Module-DRAM) da Samsung foi desenvolvido especificamente para esta arquitetura de memória expandida.
A Samsung testou seus módulos CMM-D com GPUs Nvidia RTX PRO 6000 Blackwell em PCIe Gen5, construindo um pool de memória CXL de 1 TB com otimizações de software vLLM e LMCache. Os testes verificaram que o pool suporta descarregamento de cache KV em grande escala com desempenho próximo de DRAM. Em configurações de GPU única, o pooling CXL otimizado correspondia ao desempenho da DRAM como back-end do LMCache. Em ambientes multi-GPU com oito GPUs, ele reteve 92% da taxa de transferência de DRAM nativa com capacidade de memória muito maior.
Testes adicionais compararam uma configuração DRAM local de 512 GB e um pool CXL de 1 TB sob cargas crescentes de cache KV. A DRAM local sofreu graves quedas de desempenho devido à recomputação repetida do cache quando a capacidade foi excedida, enquanto o pool CXL manteve desempenho estável e suportou espaços de cache muito maiores. Detalhes completos do teste estão disponíveis no white paper da Samsung para download.
A Samsung observa que as implantações atuais de switch CXL exigem ajustes de kernel e software em nível de host para LMCache e outros componentes. Ainda assim, o pool de memória baseado em CXL 3.0 mostra um forte potencial de aplicação, com maturação contínua do ecossistema via Intel DMR, AMD Venice e novas plataformas de switch CXL 3.0 para eliminar as limitações técnicas existentes.
Finalmente, surgiu uma divisão crescente entre a Micron e a Apple. Citando relatórios do WSJ, Jukan da Citrini revela que a Apple está fazendo lobby junto à Casa Branca para obter aprovação para implantar a DRAM CXMT listada na China em seus dispositivos, enquanto a Micron está entrando com contra-recursos para bloquear a adoção do chip CXMT. O atrito decorre de um rancor de longa data do CEO da Micron, Sanjay Mehrotra, que remonta à sua gestão na Sandisk, quando a Apple forçou preços baixos de memória flash durante um mercado comprador. Com o atual mercado de memória favorecendo os fornecedores, Mehrotra não está disposto a aliviar os preços e as restrições de fornecimento para a Apple.
Pequim Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Diretora de Estratégia Global
WhatsApp/WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
Foco de negócios:
Distribuição de produtos de TIC/integração de sistemas e serviços/soluções de infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parcerias com marcas líderes globais para fornecer produtos confiáveis e serviços profissionais.
“Usando a tecnologia para construir um mundo inteligente”Seu provedor confiável de serviços de produtos de TIC!
Por favor verifique seu email!
Portuguese
