Portuguese
A DeepInfra lançou oficialmente um novo centro de dados de IA em Toronto, representando a primeira implantação da empresa no exterior fora dos EUA e sua nona instalação em todo o mundo.Este novo local estende a infraestrutura global de inferência da DeepInfra, em meio a uma ampla mudança na demanda da indústria de IA de treinamento de modelos para cargas de trabalho de inferência comercial.
O centro de dados de Toronto tem 1,7 MW de capacidade de energia e irá abrigar mais de 1.000 GPUs NVIDIA Blackwell B300.O novo cluster de computação aumentará a escala de inferência global da DeepInfra e proporcionará uma latência de rede reduzida para usuários finais no Canadá e em outras regiões globais.
Esta expansão alinha-se com uma clara transição em toda a indústria.A demanda de infraestrutura de data center está cada vez mais focada em cargas de trabalho de inferência em vez de tarefas de treinamentoA inferência de grandes modelos de linguagem requer disponibilidade de GPU consistente, rede de baixa latência e infraestrutura geograficamente dispersa para alimentar aplicativos interativos, agentes inteligentes de IA,e serviços de API de alto rendimentoDe acordo com a pesquisa da McKinsey & Company referida no anúncio, as cargas de trabalho de inferência excederão 40% da demanda total de data centers até 2030, com uma taxa de crescimento anual composta de 35%.
A DeepInfra afirma que a implantação em Toronto foi construída para atender a estas necessidades em evolução.colocando os recursos de computação da GPU mais próximos dos usuários finais e das fontes de dados locais, expandindo ao mesmo tempo a capacidade global da plataformaA empresa possui e opera de forma independente sua pilha completa de infraestrutura de GPU, suportando mais de 200 modelos de IA de código aberto.,abrangendo as implementações de modelos abertos e proprietários.
O lançamento também destaca a crescente adoção da arquitetura Blackwell da NVIDIA para infraestrutura de inferência moderna.As GPUs Blackwell oferecem maior rendimento de inferência e melhor eficiência energética para grandes modelos de linguagem e cargas de trabalho de IA multimodalEmbora a DeepInfra não tenha divulgado mais detalhes sobre arquitetura de rede e armazenamento,implantações em larga escala deste calibre tipicamente alavancam interligações de alta largura de banda e armazenamento distribuído para manter a utilização total da GPU.
Como observado por Nikola Borisov, CEO e co-fundador da DeepInfra, a IA empresarial passou de testes experimentais para lançamentos de produção em larga escala,impulsionar uma maior procura de infraestruturas globalmente distribuídas com baixa latência e capacidades de inferência escaláveisEle explicou que o cluster de Toronto marca a primeira expansão internacional da empresa para além das fronteiras dos EUA, posicionando os recursos de computação próximos dos clientes globais e dos seus conjuntos de dados.
A instalação de Toronto vem após a recente rodada de financiamento da série B da DeepInfra e serve como uma parte fundamental do seu roteiro de expansão de infraestrutura a longo prazo.A empresa confirma que está avaliando locais adicionais de data centers internacionais para atender à crescente demanda do mercado por serviços de inferência movidos por GPU.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Diretora Global de Estratégia
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
Foco em Negócios:
Distribuição de produtos TIC/Integração de sistemas e serviços/Soluções de infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parcerias com as principais marcas globais para fornecer produtos confiáveis e serviços profissionais.
¢Utilizando a tecnologia para construir um mundo inteligente ¢O seu prestador de serviços de produtos TIC de confiança!
Sandy Yang, Diretora Global de Estratégia
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
Foco em Negócios:
Distribuição de produtos TIC/Integração de sistemas e serviços/Soluções de infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parcerias com as principais marcas globais para fornecer produtos confiáveis e serviços profissionais.
¢Utilizando a tecnologia para construir um mundo inteligente ¢O seu prestador de serviços de produtos TIC de confiança!