Resumo
In today’s fast-paced business world, milliseconds matter. The NVIDIA AI Data Platform, integrated with FlashBlade//EXA and Portworx, enables organizations to not just accelerate inference but also unlock precision reasoning at scale.
Em uma era em que milissegundos podem determinar a liderança de mercado, as empresas enfrentam um desafio crítico: transformar vastos repositórios de dados em inteligência prática com velocidade e precisão sem precedentes. Empresas, hiperescaladores e neonuvem, como clientes Meta e Coreweave, encontraram um sucesso impressionante com o FlashBlade//S e a plataforma da Pure Storage para muitas de suas necessidades de carga de trabalho de AI. Com várias validações de armazenamento certificadas pela NVIDIA, os clientes podem ter certeza de que a implantação da infraestrutura de AI será rápida e tranquila.
Para clientes de grande escala com requisitos sofisticados de inferência de AI artificial, o design de referência da plataforma de dados de AI da NVIDIA implementado com o FlashBlade//EXA e a Portworx® da Pure Storage® redefine como as organizações podem transformar grandes volumes de dados em inteligência em tempo real. Essa pilha abrangente não apenas acelera a inferência, mas desbloqueia o raciocínio de precisão em grande escala, permitindo que empresas de grande escala decodifiquem conjuntos de dados complexos com precisão cirúrgica enquanto mantêm a segurança de nível de produção.
O imperativo da inteligência: Por que velocidade e precisão são importantes
Empresas modernas operam em ambientes onde insights atrasados equivalem a oportunidades perdidas. Uma implementação da plataforma de dados de AI da NVIDIA pela Pure Storage aborda isso combinando computação acelerada com orquestração inteligente de dados, criando um ciclo de feedback entre conhecimento corporativo e raciocínio de AI. Em sua essência, essa infraestrutura permite:
- Análise em tempo real de dados multimodais (texto, imagens, vídeo) com latência inferior a um segundo
- Raciocínio sensível ao contexto em conjuntos de dados distribuídos
- Insights confiáveis e governança de dados por meio de controles de segurança granulares
Ao aproveitar a computação acelerada por meio do NVIDIA Blackwell, da rede da NVIDIA, do software de geração aumentada de recuperação (RAG, Recovery-Augmented Generation), incluindo os microsserviços NVIDIA NeMo Retriever e o AI-Q NVIDIA Blueprint, além da arquitetura otimizada para metadados da Pure Storage, as organizações reduzem o tempo de insights de dias para segundos enquanto mantêm a precisão de inferência muito alta em ambientes de produção.
Figura 1. Implementação da plataforma de dados de AI da NVIDIA pela Pure Storage.
FlashBlade//EXA — O mecanismo de velocidade de dados
O FlashBlade//EXA da Pure Storage elimina gargalos de armazenamento tradicionais com desempenho de taxa de transferência de mais de 10 TB/s em um único namespace, o suficiente para processar toda a coleção da Biblioteca de Congressos em menos de três minutos.
Como a desagregação de nós de dados e Metadata permite inferência em massa em grande escala
A principal vantagem do design desagregado do FlashBlade//EXA é a capacidade de expandir metadados e desempenho de dados de forma independente. Isso significa que as empresas podem combinar com precisão sua arquitetura de armazenamento às demandas específicas de suas cargas de trabalho de inferência sem provisionar demais qualquer componente.
Para cargas de trabalho de inferência que exigem acesso rápido a milhares ou milhões de arquivos menores, a camada de metadados pode ser dimensionada adequadamente. Da mesma forma, para cargas de trabalho que lidam com grandes conjuntos de dados que consistem em arquivos enormes, a camada de dados pode ser expandida sem sobrecarga desnecessária de metadados. Essa flexibilidade permite uma “escalabilidade praticamente infinita”.
A segregação de metadados e processamento de dados fornece acesso a dados sem bloqueio que se torna cada vez mais valioso em cenários de computação de alto desempenho, onde as operações de metadados podem ser iguais ou até mesmo exceder as operações reais de I/O de dados. Essa arquitetura garante que as GPUs sejam consistentemente alimentadas com dados nas taxas mais altas possíveis, eliminando o tempo ocioso caro.
Com sua arquitetura desagregada e extremamente paralela, o FlashBlade//EXA resolve o problema de expandir cargas de trabalho de AI, eliminando o tempo ocioso da GPU para que as empresas possam acelerar o treinamento e a inferência de AI. Essa entrega eficiente de dados é crucial para cargas de trabalho de inferência, em que o desempenho uniforme e previsível é frequentemente mais importante do que as velocidades de pico, o que é possível pelo compartilhamento eficiente de cache KV para cargas de trabalho em expansão e mistas.
A sinergia Portworx e FlashBlade//EXA para aceleração de inferência
A sinergia entre a Portworx e o FlashBlade//EXA acelera a inferência de AI em grande escala combinando o gerenciamento de dados nativos do Kubernetes da Portworx e o cache de modelo inteligente com a arquitetura de armazenamento extremamente rápida e paralela do FlashBlade//EXA. A Portworx garante alta disponibilidade, acesso de baixa latência e expansão contínua de dados de modelo em cargas de trabalho de inferência distribuídas, enquanto o FlashBlade//EXA elimina gargalos de armazenamento e metadados com taxa de transferência excepcional e expansão desagregada. Juntos, eles maximizam a utilização da GPU, minimizam a latência da inferência e fornecem uma base robusta e flexível para implantar e gerenciar pipelines de inferência de AI em ambientes de produção.
A revolução do cache KV desagregado: Precisão em grande escala
A arquitetura KV Cache da NVIDIA reinventa os pipelines de inferência por meio de três inovações:
- Armazenamento em cache de prefixo próximo à GPU
- Armazena padrões comuns de consulta (por exemplo, verificações de conformidade regulatória) diretamente no NVMe adjacente à GPU
- Programação com reconhecimento de carga
- Aloca dinamicamente recursos de pré-preenchimento/decodificação com base na complexidade da consulta
- Mantém 95% de utilização da GPU mesmo durante picos de tráfego
- Agrupamento heterogêneo de GPU
- Permite que clusters mistos de variantes de GPU compartilhem memória de cache KV
Essa solução da Pure Storage complementa os itens acima com os seguintes recursos para oferecer aceleração completa em desempenho de tokens por segundo para implantações de inferência de AI em grande escala.
- Compartilhamento de cache KV: Garante compartilhamento eficiente de cache KV entre o rebanho que se multiplica exponencialmente.
- Alta simultaneidade de E/S: A arquitetura altamente simultânea do FlashBlade® não é apenas ultrarrápida, mas também se destaca nesse padrão de E/S exponencialmente simultânea.
- Redução de dados: Compactação automática do cache KV significa E/S mais rápida e tempos de pré-preenchimento mais curtos.
Segurança como facilitador: RBAC para insights confiáveis em RAG e AI agente
Implementar uma estrutura de controle de acesso baseado em função (RBAC, role-based access control) em uma geração aumentada para recuperação (RAG, Recovery-Augmented Generation) ou pipeline de agente é essencial para o manuseio seguro e eficiente de dados. Isso envolve estabelecer uma camada de permissão unificada para definir funções de usuário e seus direitos de acesso em vários estágios: ingestão, recuperação, processamento e armazenamento de dados. Além disso, os componentes devem dar suporte à compreensão eficiente de consultas para personalizar o acesso aos dados com base nas funções e intenções do usuário, garantindo conformidade com permissões definidas. Os processos de aumento e geração de AI devem integrar dados específicos de contexto em modelos generativos enquanto mantêm protocolos de segurança e acesso. Mecanismos eficazes de auditoria e monitoramento são essenciais para rastrear padrões de acesso e garantir a adesão às regras RBAC, aumentando a segurança geral. As práticas recomendadas de segurança, como empregar um modelo de confiança zero e autenticação baseada em JWT, enfatizam controles de acesso transitórios e seguros enquanto minimizam os impactos do desempenho no pipeline.
A Portworx implementa um modelo de segurança sem confiança que acelera em vez de inibir o acesso aos dados:
- Criptografia granular StorageClass: Criptografa PII confidenciais durante o voo e em repouso enquanto mantém os dados de treinamento acessíveis
- Controle de acesso baseado em JWT: Concede acesso temporário e sensível ao contexto aos fluxos RAG
- Registro em conformidade com a auditoria: Rastreia a linhagem de dados desde a ingestão bruta até a saída de inferência
NVIDIA AI-Q: A camada de inteligência de raciocínio
O AI-Q NVIDIA Blueprint transforma dados estáticos em conhecimento dinâmico por meio de três componentes principais:
- Mecanismos de extração multimodal: Converte esquemas em PDF, manuais de serviço e transcrições de chamadas em gráficos de conhecimento estruturados
- microsserviços NeMo Retriever: Oferece precisão de recall extremamente alta em pesquisas de vetores em escala de bilhões
- NVIDIA do kit de ferramentas NVIDIA Agent Intelligence: Perfil e otimização para sistemas de agente complexos
Quando combinada com a velocidade de dados do FlashBlade//EXA, essa pilha permite o que chamamos de “raciocínio de precisão”, ou seja, a capacidade de obter insights prontos para a diretoria a partir de dados brutos em pouquíssimos ciclos de consulta.
Raciocínio de precisão de potência em grande escala: A nova vantagem competitiva
Empresas que adotam essa pilha relatam resultados transformadores.
Uma implementação da plataforma de dados de AI da NVIDIA pela Pure Storage oferece o que há de melhor em densidade de raciocínio: a capacidade de extrair insights mais acionáveis por terabyte processado. Ao combinar a computação acelerada do NVIDIA Blackwell com a acessibilidade de dados da Pure Storage, as organizações alcançam o que antes era impensável: transformando todo o seu data estate em um ativo de raciocínio estratégico.
Conclusão: Inteligência na velocidade dos negócios
A colaboração entre a Pure Storage e a NVIDIA representa mais do que apenas uma infraestrutura de AI de escala extrema. Nosso longo histórico de colaboração garante que clientes de todos os tamanhos e maturidade de AI possam ser suportados, quer estejam apenas começando com o FlashBlade//S ou AIRI®, ou expandindo para o mais alto nível de requisitos de AI e HPC.
À medida que a AI passa do projeto experimental para o principal motivador de receita, essa plataforma fornece a base para a inteligência contínua: a capacidade de raciocinar, decidir e agir em fluxos de dados ao vivo com precisão de máquina. O futuro pertence a empresas que não apenas armazenam dados, mas os entendem na velocidade do pensamento.
Saiba mais:
FlashBlade//EXA para inteligência AI e HPC em escala extrema
Soluções de AI da Pure Storage
FlashBlade//EXA
Experience the World’s Most Powerful Data Storage Platform for AI
Power AI’s Next Frontier
Learn more about the most powerful data storage platform ever, built for AI.
