NVIDIA e OpenAI Revolucionam o Desempenho da Inteligência Artificial com Novos Modelos de Código Aberto
A NVIDIA e a OpenAI anunciaram grandes avanços no desempenho da inteligência artificial com o lançamento dos modelos gpt-oss-20b e gpt-oss-120b. Esses modelos de código aberto são otimizados para a arquitetura Blackwell e prometem uma velocidade impressionante, atingindo até 1,5 milhões de tokens por segundo (TPS) em sistemas NVIDIA GB200 NVL72, permitindo atender simultaneamente cerca de 50.000 usuários.
Os novos modelos, focados em raciocínio textual, incorporam uma capacidade inovadora de chain-of-thought, além de chamadas a ferramentas, utilizando uma arquitetura Mixture of Experts (MoE) com ativações SwigGLU. Com camadas de atenção que suportam até 128.000 tokens, alternam entre atenção completa e uma janela deslizante de 128 tokens, proporcionando flexibilidade e eficiência na manipulação de dados.
Ambas as versões estão disponíveis em precisão FP4, permitindo que o modelo de 120B de parâmetros opere em uma única GPU de data center com 80 GB de memória, aproveitando totalmente os recursos da arquitetura Blackwell.
O treinamento do gpt-oss-120b demandou mais de 2,1 milhões de horas em GPUs NVIDIA H100 Tensor Core, enquanto o gpt-oss-20b utilizou aproximadamente dez vezes menos tempo. Para otimizar ainda mais o desempenho, a NVIDIA colaborou com empresas como Hugging Face e Ollama, implementando melhorias específicas em núcleos de atenção e pré-processamento.
A flexibilidade de implantação é um dos pontos fortes, com opções que vão desde data centers até PCs locais. Em ambientes corporativos, a plataforma open source NVIDIA Dynamo melhora a interatividade em sequências longas, e os modelos também estão disponíveis como microserviços prontos para serem integrados a diversas infraestruturas.
O sistema GB200 NVL72, que combina 72 GPUs Blackwell, proporciona um desempenho sem precedentes, permitindo que a plataforma atenda à demanda por modelos de última geração de forma eficiente e a baixo custo.
A colaboração entre NVIDIA e OpenAI não apenas estabelece um novo marco na inferência de modelos de linguagem em grande escala, mas também oferece uma arquitetura desenhada para escalabilidade e acessibilidade, trazendo inteligência artificial de alto desempenho a todos os desenvolvedores, independentemente do ambiente em que atuam.
