NVIDIA wprowadza akcelerację dla modelu DiffusionGemma od Google DeepMind

Modele dyfuzyjne stają się jedną z najszybciej rozwijających się gałęzi współczesnej sztucznej inteligencji. Stanowią one alternatywę dla tradycyjnego podejścia opartego na sekwencyjnym generowaniu tokenów, umożliwiając równoległe przetwarzanie i znacząco skracając czas odpowiedzi w aplikacjach AI.

NVIDIA ogłosiła, iż od dnia premiery zapewnia pełną akcelerację dla nowego modelu DiffusionGemma stworzonego przez Google DeepMind. Optymalizacje obejmują szerokie portfolio produktów, w tym karty graficzne GeForce RTX, NVIDIA RTX PRO, a także DGX Spark, DGX Station oraz NVIDIA H100, umożliwiając lokalne uruchamianie modeli AI o niskich opóźnieniach i wysokiej płynności działania – zarówno na komputerach stacjonarnych, jak i w infrastrukturze centrów danych.

W przeciwieństwie do tradycyjnych modeli językowych generujących tekst sekwencyjnie, po jednym tokenie naraz, DiffusionGemma wykorzystuje technikę diffusion‑based denoising do równoległego tworzenia treści. Przekłada się to na choćby czterokrotny wzrost płynności wnioskowania na kartach graficznych NVIDIA w porównaniu z analogicznym modelem autoregresyjnym.

Najważniejsze informacje o DiffusionGemma:

• Wyższa płynność działania – model generuje 256 tokenów równolegle, osiągając do 1000 tokenów/s na karcie graficznej NVIDIA H100 Tensor Core, 150 tokenów/s na NVIDIA DGX Spark oraz najwyższą lokalną wydajność na NVIDIA DGX Station.
• Oparty na Gemma 4 – obsługuje wejścia tekstowe i obrazowe oraz kontekst o długości do 256 tys. tokenów, co umożliwia tworzenie bardziej zaawansowanych aplikacji multimodalnych i agentowych.
• Otwarte i lokalne działanie – licencja Apache 2.0 oraz wsparcie w dniu premiery w bibliotekach Hugging Face Transformers, vLLM i Unsloth. Model może być uruchamiany lokalnie, bez zależności od chmury i bez kosztów naliczanych za token. W zastosowaniach korporacyjnych dostępna jest obsługa poprzez NVIDIA NIM, a prototypowanie z użyciem API możliwe jest na platformie build.nvidia.com.