NVIDIA H100 OEM 80 GB HBM3 — пассивный серверный ускоритель на архитектуре Hopper, созданный для масштабируемых ИИ‑кластеров и инференса крупных моделей, таких как deepseek‑r1:70B и Mistral‑Large‑Instruct (Q4_K_M, около 73 GB). Устройство имеет 14 592 CUDA‑ядер и 456 тензорных ядер 4‑го поколения, что обеспечивает обработку сложных LLM с сотнями миллиардов параметров. Объем памяти 80 GB HBM3 обеспечивает пропускную способность порядка 3 TB/с в PCIe‑версии, что позволяет эффективно работать с большими моделями без значительных задержек. Карта поддерживает трехканальное NVLink со скоростью до 600 GB/с, что позволяет строить плотные системы с прямой связью между графическими процессорами.