GPU (Graphics Processing Unit) — процессор с тысячами простых ядер, оптимизирован под массивно-параллельные вычисления (изначально — рендер графики, сейчас — ML/AI, физсимуляции, майнинг, транскодинг видео).
CUDA (Compute Unified Device Architecture) — платформа от NVIDIA (2007) для general-purpose GPU-программирования. Стандарт для ML: PyTorch, TensorFlow, JAX работают через CUDA. Конкуренты: OpenCL (open, но малоиспользуемый), ROCm от AMD (догоняет).
Модели NVIDIA: - RTX 4090 / 5090 — consumer, но подходит для inference (24 ГБ VRAM). $2000-4000. - L4 / L40S — enterprise inference GPU (24-48 ГБ). $8000-12000. - A100 (2020, 40/80 ГБ HBM2) / H100 (2022, 80 ГБ HBM3) — тренировка LLM. $20 000-40 000. - H200 / B200 Blackwell (2025) — новое поколение, 141+ ГБ, дефицит.
У нас GPU-VPS — L4 и RTX 4090, аренда от €99/мес. Для тренировки крупных моделей (LLaMA-70B) — H100 через отдельный enterprise-запрос. См. `/vps/gpu`.