Эксклюзивное Предложение
VULTR
🚀 Получите $300 в кредитах Vultr!Для новых клиентов · Кредиты действительны 30 дней · Действуют условия
Получить $300 Сейчас →
Посмотреть условия программы
Руководство10 марта 20269 мин чтения

Как запустить Llama 3 на самом дешёвом GPU Cloud

Запуск Llama 3 на облачных GPU может стоить всего $0.40/час для модели 8B или $2.50/час для 70B. Вот точная инструкция по настройке на самых дешёвых провайдерах.

Требования к GPU по моделям

МодельМин. VRAMРекомендуемый GPUМин. цена/час
Llama 3 8B (FP16)16GBRTX 4090 / A10G$0.35
Llama 3 8B (4-bit)6GBRTX 3080 / A4000$0.20
Llama 3 70B (FP16)140GB2x A100 80GB$5.50
Llama 3 70B (4-bit)40GBA100 40GB$1.20

Найдите самый дешёвый GPU для Llama 3

Сравните цены на A100, RTX 4090 и H100 среди 17+ провайдеров.

Сравнить цены GPU →

Compare GPU Cloud Prices Now

Save up to 80% on your GPU cloud costs with our real-time price comparison.

Start Comparing →

Получать Уведомления о Ценах

Будьте уведомлены, когда цены на ваши любимые GPU снизятся

Без спама. Отпишитесь в любое время.