AAirunsВойти

← Все модели

Карточка модели

Nvidia Nemotron 70b

llama-3-1-nemotron-70b-instruct-hf
Сравнить с другой моделью

Характеристики

Семейство
nemotron
Контекст (макс. по поставщикам)
16 тыс. токенов
Ввод (объединено)
текст
Вывод (объединено)
текст
Возможности
—
Поставщиков
1

Значения объединены по всем поставщикам; у конкретного поставщика они могут быть уже. Точные данные — в таблице ниже.

Поставщики и цены

ПоставщикID у поставщикаКонтекстВвод, $/1MВывод, $/1MКэш чтениеКэш записьИнференс
NanoGPTnvidia/Llama-3.1-Nemotron-70B-Instruct-HF16 тыс.$0.357$0.408$0.1785——

«Доступен» — у Airuns настроен системный ключ этого поставщика, модель можно запускать прямо сейчас.

Hugging Face

Автоматическое совпадение по имени
Репозиторий
nvidia/Llama-3.1-Nemotron-70B-Instruct-HF
Скачивания
13 539
Лайки
2 072
Лицензия
llama3.1
Задача
text-generation
Библиотека
transformers
Доступ к весам
открытый доступ
Обновлено
13.04.2025
Скачать с Hugging FaceСкачать с ModelScope

README · nvidia/Llama-3.1-Nemotron-70B-Instruct-HF

Отрывок на языке оригинала:

Llama-3.1-Nemotron-70B-Instruct is a large language model customized by NVIDIA to improve the helpfulness of LLM generated responses to user queries.

This model reaches Arena Hard of 85.0, AlpacaEval 2 LC of 57.6 and GPT-4-Turbo MT-Bench of 8.98, which are known to be predictive of LMSys Chatbot Arena Elo

As of 1 Oct 2024, this model is #1 on all three automatic alignment benchmarks (verified tab for AlpacaEval 2 LC), edging out strong frontier models such as GPT-4o and Claude 3.5 Sonnet.

As of Oct 24th, 2024 the model has Elo Score of 1267(+-7), rank 9 and style controlled rank of 26 on ChatBot Arena leaderboard.

This model was trained using RLHF (specifically, REINFORCE), Llama-3.1-Nemotron-70B-Reward and HelpSteer2-Preference prompts on a Llama-3.1-70B-Instruct model as the initial policy.

Llama-3.1-Nemotron-70B-Instruct-HF has been converted from Llama-3.1-Nemotron-70B-Instruct to…

Читать дальше на Hugging Face →

Бенчмарки из README

Arena Hard

Details95.0
Llama-3.1-Nemotron-70B-Instruct85.0
GPT-4o-2024-05-1379.3
Claude-3-5-Sonnet-2024062079.2
Llama-3.1-405B-Instruct69.3
Llama-3.1-70B-Instruct55.7

MT-Bench

Llama-3.1-Nemotron-70B-Instruct9.0
Claude-3-5-Sonnet-202406208.8
GPT-4o-2024-05-138.7
Llama-3.1-405B-Instruct8.5
Llama-3.1-70B-Instruct8.2
Details4.0

Данные авторов модели из README на Hugging Face; методики тестирования могут отличаться между моделями.

Похожие модели семейства

Nemotron 3 Super 120B A12B

nemotron-3-super-120b-a12bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструменты, структурированный выводПоставщики: Kenari, Kenari, Kilo Gateway, NanoGPT, Nebius Token Factory, OpenRouter и ещё 3

Nemotron 3 Ultra

nemotron-3-ultra-550bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструментыПоставщики: DigitalOcean, DevPass (LLM Gateway)

Nemotron 3 Ultra 550B A55B

nemotron-3-ultra-550b-a55bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструменты, структурированный выводПоставщики: Bothub, CommandCode, Kenari, Kilo Gateway, Kilo Gateway, NanoGPT и ещё 8

Nemotron 3 Ultra 550B A55B (Nebius)

nebius/nvidia/nemotron-3-ultra-550b-a55bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструментыПоставщики: Eden AI

Nemotron 3.5 Lightning 30B A3B

nemotron-3-5-lightning-30b-a3bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструменты, структурированный выводПоставщики: Merge Gateway, Nvidia, Requesty

Nemotron 3.5 Lightning 30B A3B

nemotron-3_5-lightningСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструменты, структурированный выводПоставщики: Nebius Token Factory

Nemotron 3.5 Super 120B A12B

perplexity/nemotron-3-5-super-120b-a12bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст; вывод: текстВозможности: рассуждение, инструменты, структурированный выводПоставщики: Perplexity Agent

Nemotron 3.5 Super VL 120B A12B

nemotron-3-5-super-vl-120b-a12bСемейство: nemotronКонтекст (макс.): 1,05 млн токеновВвод: текст, изображения, видео; вывод: текстВозможности: рассуждение, инструменты, вложенияПоставщики: Nvidia

Источник каталога: https://models.dev/api.json. Получено: 01.11.2026 05:30 UTC. Цены и лимиты — данные источника; перед использованием проверяйте условия поставщика.