Llama 3.1 405B Instruct

Meta's largest Llama 3.1 405B model optimized for multilingual dialogue.

Цена входа: $3.85
Цена выхода: $3.85
Контекст: 128K
Максимум выходных токенов: 4K
Модальности: ВходТекстВыходТекст
Возможности: 129 (№ 82 из 89)
Доступность за 30 дней: —
Выпущена: 2025-02-17
Дата среза знаний: —

Провайдеры

Провайдеры, которые обслуживают эту модель. В режиме «Авто» каждый запрос уходит лучшему доступному провайдеру. Цены в долларах США за 1 млн токенов; статистика за последние 30 дней.

АвтоВход$3.85Выход$3.85Чтение из кэша—Контекст128KМаксимум выходных токенов4KКаждый запрос мы отправляем исправно работающему провайдеру с лучшей ценой. Вы платите по цене этого провайдера.Together AIВход$3.85Выход$3.85Чтение из кэша—United StatesНе для обученияБез хранения

Цены

Все цены этой модели по уровням обслуживания.

Ввод: $3.85; за 1 млн токенов
Вывод: $3.85; за 1 млн токенов

Отправить запрос

Задайте предпочтения по провайдерам и скопируйте запрос. API-ключ он берёт из OHMYGPT_API_KEY.

Держать диалог на одном провайдере

Следующие реплики используют кэш промпта этого провайдера, что может снизить стоимость и задержку.

curl https://api.ohmygpt.com/v1/chat/completions \
  -H "Authorization: Bearer $OHMYGPT_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-405b-instruct",
    "messages": [
      {
        "role": "user",
        "content": "Hello"
      }
    ]
  }'

Провайдеры

Цены

Отправить запрос

Похожие модели