Llama 3.1 70B Instruct

Meta's Llama 3.1 70B optimized for multilingual dialogue.

Цена входа: $0.792
Цена выхода: $0.792
Контекст: 128K
Максимум выходных токенов: 4K
Модальности: ВходТекстВыходТекст
Возможности: 126 (№ 84 из 89)
Предпочтение людей: 1261
Доступность за 30 дней: —
Выпущена: 2025-02-17
Дата среза знаний: —

Провайдеры

Провайдеры, которые обслуживают эту модель. В режиме «Авто» каждый запрос уходит лучшему доступному провайдеру. Цены в долларах США за 1 млн токенов; статистика за последние 30 дней.

АвтоВход$0.792Выход$0.792Чтение из кэша—Контекст128KМаксимум выходных токенов4KКаждый запрос мы отправляем исправно работающему провайдеру с лучшей ценой. Вы платите по цене этого провайдера.Amazon BedrockВход$0.792Выход$0.792Чтение из кэша—Контекст128KМаксимум выходных токенов4KUnited StatesНе для обученияБез хранения

Цены

Все цены этой модели по уровням обслуживания.

Ввод: $0.792; за 1 млн токенов
Вывод: $0.792; за 1 млн токенов

Отправить запрос

Задайте предпочтения по провайдерам и скопируйте запрос. API-ключ он берёт из OHMYGPT_API_KEY.

Держать диалог на одном провайдере

Следующие реплики используют кэш промпта этого провайдера, что может снизить стоимость и задержку.

curl https://api.ohmygpt.com/v1/chat/completions \
  -H "Authorization: Bearer $OHMYGPT_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-70b-instruct",
    "messages": [
      {
        "role": "user",
        "content": "Hello"
      }
    ]
  }'

Провайдеры

Цены

Отправить запрос

Похожие модели