Альтернативы OpenAI API: бесплатные и платные варианты с оплатой за токен

Откуда на самом деле берется бесплатное

Запуск языковых моделей стоит денег. Когда сервис позволяет использовать их бесплатно, кто-то оплачивает счёт, и способ возмещения расходов определяет, что именно вы получите. Существует четыре таких модели, и их понимание поможет избежать неприятных сюрпризов.

Тип	Кто платит	Обычный подвох
Бесплатный тариф поставщика	Поставщик как маркетинг	Низкие лимиты, стандартные правила контента, условия, которые могут измениться
Локальная модель с самохостингом	Вы, через оборудование и электроэнергию	Требует памяти и времени; более мелкие модели слабее
Сообщество или общий эндпоинт	Модель на основе волонтёров или невидимая бизнес-модель	Время доступности, конфиденциальность и политика неясны
Пробный баланс	Провайдер, один раз на человека	Она заканчивается; достаточно для тестирования, но не для запуска продукта

Цены, бесплатные квоты и политика других сервисов часто меняются, поэтому проверяйте их текущие тарифы, а не доверяйте списку, включая этот.

Вариант 1: бесплатные тарифы от хостинг-провайдеров

Несколько провайдеров позволяют вызывать их модели бесплатно в рамках квоты. Это хороший способ создать прототип, и вам следует сравнить, что позволяет каждая квота в запросах в минуту и токенах в день, прежде чем полагаться на нее. Обратите внимание на эти моменты:

• Квоты и модели могут измениться без предварительного уведомления, что является риском для всего, на что полагаются пользователи.
• Правила контента определяются провайдером. Если ваш случай использования требует модели, которая отвечает на законные запросы для взрослых без отказов, бесплатный тариф популярного API обычно не подходит.
• Проверьте, позволяет ли бесплатный тариф провайдеру использовать ваши входные данные. В разделе данных условий сказано.

Ничто из этого не делает бесплатные тарифы плохими. Это означает, что они лучше подходят для прототипов и легких задач общего назначения, чем для рабочих нагрузок или взрослых произведений.

Вариант 2: запустите самостоятельно, по тому же протоколу OpenAI

Инструменты, такие как Ollama, сервер llama.cpp и vLLM, могут запускать модели с открытыми весами локально и предоставляют HTTP-интерфейс, совместимый с OpenAI. Это означает, что ваш существующий код SDK работает с вашей собственной машиной. Расходы включают память, время настройки и качество: модели, помещающиеся на ноутбук, маленькие, а более крупные требуют серьёзной видеопамяти.

Полезный трюк — сделать эндпоинт настройкой. Вы разрабатываете бесплатно на локальном сервере, а для продакшена указываете на хостинговый API, когда вам нужна более мощная модель или нет необходимости поддерживать оборудование:

Copyimport os
from openai import OpenAI

if os.environ.get("USE_LOCAL"):
    client = OpenAI(base_url="http://localhost:11434/v1", api_key="local")
    model = os.environ["LOCAL_MODEL"]   # whatever you pulled locally
else:
    client = OpenAI(
        base_url="https://api.alternativeapiopenai.com/v1",
        api_key=os.environ["API_KEY"],
    )
    model = "uncensored"

r = client.chat.completions.create(
    model=model,
    messages=[{"role": "user", "content": "Outline a three-act mystery in five bullet points."}],
)
print(r.choices[0].message.content)

Локальные инструменты различаются по полноте реализации вызова функций и JSON-режима, поэтому проверьте эти функции на любом сервере, который вы выберете.

Вариант 3: сообщества и общие эндпоинты

Вы увидите списки бесплатных эндпоинтов в стиле OpenAI, часто управляемых отдельными лицами или сервисами, чья бизнес-модель не указана. Они могут хорошо работать для проекта на выходные. Они — плохая основа для чего-либо, где ваши промпты чувствительны, потому что вы обычно не можете узнать, кто их читает, какая модель стоит за ними, или будет ли эндпоинт существовать в следующем месяце. Если важна конфиденциальность, выберите провайдера, который указывает, как обрабатываются промпты. Здесь промпты не используются для обучения.

Вариант 4: пробный период плюс оплата за токены

Это маршрут, который предлагает этот сайт. Он не бесплатен после первого шага, но первый шаг бесплатен, а остальное — небольшие расходы.

• Пробный период. Новые пользователи получают кредит на $0,50 в один клик на странице ключа после входа через Google или email и пароль. Он действителен 7 дней, один на человека, без необходимости привязки карты. Лимиты: 2 параллельных запроса и 60 в минуту.
• Цена. $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов из предоплаченного баланса. Без подписки, и кредит не сгорает.
• Модель. Одна модель с открытыми весами, ID uncensored, от независимого провайдера. Это не официальный API OpenAI или любого другого провайдера.
• Возможности. Завершения чата, ответы, потоковая передача, вызов инструментов и JSON-режим, с контекстным окном на 100,000 токенов. Нет эмбеддингов, изображений, аудио или дообучения.

Неудачные или отклонённые запросы не оплачиваются, поэтому тесты остаются дешёвыми. Документация показывает поля и заголовки, а страница ключа — это место, где вы получаете пробный баланс.

Математика для небольшого приложения

Возьмите хобби-приложение, которое делает 500 запросов в день, каждый с 1 000 входных токенов и 300 выходных токенов.

• Входные данные на запрос: 1 000 x $0,15 / 1M = $0,00015
• Выходные данные на запрос: 300 x $0,50 / 1M = $0,00015
• На запрос: $0.0003
• В день: 500 x $0,0003 = $0,15
• За 30 дней: $4,50

Минимальное пополнение — $20, чего хватит примерно на 133 дня при такой скорости. Большие пополнения включают бонус: 5% от $50, 10% от $100 и 15% от $200. Оплата только криптовалютой, USDT на TRC20 или USDC на Base. Пробный баланс в $0,50 покрывает примерно 1 666 таких запросов, чего достаточно для тщательного тестирования.

Когда бесплатное решение всё ещё лучше

• Вы отправляете несколько запросов в неделю, и тариф провайдера их покрывает.
• У вас есть мощная видеокарта, и вам нравится запускать собственную инфраструктуру.
• Вы изучаете само API, и локальная модель даёт те же знания.
• Вы не можете платить криптовалютой, которая является единственным способом оплаты здесь.

Когда оплата за токены — лучшее решение

• Вам нужна модель, которая не отказывает в законных запросах от взрослых пользователей, без необходимости запускать её самостоятельно.
• Вам нужен стабильный эндпоинт и 300 запросов в минуту с полным ключом.
• Вам нужны расходы, которые масштабируются с использованием, а не зависят от плана.

Быстрый путь к решению

1. Прототипируйте бесплатно: тариф провайдера или локальный сервер.
2. Протестируйте реальные промпты на пробном балансе в $0,50.
3. Если вывод помещается, пополните $20 и прочитайте страницу цен о бонусных тарифах.
4. Сохраните эндпоинт в конфигурации, чтобы переключение туда-сюда занимало минуту.

Сопутствующее руководство по Ценообразованию API OpenAI для моделей без цензуры более подробно описывает факторы стоимости, а модель предназначена только для законного использования взрослыми; сексуальный контент с участием несовершеннолетних всегда отклоняется.

Дополнительные руководства

• Замена API OpenAI: Чек-лист миграции
• Понимание ценообразования API OpenAI для моделей без цензуры