Потоковые ответы
Обрабатывайте события, usage и конечные ошибки.
Поток может содержать usage без choices, маркеры завершения и ошибки после начала вывода. Обрабатывайте все события и проверяйте конечное состояние: начальный HTTP 200 не подтверждает завершение.
Ожидание первого байта и простой потока отличаются от максимума маршрута в 15 минут. Клиент, прокси или поставщик могут завершить запрос раньше; работа каждого запроса в течение 15 минут не гарантируется.
Потоковое ответ
event: content_block_delta
data: {"delta":{"text":"Hello","type":"text_delta"},"index":0,"type":"content_block_delta"}
event: message_delta
data: {"delta":{"stop_reason":"end_turn"},"usage":{"output_tokens":128}}Заголовок ответа
| HTTP-заголовки | Значение |
|---|---|
| x-apivn-request-id | Сохраните x-apivn-request-id, если он есть, и время ошибки. Не включайте API-ключи и конфиденциальные данные в отчеты. |
| Retry-After | Учитывайте Retry-After, используйте экспоненциальную задержку со случайным разбросом и ограничьте число попыток и общее время. Если видеозадача могла быть создана, сначала проверьте ее ID. |
| x-apivn-model | Фактическая модель обработана |
| x-apivn-model-mapped-from | Отправленное вами название модели, если оно сопоставлено. |
| x-apivn-input-tokens | Оплачиваемые входные токены (без кэша) |
| x-apivn-output-tokens | Заряженный выходной токен |
| x-apivn-cost-vnd | Стоимость звонка (VND) |
| x-apivn-price-vnd-per-mtok | Цена токена действительна |
| x-apivn-price-vnd-per-request | Фиксированная цена за звонок (если есть) |
Для потоковых вызовов заголовки токенов/стоимости недоступны (стоимость становится известна только после завершения потока) — посмотрите на странице «Использование».
Примеры проходят проверку исходного кода и локальные проверки; это не подтверждает работу во всех версиях приложений. До эксплуатации проверьте настройки, небольшой запрос и usage.