😇 Anthropic представила Message Batches API — инструмент для асинхронной обработки большого количества запросов
Новый API пригодится тем, кто обрабатывает большие наборы данных. Вместо того, чтобы управлять сложными системами очередей или переживать о лимитах запросов, можно просто использовать новые возможности пакетной обработки.
🔘Можно отправлять до 10 тысяч запросов в батче;
🔘Anthropic обработает их с 50-процентной скидкой;
🔘Батчи будут обработаны в течение максимум 24 часов.
🔗 Ссылка на документацию