Как работает механизм повторных запросов в Envoy?

Механизм повторных запросов (retries) в Envoy предназначен для повторения запросов в случае временных сбоев или задержек. habr.com

Envoy позволяет настраивать параметры, которые определяют, какие запросы повторяются, сколько раз это происходит, а также устанавливают таймауты для повторных попыток. www.envoyproxy.io

Некоторые особенности работы механизма:

• Параметр retry_on указывает, для каких типов ответов следует повторять запрос. blog.turbinelabs.io github.com Например, значение 5xx позволяет повторять все ошибки сервера. blog.turbinelabs.io
• По умолчанию Envoy устанавливает количество повторных попыток равным одному. blog.turbinelabs.io Однако можно увеличить это значение, например, до трёх, особенно для относительно коротких запросов. blog.turbinelabs.io При этом Envoy ограничивает общее время, включая начальный запрос и все повторные попытки. blog.turbinelabs.io
• Поле pertryrequest_timeout устанавливает таймаут для каждого повторного запроса. blog.turbinelabs.io github.com Если этот параметр не указан, то запрос, который завершается с ошибкой, не повторяется. blog.turbinelabs.io github.com

Существуют типы запросов, для которых не имеет смысла выполнять повторные попытки. blog.turbinelabs.io Например, не стоит повторять дорогостоящие запросы, особенно если их нельзя отменить. blog.turbinelabs.io Также не рекомендуется повторять запросы, которые пользователь может нетерпеливо ждать. blog.turbinelabs.io

Для сервисов gRPC Envoy проверяет статус gRPC в ответе и пытается повторить запрос на основе настроенных значений. www.envoyproxy.io