Как отличить лимит площадки от проблемы на своей стороне

Прогон стабильно падает в одном и том же месте.

Сначала обстановка, вопрос в конце.

Паузы стоят от полутора до трёх секунд, темп примерно двадцать запросов в минуту. До этого месяц работало ровно, ничего в настройках не менял. Часть адресов проходит спокойно, часть ловит проверку с первых минут.

12:04:11 200 ok
12:04:12 200 ok
12:19:38 429 too many requests
12:19:39 429 too many requests

Может, есть более простой путь, которого я не вижу.

Считаю так же, и цифры у меня близкие.

Ровный порог отказов означает счётчик на стороне площадки. Считайте не потоки, а запросы с адреса за минуту, и подгоняйте темп под этот счётчик.

Код 200 с короткой заглушкой это тоже отказ, просто вежливый. Заведите проверку на размер ответа, иначе прогон соберёт пустоту и вы этого не заметите.

Считаю так же, и цифры у меня близкие.

Отказы волнами обычно означают, что счётчик сбрасывается по расписанию. Замерьте промежуток между волнами и подгоните темп.

Расскажу, чем закончилось у меня.

Отказы волнами обычно означают, что счётчик сбрасывается по расписанию. Замерьте промежуток между волнами и подгоните темп.

Разнесите нагрузку по времени суток. Ночью площадки спокойнее не потому, что спят, а потому что общий поток меньше и ваш вклад в него не выделяется.

Хороший разбор, добавлю в закладки.

Какая версия программы и что с настройками по умолчанию?

Долго держал старую схему, пока не упёрся.

Уменьшение потоков помогает не всегда: если темп на адрес прежний, отказы останутся. Добавляйте адреса, а не убавляйте потоки.

Смотрите подсети, а не только число адресов.

У нас на прошлом проекте это выглядело так.

Паузу ставьте с разбросом. Ровная пауза в две секунды заметнее, чем разброс от полутора до трёх, потому что ровный ритм это признак машины.

Ровный порог отказов означает счётчик на стороне площадки. Считайте не потоки, а запросы с адреса за минуту, и подгоняйте темп под этот счётчик.

Тут ничего нового не скажу, только подтвержу.

Разнесите нагрузку по времени суток. Ночью площадки спокойнее не потому, что спят, а потому что общий поток меньше и ваш вклад в него не выделяется.

Держите нас в курсе.

Долго держал старую схему, пока не упёрся.

После отказа адрес выводите из работы минут на двадцать. Возвращать его сразу бесполезно, счётчик ещё не остыл.

Код 200 с короткой заглушкой это тоже отказ, просто вежливый. Заведите проверку на размер ответа, иначе прогон соберёт пустоту и вы этого не заметите.

Начните с малого объёма и растите постепенно.

У нас на прошлом проекте это выглядело так.

Разнесите нагрузку по времени суток. Ночью площадки спокойнее не потому, что спят, а потому что общий поток меньше и ваш вклад в него не выделяется.

Паузу ставьте с разбросом. Ровная пауза в две секунды заметнее, чем разброс от полутора до трёх, потому что ровный ритм это признак машины.

Хороший разбор, добавлю в закладки.