Разделы · Прокси: выбор и характеристики
Ниже мой опыт и вопрос к тем, кто гоняет большие объёмы.
Даю всё, что есть, вдруг зацепитесь за деталь.
Пинг до адресов около 40 миллисекунд, но на длинном прогоне это почти не сказалось. Адреса шли подряд одной подсетью, и это оказалось важнее их числа. Держу пул на 60 адресов, задачи разные, нагрузка неровная.
Может, есть более простой путь, которого я не вижу.
Считайте по темпу, всё остальное вторично.
Держите запас, ровно по расчёту работать не выйдет.
Логи в помощь, без них это гадание.
Это на всех площадках или на одной?
Так и есть, проходил через это в прошлом году.
Подсети важнее числа. Сорок адресов из одного диапазона площадка видит как одну руку, а десять из разных диапазонов ведут себя как десять разных посетителей.
Держать свой пул постоянно выгоднее, если сборы идут чаще раза в неделю. Разовая аренда под задачу оправдана только на редких больших прогонах.
Тема нужная, подписался.
Согласен с предыдущим ответом, но с одной оговоркой.
Серверные адреса берут скоростью и стабильностью. Для съёма позиций, обхода каталогов и мониторинга цен этого хватает с запасом.
Держать свой пул постоянно выгоднее, если сборы идут чаще раза в неделю. Разовая аренда под задачу оправдана только на редких больших прогонах.
Если поможет, напишите здесь же, пригодится следующим.
Работает, пока объём небольшой. Дальше правила другие.
Скорость адреса и скорость прогона это разные вещи. Прогон упирается в темп, который вам позволяют, а не в ширину канала.
Тут есть тонкость, о которой обычно забывают.
Число адресов считается от темпа. Возьмите допустимый темп на адрес для конкретной площадки и разделите на него общий темп прогона. Полученное умножьте на два, это и будет рабочий пул.
Держать свой пул постоянно выгоднее, если сборы идут чаще раза в неделю. Разовая аренда под задачу оправдана только на редких больших прогонах.
Работает, пока объём небольшой. Дальше правила другие.
Приватный адрес отличается от общего тем, что его темп расходуете только вы. На общем вы делите лимит с незнакомыми людьми и никогда не знаете, сколько осталось.
Подсети важнее числа. Сорок адресов из одного диапазона площадка видит как одну руку, а десять из разных диапазонов ведут себя как десять разных посетителей.
$ for a in $(cat pool.txt); do curl -s -o /dev/null -w "%{time_total} " -x $a https://example.org/; done
0.412 0.398 1.884 0.421 0.406
Если поможет, напишите здесь же, пригодится следующим.
Долго держал старую схему, пока не упёрся.
Держать свой пул постоянно выгоднее, если сборы идут чаще раза в неделю. Разовая аренда под задачу оправдана только на редких больших прогонах.
Серверные адреса берут скоростью и стабильностью. Для съёма позиций, обхода каталогов и мониторинга цен этого хватает с запасом.
Хороший разбор, добавлю в закладки.