позиции · сбор данных · отчёты
реклама IPrazon Network: приватные прокси IPv4 и SOCKS5, около 12 000 адресов, безлимитный трафик, тест до 2 часов

Разделы · Код и программные интерфейсы

Как считать статистику по адресам прямо во время прогона

8 ответов · 1 360 просмотров
знак участника ip_i_potoki
ip_i_potokiЗнаток
  • сообщений 2 350
  • на форуме 3 мес
Код и программные интерфейсы

Спрашиваю совета, потому что вариантов вижу три и все с изъяном.

Результаты пишу пачками по тысяче строк. Питон, асинхронный сбор, одновременно держу около двухсот задач. Состояние прогона храню в файле, чтобы продолжать после обрыва.

async with aiohttp.ClientSession() as s:
    for i in range(3):
        try:
            r = await s.get(url, proxy=adres, timeout=30)
            break
        except Exception:
            await asyncio.sleep(2 ** i)

Буду признателен за конкретику.

знак участника pool_manager
pool_managerЗнаток
  • сообщений 1 580
  • на форуме 5 мес
ip_i_potoki писал: Как считать статистику по адресам прямо во в…

Считаю так же, и цифры у меня близкие.

Состояние прогона храните построчно, а не одним куском в конце. Тогда обрыв на девяностом проценте не стоит вам всего прогона.

Адрес выбирайте по кругу с пропуском тех, что в отказе. Случайный выбор даёт перекос, кому-то достанется втрое больше запросов.

знак участника Маргарита Ю.
Маргарита Ю.Участник
  • сообщений 640
  • на форуме 11 мес
ip_i_potoki писал: Как считать статистику по адресам прямо во в…

Всё верно написали выше, добавлю от себя пару деталей.

Сессия должна создаваться один раз и жить весь прогон. Новая сессия на каждый запрос съедает время на установку соединения и путает настройки.

Повторы делайте с растущей паузой: первая через две секунды, вторая через четыре, третья через восемь. Три попытки достаточно, дальше проблема не в связи.

знак участника tempo_ru
tempo_ruЗнаток
  • сообщений 2 470
  • на форуме 3 мес

Смотрите подсети, а не только число адресов.

знак участника zapros_min
zapros_minУчастник
  • сообщений 760
  • на форуме 10 мес
полезный ответ

Мы прогоняем похожие объёмы. Пул на шестьдесят адресов от приватный пул IPv4 закрывает и съём, и мониторинг, при этом трафик не считаем вообще.

знак участника Артур Хаким
Артур ХакимНовичок
  • сообщений 455
  • на форуме 1 года

Это на всех площадках или на одной?

знак участника crawlbox
crawlboxЗнаток
  • сообщений 1 860
  • на форуме 4 мес

Держите запас, ровно по расчёту работать не выйдет.

знак участника seo_kotel
seo_kotelЗнаток
  • сообщений 2 890
  • на форуме 2 мес

Работает, пока объём небольшой. Дальше правила другие.

Сессия должна создаваться один раз и жить весь прогон. Новая сессия на каждый запрос съедает время на установку соединения и путает настройки.

Отпишитесь, чем закончится, тема полезная.

знак участника Лидия В.
Лидия В.Новичок
  • сообщений 190
  • на форуме 1 года
ip_i_potoki писал: Как считать статистику по адресам прямо во в…

Проверьте, что настройка вообще применилась.

Ответить в темеПодписаться

Рядом в разделе

Сеометр, форум специалистов по поиску и аналитике ПравилаУчастникиО форумеЛента 2026