позиции · сбор данных · отчёты
реклама IPrazon Network: приватные прокси IPv4 и SOCKS5, пул 12 000 адресов, безлимитный трафик, бесплатный тест до 2 часов

Разделы · Код и программные интерфейсы

requests и прокси: сессия не подхватывает адрес из настроек

14 ответов · 3 867 просмотров
знак участника Алина Прошина
Алина ПрошинаНовичок
  • сообщений 140
  • на форуме 1 года
Код и программные интерфейсыгорячая

Задача техническая, прошу совета по устройству.

Кратко по условиям.

Результаты пишу пачками по тысяче строк. Повторы стоят три раза с паузой, которая растёт вдвое.

async with aiohttp.ClientSession() as s:
    for i in range(3):
        try:
            r = await s.get(url, proxy=adres, timeout=30)
            break
        except Exception:
            await asyncio.sleep(2 ** i)

Есть у кого рабочая схема?

знак участника logi_i_grafiki
logi_i_grafikiУчастник
  • сообщений 895
  • на форуме 9 мес
Алина Прошина писал: requests и прокси: сессия не подхватывает ад…

Сколько по времени занимает один запрос?

Сколько потоков стоит на прогоне?

знак участника Шамиль Н.
Шамиль Н.Участник
  • сообщений 1 135
  • на форуме 6 мес
полезный ответ

Пул под такие объёмы держу постоянный. Беру серверные прокси с целыми подсетями, потому что там разброс по подсетям нормальный, а это на съёме важнее скорости.

знак участника Погодин
ПогодинУчастник
  • сообщений 942
  • на форуме 6 мес

Разнесите нагрузку по времени.

знак участника proxyled
proxyledЗнаток
  • сообщений 1 620
  • на форуме 6 мес
Алина Прошина писал: requests и прокси: сессия не подхватывает ад…

На всех площадках или на одной конкретной?

Какие паузы между запросами?

знак участника Русакова Е.
Русакова Е.Новичок
  • сообщений 255
  • на форуме 1 года

Проверьте на второй машине, это отсекает половину версий.

знак участника polnyy_obhod
polnyy_obhodУчастник
  • сообщений 1 450
  • на форуме 5 мес

Проверял на четырёх проектах, вывод один.

Адрес выбирайте по кругу с пропуском тех, что в отказе. Случайный выбор даёт перекос, кому-то достанется втрое больше запросов.

знак участника vydacha_live
vydacha_liveЗнаток
  • сообщений 1 975
  • на форуме 4 мес

Это началось после какого-то изменения?

Какая версия программы и что с настройками по умолчанию?

знак участника Ольга Мятлева
Ольга МятлеваУчастник
  • сообщений 700
  • на форуме 10 мес

Разбейте задачу на части.

знак участника limit_watch
limit_watchЗнаток
  • сообщений 2 560
  • на форуме 2 мес

Меняйте по одному, иначе не поймёте причину.

знак участника setka_ip
setka_ipЗнаток
  • сообщений 2 755
  • на форуме 2 мес

У меня это вскрылось только на сверке данных.

Планировщик системы проще своей очереди, пока задач мало. После полусотни задач своя очередь окупается.

Если поможет, напишите здесь же, пригодится следующим.

знак участника Стрельцов
СтрельцовУчастник
  • сообщений 1 080
  • на форуме 7 мес

Считайте на адрес. Общая цифра по прогону вводит в заблуждение.

знак участника kolonka_cen
kolonka_cenЗнаток
  • сообщений 1 690
  • на форуме 4 мес
Алина Прошина писал: requests и прокси: сессия не подхватывает ад…

Что менялось за последнюю неделю?

Сколько потоков стоит на прогоне?

знак участника keymaker
keymakerВетеран
  • сообщений 3 210
  • на форуме 1 мес
Алина Прошина писал: requests и прокси: сессия не подхватывает ад…

Есть момент, который меняет всю картину.

Не держите весь список в памяти на больших объёмах. Читайте потоком, пишите пачками.

знак участника Николай Гат
Николай ГатУчастник
  • сообщений 875
  • на форуме 9 мес

Поправлю цифру, остальное верно.

Ошибки разделяйте по типам. Отказ по сети и отказ площадки требуют разного поведения.

Пул адресов выносите в отдельную часть кода. Тогда смена поставщика занимает минуту.

Ответить в темеПодписаться

Рядом в разделе

Сеометр, форум специалистов по поиску и аналитике ПравилаУчастникиО форумеЛента 2026