позиции · сбор данных · отчёты
реклама IPrazon Network: приватные прокси IPv4 и SOCKS5, пул 12 000 адресов, безлимитный трафик, бесплатный тест до 2 часов

Разделы · Отчёты и выгрузки

Сборка отчёта занимает три часа, ищем узкое место

11 ответов · 2 893 просмотров
знак участника Артур Хаким
Артур ХакимНовичок
  • сообщений 455
  • на форуме 1 года
Отчёты и выгрузки

Пишу, потому что делаю это каждую неделю и хочу упростить.

Проверка на пустые ячейки делается руками, и это уже неприлично. Выгрузка выходит около двух миллионов строк, таблица её не держит. Сборка занимает около трёх часов, из них половина уходит на пересчёт.

Сборка отчёта занимает три часа, ищем узкое место: разбор в цифрах
Сборка отчёта занимает три часа, ищем узкое место: как это выглядит у меня

Хочется услышать, чем это заканчивается на практике.

знак участника crawlbox
crawlboxЗнаток
  • сообщений 1 860
  • на форуме 4 мес
Артур Хаким писал: Сборка отчёта занимает три часа, ищем узкое …

Сколько адресов и какой темп при этом стоит?

знак участника seo_kotel
seo_kotelЗнаток
  • сообщений 2 890
  • на форуме 2 мес
Артур Хаким писал: Сборка отчёта занимает три часа, ищем узкое …

Осторожнее с этим выводом, он верен не всегда.

Разделяйте отчёт для заказчика и рабочую таблицу для себя. Попытка совместить портит оба.

let Istochnik = Web.Contents(adres, [Timeout=#duration(0,0,2,0)]),
    Tablica = Csv.Document(Istochnik, [Delimiter=";"])
in Tablica

Интересно, чем закончится.

знак участника Лидия В.
Лидия В.Новичок
  • сообщений 190
  • на форуме 1 года

Поправлю цифру, остальное верно.

Сравнение с конкурентами показывайте по одинаковой методике. Иначе разговор уходит в спор о цифрах.

Интересно, чем закончится.

знак участника Верещак
ВерещакУчастник
  • сообщений 690
  • на форуме 10 мес

Начните с малого объёма и растите постепенно.

знак участника batch_run
batch_runЗнаток
  • сообщений 1 790
  • на форуме 4 мес

Первый раз списал на случайность, второй раз уже нет.

Хранить историю в таблице можно до определённого объёма. Дальше нужна база, и переезжать лучше заранее.

Разделяйте отчёт для заказчика и рабочую таблицу для себя. Попытка совместить портит оба.

знак участника Инна Сотник
Инна СотникНовичок
  • сообщений 370
  • на форуме 1 года
Артур Хаким писал: Сборка отчёта занимает три часа, ищем узкое …

Так же считаю, и коллеги считают так же.

Сравнение с конкурентами показывайте по одинаковой методике. Иначе разговор уходит в спор о цифрах.

Графики делайте скучными и одинаковыми. Красота в отчёте мешает читать цифры.

let Istochnik = Web.Contents(adres, [Timeout=#duration(0,0,2,0)]),
    Tablica = Csv.Document(Istochnik, [Delimiter=";"])
in Tablica
знак участника rankdesk
rankdeskЗнаток
  • сообщений 2 044
  • на форуме 7 мес

До сих пор помню, чем это закончилось.

Динамику показывайте за период, который отражает работу: месяц для регулярных проектов, неделя для быстрых.

let Istochnik = Web.Contents(adres, [Timeout=#duration(0,0,2,0)]),
    Tablica = Csv.Document(Istochnik, [Delimiter=";"])
in Tablica
знак участника podset
podsetВетеран
  • сообщений 3 480
  • на форуме 1 мес

Разбейте прогон на части, станет ровнее.

знак участника Ефим Гладков
Ефим ГладковУчастник
  • сообщений 850
  • на форуме 9 мес

Проверял это на своей задаче, вывод такой же.

Данные, собранные с перебоями, помечайте прямо в отчёте. Молчание об этом всплывает в самый неподходящий момент.

Добавлю тему в закладки.

знак участника Мельник И.
Мельник И.Знаток
  • сообщений 1 655
  • на форуме 3 мес
Артур Хаким писал: Сборка отчёта занимает три часа, ищем узкое …

Это на всех площадках или на одной?

Что показывает простой запрос из консоли?

знак участника logi_i_grafiki
logi_i_grafikiУчастник
  • сообщений 895
  • на форуме 9 мес

Уменьшите потоки вдвое и замерьте заново.

Ответить в темеПодписаться

Рядом в разделе

Сеометр, форум специалистов по поиску и аналитике ПравилаУчастникиО форумеЛента 2026