Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Надстройка Parser для MS Excel: общие сведения

Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.

Основные возможности:

  • парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
  • извлечение данных из файлов формата Word / Excel / txt / PDF
  • скачивание файлов (изображений, документов, и т.п.)
  • обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)

Особенности программы

Простота использования и настройки

  • Запуск парсера нажатием одной кнопки на ленте Excel
  • Для настройки парсеров не нужно знание программирования!
    Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач.
  • Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
  • Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
    Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами)
  • Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.

Гибкая постобработка данных

  • Множество текстовых функций для обработки полученной информации
  • Разнообразные фильтры и функции перекодировки
  • Работа с переменными и массивами данных
  • Разбиение значений на отдельные элементы с индивидуальной обработкой
  • Автоматический вывод характеристик товаров в отдельные столбцы
  • Интеллектуальный поиск цен на страницах
  • Поддержка форматов JSON и XML

Продвинутые сетевые возможности

  • Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
  • Авторизация — поддержка входа в аккаунты на различных сайтах
  • Региональные настройки — выбор географического региона для парсинга
  • HTTP-запросы — поддержка GET и POST методов, конструктор запросов
  • Cookies и Headers — полная работа с HTTP-заголовками и куки
  • Многопоточность — до 200 одновременных потоков для ускорения работы
  • Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
  • Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
  • Кеширование — сохранение данных для повторного использования

Неограниченные возможности поиска и навигации по сайту

  • Рекурсивный поиск страниц на сайтах
  • Поиск данных по HTML-тегам и их атрибутам
  • Автоматическое обнаружение ссылок пагинации (пейджера)
  • Специализированные функции для работы с HTML-таблицами
  • Преобразование HTML в текст и пары "название-значение"
  • Очистка HTML от лишних данных

Интеграция с Excel

  • Чтение данных из файлов Excel для использования в парсинге
  • Создание отдельных листов и файлов
  • Динамическое формирование столбцов для вывода результатов
  • Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
  • Удобная панель инструментов для запуска парсинга

Работа с файлами

  • Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
  • Обработка файлов из заданных пользователем папок
  • Сохранение изображений и документов под заданными именами в настраиваемые папки

С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.

Более подробно всё это описано в разделе Справка по программе

Видеоинструкция
YouTube
VK Video
RuTube

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.

Как скачать и протестировать программу

Комментарии

Есть ли какие то примеры, по настройке автозапуска?

Если автозапуск работал, - проблема явно не в программе. Что-то сбили в настройках планировщика windowd, раз перестало запускаться.

Здравствуйте!
У меня вопрос по автозапуску, он запускался какое то время нормально, но после попытки сделать его запуск на 3 раза в день, он перестал запускаться сам вообще.

Здравствуйте, Вадим.
Да, может

Ваш парсер может получать данные через API сайта? Такая возможность есть?

Михаил, это делается сцеплением двух массивов (для получения массива значений вида 26-1, 28-2 и т.п.), а потом вызовом набора действий, где будут 3-4 действия для преобразования значения вида 28-2 в массив из 2 значений 28

Код страницы заменился :)
Как из таблицы:
{table class="article__info-sizes"} {tbody} {tr} {th}26{/th} {th}27{/th} {th}28{/th} {th}29{/th} {th}30{/th} {th}31{/th} {/tr} {tr} {td}1{/td} {td}1{/td} {td}2{/td} {td}2{/td} {td}1{/td} {td}1{/td} {/tr} {/tbody}{/table}

Получить строку вида: 26|27|28|28|29|29|30|31.
HTML: Преобразовать таблицу в список с разделителями немного не то делает

Добрый день!
Подскажите, какие действия применить чтобы из

26
27
28
29
30
31

1
1
2
2
1
1

Получить строку вида: 26|27|28|28|29|29|30|31.
HTML: Преобразовать таблицу в список с разделителями немного не то делает

Александр, а что, парсер выводит данные в случайные ячейки?
Подробнее опишите, что куда нужно выводить

Как можно вносить данные (вывод на лист) строго в определённые ячейки?

Действие Задать новое значение в выводе в столбец.
Туда можно писать не только значение, но и формулу (в стиле R1C1), например:
=СУММ(RC5*1.2 ; МИН(RC6:RC10))

Как при помощи парсера, можно ввести формулу в определённый столбец? Интересует два варианта: 1. Формулу+данные 2. Только формулу

Станислав, если готовы приобрести программу, - напишите мне в скайп, подскажу
(тут проще на вашем примере показывать)

Сам кусок кода не отправился сразу «textarea class="messenger-reply-input" type="text" placeholder="Написать сообщение" rows="1" maxlength="1000" style="height: 32px;">

Подключился к запущенному IE.
Пытаюсь заменить "%%%%%%" через "Найти элемент в Internet Explorer" в данном куске кода
%%%%%%
Не совсем понятно как найти данный элемент через параметр "Режим Поиска". Подскажите? В справке этот момент не освещен полностью. Планирую подставить нужное мне значение через SetValue и далее отправить заполненную форму на сайт через "Щелкнуть по элементу..." Ваше решение может мне помочь в решении задачи?

Ирина, запустите отдельную копию Excel через Пуск — Программы, и работайте с другими файлами сколько угодно

По некоторым поставщикам парсер собирает данные довольно долго, и очень неудобно, что на это время работа в Excel недоступна.
Может ли парсер работать в фоновом режиме? Чтобы иметь возможность одновременно работать с другими файлами Excel?

Здравствуйте, Александр
Напишите мне на почту с адреса, на который покупали программу, и прикрепите файл настроек парсера, посмотрю в чём проблема.

Здравствуйте! Настройки парсера не менял, с этими настройками парсили уже многократно. Однако сейчас получается неккоректный парсинг - обрабатывается 70-150 строк (несколько раз разное количество в этом диапазоне) и выводит ошибку "не задан URL" для шага "загрузить страницу". Останавливаю парсер, сохраняю результат, запускаю парсер с того места где начали появляться ошибки (на перезапуск и сохранение уходит меньше минуты) - парсер работает корректно первые 70-150 строк и снова выдает ошибку "не задан URL"

Ранее этим парсером проходили по несколько десятков тысяч строк. Как быть? как отследить ошибку почему возникает ошибка?

Нет, под обработку таких больших файлов парсер не заточен.
(такие файлы в задачах парсинга встречаются крайне редко, потому, задачи такой у меня не стояло)
Для вашего случая, проще отдельный макрос заказать.

Здравствуйте! Подскажите, пожалуйста, справится ли Ваш парсер с большими ~1gb XML файлами? допустим из базы для партнеров ozon`a или litres`a в xml получится собрать данные?

Тут есть ответ на ваш вопрос
https://excelvba.ru/faq/system_requirements

Игорь, здравствуйте! Подскажите работает ли программа на ios? пробывал запускать parser.xla выдает ошибку про макросы. спасибо!

Николай, это не числа (числа не могут содержать двоеточие)
Потому, никак не сравнить
Напишите мне в скайп, попробую помочь.

Здравствуйте, подскажите, как можно сравнить числа между собой в массиве? 2:6~~1:13~~8:1

Можно сцепить массив чисел в строку через пробел, а потом применить действие Сумма чисел:

Действие Параметр Значение Результат
СОЗДАТЬ массив чисел (для цикла) Начальное значение 1 Массив из 4 значений:

Конечное значение 4
Шаг 1
Делитель для конечного значения
ОБЪЕДИНИТЬ (сцепить) элементы массива Разделитель элементов массива Текст (длиной 7 символов)
Сумма чисел Сколько прибавить или вычесть Число (длиной 2 символа)
Количество цифр после запятой 0

Сделал еще так
ОБЪЕДИНИТЬ (сцепить) элементы массива {LF}
Заменить часть текста {LF} на +
Добавить текст ДО или ПОСЛЕ =
Получается без доб столбца. на выходе в ячейке формула =9+4+12+4+27+23+18

Добрый день! Подскажите после работы парсера получаю массив значений: 9~~4~~12. Как можно сложить данные значения. Сейчас вывожу данные в отдельные ячейки и суммирую формулой.

Вячеслав, можем настроить под заказ
Я не консультирую по вопросам настройки парсеров

Парсер полностью подстроил под сайт и выгрузку тех данных, что нужно, но не знаю что делать с этими ссылками пейджера, если сделать вот так https://prnt.sc/m6klun , то сначала парсится первая страница, потом по идее должно переходить на вторую, но в итоге все равно парсит по 2 разу 1 страницу