Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2700 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Здравствуйте, Илья.
Тут весьма нестандартный пейджер, но это все тоже легко решаемо
(просто будет не 1 действие «Получить все ссылки пейджера», а несколько других команд)
Если готовы оплатить программу (2700 руб) + помощь по этому вопросу (500 руб), — покажу пример получения ссылок пейджера для этого сайта.

Игорь, здравствуйте! Спасибо за программу, очень помогает в работе.
Столкнулся с проблемой, почему-то не получается получить ссылки пейджера со страницы http://www.fonlimachinery.com/supplier-242277-komatsu-bulldozer-parts

Ставлю параметр auto - не находит, добавляю префикс "p" либо "p-" результата 0.
Подскажите, что сделать? Спасибо.

Дмитрий, по вашей ссылке 0 результатов, — и пейджера, соответственно, нет.
Я не консультирую по вопросам настройки парсеров.
Можем настроить под заказ (платно)

Здравствуйте.
Подскажите пожалуйста действия для получения ссылок пейджера на данной странице: https://www.ebay.com/sch/napkinworld/m.html?_nkw=&_armrs=1&_ipg=&_from=
Делал по инструкции. 1. Загрузил страницу с пейджером. 2. Поиск ссылок пейджера, вводил префикс &_pgn= все равно безуспешно.

Здравствуйте, Юрий.
Написал инструкцию для вашего случая: Пейджер на скриптах

Добрый вечер!
Протестировал Вашу программу на нескольких разных сайтах. Всё получилось настроить и выгрузить необходимые данные. Очень понравилась программа, приобрёл лицензию. Но при настройке на очередной сайт столкнулся с проблемой - не получается вытащить ссылки пейджера. Подскажите, пожалуйста, как их выгрузить? Ссылка на сайт https://www.mos.ru/otvet-transport/kak-proverit-razreshenie-taksi

Возможно, когда-то раньше уже запускали эту надстройку на этом компе.
Напишите мне на почту ID компьютера из О ПРОГРАММЕ - АКТИВАЦИЯ, решим проблему.

Прошу объяснить, почему после скачивания и установки надстройки появляется сообщение, что пробный период истек. Я ее только что скачал и сразу установил. Каким образом за 2 минуты пропало 2 недели обещанного тестового периода?

Hello Agustin,
Sorry but my add-in doesn't fully support English.
Translation covers only menu, toolbar and progressbar, cause most of the add-in' users who set it up understand Russian.
I could translate all the interface but it takes a lot of time. I gonna do that but not soon.
If you need we can set the program up for your task. All you need after that is to click a button to run a parser.

Hi,

I am interested in this application. I downloaded the parser from this page, "install" it and select the English language, but when I open the add on in Excel, the parser is in the Russian language, even though I selected English. Unfortunately I do not understand anything Russian and I can not prove it to trial. How can I make it in English?

Thanks!

Здравствуйте, Владимир.
С места остановки, в общем случае, не начать. Но, если всё настроено правильно, сбоев не должно быть.
Добавить новый сайт - созданием и настройкой нового парсера.
Какой парсер первым запустите - с того программа и начнет. Каждый раз изменять настройки не надо.

Здравствуйте! Я новичек, но по видеоиснтрукции все настроил! Все работает! Пока пользуюсь пробной версией. Не увидел в видео как нажать паузу! Если произошел какой-то сбой, то как продолжить парсинг с места остановки? Это ведь долгий процесс, и если парсер загрузил уже 5000 ссылок, в случае остановки парсера он потом должен начать все сначала? И второй вопрос, как добавить еще один сайт для парсинга? Это будут другие настройки парсинга. Как программе указывать с какого сайта начать парсить? Каждый раз надо изменять настройки?

Стас, да, можно
Достаточно одну команду добавить, - Добавить новый лист в книгу (на подуровне, где категория обрабатывается. обычно это 2 подуровень)
PS: 50 тыс строк для Excel - не проблема. Странно, что там что-то не выдерживает.

Добрый день, а можно чтобы книга создавалась на каждую категорию. То как построить цепочку? Т.к. на лист все красиво выводиться,но когда более 50тыс позиций, книга не выдержит.

Антон, да, может. С любого сайта может.

Здравствуйте.
Может ли Ваш парсер делать выгрузку с сайта 55opt.org ?

Да, есть такая возможность.
В настройках столбца для вывода, нужно поставить галочку на вкладке Формат - подвкладке Изображение.
Только если у вас строк немного выводится, а то файл будет весить очень много.

Подскажите , я могу выбрать так чтоб вместо ссылки на фото , было само фото в файле?

Андрей, да, парсер и такое умеет (хоть и не для этого предназначен)

Всем доброго времени суток! Вопрос следующий: есть эксель файл на 13к+ строк, мне нужно чтобы парсер нашел все строки с заданным мною значением и плученный результат скопировал в отдельный файл. Чтобы он именно строку всю копировал из исходного файла и перемещал в нужный мне. Возможно ли это сделать с помощью этого парсера?
Спасибо.

Сергей, если при выводе на лист парсер перезаписывает одну и ту же строку, - читайте справку:
https://excelvba.ru/programmes/Parser/manuals/errors/overwriting

Здравствуйте, настроил по видео парсер. Загружается циклично одна и таже строка с данными, где ошибка?

Программа не считывает POST запросы из браузера. Программа вообще с браузером никак не связана.
Вы смотрите, какие запросы выполняет браузер, и настраиваете такие же запросы в парсере.
https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon

Еще раз здравствуйте. А подскажите пожалуйста какое действие необходимо провести в программе, чтобы не по одному вставлять запросу из браузера, а программа сама смогла считывать post или get запросы которые выполняет браузер, ведь в пейджере могут быть и тысячи страниц.

Алексей, такое парсить тоже можно, но настройка сложнее (не как в инструкции).
Здесь страницы переключает скрипт. В ссылке не должно быть символа # (это для браузера)
Т.е. обрезайте URL по символу # перед загрузкой страницы.
А потом смотрите, какие запросы выполняет браузер (об этом - во второй видеоинструкции)

Данные со страниц пейджера загружаются по таким ссылкам:

https://bolts.catalogs-parts.com/cat_scripts/get_oils.php?params=&group_id=0&page=0&lang=ru&client=1
https://bolts.catalogs-parts.com/cat_scripts/get_oils.php?params=&group_id=0&page=16&lang=ru&client=1
https://bolts.catalogs-parts.com/cat_scripts/get_oils.php?params=&group_id=0&page=32&lang=ru&client=1
и т.д.

Если сами не разберетесь, можем настроить под заказ.

Добрый день. Подскажите пожалуйста возможно ли найти offset, если ссылка получается такого плана https://bolts.catalogs-parts.com/#{client:1;page:bolts;lang:ru;group:0}
Если ввожу ссылку в браузере, то он находит нужную страницу, а программа указывает на ошибку 404 не существует. По вашему видео остановился на шаге найти offset. Html код в программе отображается без ссылок и тегов, одни скрипты. Как поступать в таких случаях? Возможно ли вообще парсить такие страницы?

подскажите, как можно в таблице html убрать строку (целиком) содержащую определенный параметр (например бренд, срок поставки).
И еще после "преобразовать таблицы в список.." получается массив равный количеству ячеек (например 2-сроки на 5-столбцов получится 10 элементов массива) как сделать массив по количеству строк?

Да, работает. С любой версией Excel под windows.

Подскажите а работает ли парсер с excel 2016

Всё должно загружать. Что-то не так настроили, видимо.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
  ____                _    ___            ____  
/ ___| __ _ __| | / _ \ __ _ |___ \
\___ \ / _` | / _` | | (_) | / _` | __) |
___) | | (_| | | (_| | \__, | | (_| | / __/
|____/ \__,_| \__,_| /_/ \__, | |_____|
|_|
Введите код, изображенный в стиле ASCII-арт.