Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2700 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

В действии «Получить все ссылки пейджера» в параметре «Дополнительные параметры» напишите step=1

пейджер отображает только четные страницы http://opt.ros-decor.ru/category/photoshtori/tsvety/
не могу разобраться, помогите

Игорь, какая примерно цена по настройке парсера?

При парсинге сайта, программа останавливается на 47% и все. Несколько раз пробовал, но все время тормозит, что делать?

Дмитрий, настроено значит что-то не так.
Можем перенастроить под заказ.

Добрый день. Парсер запускается в работу, загружает данные с 4х страниц, а потом выдает ошибку "Не задан URL страницы для загрузки в действии «Загрузить исходный код веб-страницы»". Скриншот http://prntscr.com/pbxcty. Подскажите в чем может быть проблема?

Сергей, Цены и прочие данные по каждому размеру на сайте Аскона получаются пост-запросами.
Сначала получаем все возможные размеры (в коде страницы ищем select id="product-buy__drop-size", из него берем теги option),
а потом для каждого размера выполняем POST запрос (там около 18 параметров в нём, но меняются только три: размер, ID товара, и еще что-то)
Повозиться немного придется с настройкой, но ничего сложного нет.

Нет, цен в конце страницы нет. Я нашел в видео инструкцию по GET запросам и вроде как разобрался, спасибо! Но через браузер. Попробую следующим этапом перейти на метод загрузки кода.

Здравствуйте, Сергей
Браузер парсеру для этой задачи не нужен.
В большинстве случаев, даже щёлкать ничего не надо, - в коде страницы обычно есть все размеры и цены на них.
Если же нет, то смотрите какой запрос выполняет ваш браузер.
Подробнее об этом во второй видеоинструкции:
https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon

Добрый день! Пытаюсь настроить парсинг позиций на этом сайте:
https://www.askona.ru/tekstil/postelnoe-beljo/askona-home-belyy-sneg-pro...
Для получения цены нужно из дропдауна выбрать нужный размер, то есть попросить парсер сделать два клика: на дропдауне и на нужном элементе, и тогда меняется цена. Не могу этого добиться :( "Щелкнуть по элементу в Internet Explorer" не срабатывает так, как я этого хотел бы. Подозреваю, что это настраивается где-то через GET/POST. Использую платную версию программы.

Хочу настроить сам, опыт важен. Скажите, в какую сторону курить? Может, есть образец или запись семинара, где это было бы освещено?

Ярослав, с этими Гугл сервисами, - да, непросто.
Парсер можно попробовать настроить под них (без использования ИЕ), но наверняка там повозиться придется с настройкой (ибо всё на скриптах).
На данный момент, 99.99999% сайтов парсеру вполне доступны, так что какого-то специализированного решения под подобные гугл-сервисы пока не планируется.

Я вообще обычно не настраиваю парсер под Google и Яндекс, — с ними много сложностей (типа капчи и прочих мешающих парсингу вещей), да и для подобных сервисов обычно существуют специализированные решения / парсеры, заточенные под парсинг выдачи поисковых систем.
Мой же парсер — для всех остальных сайтов, кроме этих двух.

IE тихонько умирает. Сервисы типа Гугл тренды или Гугл реклама уже перестали грузиться в IE.
Силами парсера они также не грузятся. Что делать ?

Так просто получите все теги tr из нужной таблицы, а потом проверкой на выполнение условия откиньте лишние

Добрый день. Нужно спарсить данные из HTML-таблицы, в которой теги имеют повторяющиеся аттрибуты tr class=odd, class=even. Уникальны только текстовые значения заголовка строки (типа Сокращенное наименование) и само наименование. Трюк с указанием номера выводимого тега не проходит - значения в таблице на разных страницах плавают.
Можно ли найти тег tr, внутри которого содержится нужный мне текст?

Игорь, из вашего описания не понятно, что нужно сделать, потому, подсказать не могу

Здравствуйте. Подскажите,где можно подробнее почитать про парсинг по рефферальным ссылкам?
Например есть ссылки в выгруженном csv формате. На настроить парсер?
Спасибо

Эльдар, да, можно сделать.
Как именно, зависит от сайта. Можем настроить под заказ.

Добрый день. Такой вопрос есть. Если на сайте есть кнопка скачать и по этой кнопке скачивается архив, есть какое-то действие на такое скачивание?

Эльдар, там надо смотреть, какие запросы выполняет браузер при прокрутке, и выполнять аналогичные.
Просто посложнее будет настройка в таком случае, - вместо одного действия (получить все ссылки пейджера) будет 4-5 действий.
ИЕ использовать для этого необязательно.
Можем настроить под заказ.

Добрый день. Очень крутая штука. Спасибо.
Есть один вопрос. Сайт использует динамическую подгрузку контента. Пагинация при скроле. И там довольно таки много контента. порядка 500-700 позиций. Пробовал использовать функцию открыть в IE и сделать прокрутку, но этот инструмент работает не стабильно и каждый раз производит прокрутку на разное количество позиций. Как с этим быть?

Ирина, не могу сказать. Вроде никто на такое не жаловался, всё должно работать.
Если купите программу, — напишете мне потом в скайп, попробую помочь

Игорь, добрый день! В парсере (Дополнительно-Таблицы замен) при нажатии кнопки "Редактировать" таблицу замены выходит ошибка "Обратитесь к разработчику программы. Не удалось создать редактор таблиц замены". Подскажите, пожалуйста, в чем проблема? Спасибо!

Использование браузера вообще не обязательно (да и нежелательно)
Всё, что вы видите в Хроме, можно получить парсером без браузера (например, выполняя пост запросы, как это делает браузер)
Так что сделаем, не проблема.

Ваш парсер сайтов работает только в браузере (IE)? Мне необходимо сделать парсинг сайта, у которого не все объекты доступны через IE. В хроме сайт работает нормально. Вы решаете парсинг таких сайтов?

От сайта зависит. Где-то можно найти номер в коде страницы (возможно, дешифровать номер нужно будет), где-то надо выполнить POST запрос.
Можем настроить под заказ.

Игорь, с этим разобрался. Последний вопрос, как спарсить номер телефона, который скрыт под кнопкой. Допустим номер телефона не отображается в коде сайта, пока не нажать на эту кнопку. Если это есть в документации, дайте намек где искать. Спасибо

Дмитрий, в справке по этому действию написано, что можно извлечь любой атрибут, прописав его название в четвертом параметре действия Поиск тегов

Добрый день, как извлекать значение атрибута? Есть в теге a, атрибут со значением номера телефона data-content="+79999999999", как извлечь сам номер?

С любым сайтом будет работать.
Нет разницы, интернет-магазин это, или любой другой сайт.

Здравствуйте!
Подскажите, пожалуйста, а с такого сайта будет работать ваш парсер:https://holstshop.ru/catalog/painters/klod-zhozef-verne/?
Это не совсем интернет-магазин, нужна большая фотография, название, описание внизу с артикулом. Парсить хотел по художникам.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
              ___           ___   _____       
_ __ ___ |_ _| _ _ |_ _| | ____| ___
| '_ ` _ \ | | | | | | | | | _| / __|
| | | | | | | | | |_| | | | | |___ \__ \
|_| |_| |_| |___| \__, | |___| |_____| |___/
|___/
Введите код, изображенный в стиле ASCII-арт.