Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2700 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Сергей, если при выводе на лист парсер перезаписывает одну и ту же строку, - читайте справку:
https://excelvba.ru/programmes/Parser/manuals/errors/overwriting

Здравствуйте, настроил по видео парсер. Загружается циклично одна и таже строка с данными, где ошибка?

Программа не считывает POST запросы из браузера. Программа вообще с браузером никак не связана.
Вы смотрите, какие запросы выполняет браузер, и настраиваете такие же запросы в парсере.
https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon

Еще раз здравствуйте. А подскажите пожалуйста какое действие необходимо провести в программе, чтобы не по одному вставлять запросу из браузера, а программа сама смогла считывать post или get запросы которые выполняет браузер, ведь в пейджере могут быть и тысячи страниц.

Алексей, такое парсить тоже можно, но настройка сложнее (не как в инструкции).
Здесь страницы переключает скрипт. В ссылке не должно быть символа # (это для браузера)
Т.е. обрезайте URL по символу # перед загрузкой страницы.
А потом смотрите, какие запросы выполняет браузер (об этом - во второй видеоинструкции)

Данные со страниц пейджера загружаются по таким ссылкам:

https://bolts.catalogs-parts.com/cat_scripts/get_oils.php?params=&group_id=0&page=0&lang=ru&client=1
https://bolts.catalogs-parts.com/cat_scripts/get_oils.php?params=&group_id=0&page=16&lang=ru&client=1
https://bolts.catalogs-parts.com/cat_scripts/get_oils.php?params=&group_id=0&page=32&lang=ru&client=1
и т.д.

Если сами не разберетесь, можем настроить под заказ.

Добрый день. Подскажите пожалуйста возможно ли найти offset, если ссылка получается такого плана https://bolts.catalogs-parts.com/#{client:1;page:bolts;lang:ru;group:0}
Если ввожу ссылку в браузере, то он находит нужную страницу, а программа указывает на ошибку 404 не существует. По вашему видео остановился на шаге найти offset. Html код в программе отображается без ссылок и тегов, одни скрипты. Как поступать в таких случаях? Возможно ли вообще парсить такие страницы?

подскажите, как можно в таблице html убрать строку (целиком) содержащую определенный параметр (например бренд, срок поставки).
И еще после "преобразовать таблицы в список.." получается массив равный количеству ячеек (например 2-сроки на 5-столбцов получится 10 элементов массива) как сделать массив по количеству строк?

Да, работает. С любой версией Excel под windows.

Подскажите а работает ли парсер с excel 2016

Всё должно загружать. Что-то не так настроили, видимо.

пейджер в пробной версии загружает только 7 ссылок из 100. Это правильно так и должно быть?

Алексей, да, может.

Скажите а ваш парсер может собирать данные с джава таблицы, все скрытые строки.
Например вот здесь выводится только 50 строк, мне нужны все

https://stats.nba.com/players/traditional/?sort=PTS&dir=-1

Заказы на парсер принимаются в таком виде
https://excelvba.ru/programmes/Parser/order
Для начала, высылайте заказ, чтобы было что обсуждать.

А как связаться - здесь написано:
https://excelvba.ru/contacts

Как с вами связаться?

Да, возможно.

Здравствуйте, возможно сделать:
Программа выделяет в столбце экселя данные и вносит в поисковую строку на сайте, вбивает еще один стобец, а результат первой и второй строки заменяется резултатом с сайта и вносится еще один стобец данных с сайта в таблицу эксель.

Очень нужно, очень интересно

Илья, можем настроить под заказ, если у вас до сих пор не получилось.
Я не консультирую по вопросам настройки парсеров.

Игорь, здравствуйте! Повторю вопрос))) На сайте ссылки дублируются, одна находится в названии товара, вторая в его каталожном номере... Проблема в том, что эти ссылки находятся в одном блоке, с одинаковыми тэгами, отличаются только анкорами. Как можно реализвать удаление (не обработку) дублей? Или, чтоб как то парсер брал ссылки через 1 в пейджере?
Или такая функция не предусмотрена в парсере?

И еще такой вопрос, с чем может быть связано то, что с разными проходами по сайту получаются разные результаты, например первый проход - 3567 строчек, второй 8370 строк, третий 4000?

Здравствуйте! Подскажите, как парсер завершает работу? Наблюдаю следующую картину: excel перестает заполняться данными, висят 2 окошка парсера: "Инициализация исходных данных (00:00:01)" и "Обработка результатов 100%" и ничего не происходит, из активных кнопок только "отменить"

Добрый день, как можно симитировать нажатие на скриптовую ссылку (которая не содержит привычный тег a)? Необходимые данные выводятся в модальном окне.

Здравствуйте, Сергей.
Тут возможны 2 причины:
1. Что-то недоустановлено в системе. Найти и решить проблему сложно.
2. Парсер несовместим с office 2003.
У остальных программ и поддерживаю ещё пока совместимость с 2003 версией, а вот насчёт парсера уже и не помню, - там сложный функционал, возможно пришлось пожертвовать совместимостью (сейчас 2003 версию почти никто не использует). Рекомендую установить Office 2010.

Здравствуйте. На втором компе подряд не получается запустить триал парсера. Выдаёт ошибку "Compile error in hidden module: mod_Declaration". Оба компа Win7, Office 2003, файл разблокирован, безопасность: низкая.
Что я делаю не так?

Есть разные способы.
Либо брать все товары из главных категорий (вообще не перебирая вложенные), либо, если во вложенных категориях присутствуют товары, отсутствующие в родительских, то можно перебирать все категории, добавив проверку на их наличие.
Если сами не разберётесь, можем настроить под заказ.

Здравствуйте, подскажите, как парсить каталог, у которого разная вложенность карточек товаров? Например, одна категория находится catalog/dvs, другая catalog/hodovka/kolesa, и т.п.

Азамат, значит, сработала защита сайта.
Нужно настраивать решение капчи, или использовать прокси серверы.
В справке по программе написано и про одно и про другое.

Не загружает исходный код, выдает:
"Мы заметили подозрительную активность с вашего IP адреса.Чтобы подтвердить, что вы не робот, пожалуйста...."

Спасибо! Действительно ссылки дублируются, одна находится в названии товара, вторая в его каталожном номере... Проблема в том, что эти ссылки находятся в одном блоке, с одинаковыми тэгами, отличаются только анкорами. Как можно реализвать удаление (не обработку) дублей? Или, чтоб как то парсер брал ссылки через 1 в пейджере?
Еще раз спасибо)

Илья, в списке товаров (в разделах сайта) ссылки на товары дублируются (одна и та же ссылка в 2 экземплярах, - на названии товара, и на фото товара).
Надо брать только одну ссылку из каждого результата поиска, а вы берёте все.
Перенастроить легко.

Здравстуйте! Подскажите пожалуйста, в чем может быть проблема, настроил парсер, всё хорошо, но все позиции почему-то выводятся с дублями, т.е. сразу по 2 товара... В какую сторону копать? Спасибо)

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
         __   __          _   _____    ___  
_ __ \ \ / / _ __ / | |___ / / _ \
| '_ \ \ V / | '_ \ | | |_ \ | (_) |
| | | | | | | |_) | | | ___) | \__, |
|_| |_| |_| | .__/ |_| |____/ /_/
|_|
Введите код, изображенный в стиле ASCII-арт.