Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция по настройке парсера сайтов для формирования прайса с интернета-магазина:

 

Дополнительная видеоинструкция: загрузка страниц и авторизация на сайте

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2500 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Комментарии

подскажите готовый пример (если есть с видео) на Вашем сайте где ссылка на страницу из ячейки екзел берется

Подскажите пожалуйста, как добавить все ссылки пейджера для сайта http://zakupki.gov.ru, там номер страницы пейджера расположен в середине адресной строки, а не в конце как обычно.

С некоторыми сайтами получается ускорить, используя многопоточную загрузку. Но не со всеми сайтами это работает

Здравствуйте. Начал использовать Ваш парсер но на сайте поставщика очень много товаров и не могу настроить так чтобы парсер парсил быстро. Возможно ускорить процесс парсинга?

Всё возможно, если вы сможете подробно объяснить, что где и как должен искать парсер.

Добрый вечер! Нужно привести файл эксель для загрузки на сайт, чтобы выгружал фото (искал в интернете по данным лотов.Возможно сделать?

Здравствуйте.
Спасибо за отзыв.

по пунктам:
1) пока нет в планах, т.к. это можно сделать одним действием Регулярные выражения (с параметром replace)
2) xpath в моём парсере нужен крайне редко, и всегда без него можно обойтись (ибо есть действие Поиск тегов)
Xpath применяется только в одном действии - выборка из XML. А XML используется редко, т.к. на сайтах HTML, а не XML
3) не понял, про какие массивы идёт речь. для работы с массивами значений, есть очень много действий — мне хватает.
4) да, нужна такая возможность. Есть в планах
5) это есть. пару недель назад добавил действие (в разделе Функции массива) — Диалоговое окно выбора элементов.
оно как раз для этого (можно запускать выбор этот, только если нажата клавиша Ctrl или Shift при запуске парсера)
6) есть в планах. у меня по обращениям касательно вопросов настройки, более 50% обращений - касательно пейджера.
так что собираюсь написать боле подробную инструкцию

Не нашел где оставлять отзыв. Оставлю сюда. В общем, годный продукт. Из всех, испытанных мной, парсеров - этот самый гибкий и функциональный, может потому что excel ближе к душе. По истечению 2 месяцев пользования хотелось бы добавить в парсер еще несколько моментов:
1) К текстовой функции "взять между" добавить противоположную - "убрать между".
2) Тема xpath выражений не раскрыта, хотелось бы примеры на видео. И примеры использования регулярных выражений...
3) Создать дополнительные команды для массивов(и для других) для упрощения работы(готовые формулы), например удалить все массивы после "..." вставляем текст в троеточие. Или то же самое "до". Или сцепить 2 массива в один после разделителя, например "|". И тому подобное...
4) Нужна функция "поставить на паузу". Сейчас просто так нельзя остановить парсер. Только отменять его работу и потом в ручную искать номер массива на котором он остановился и править все в настройках.
5) Из 4го пункта вытекает добавить функцию начать с №массива. Где то не в настройках парсера, а по ближе чтобы не менять все. Захотел тут поработал, захотел там...
6) Хотелось бы примеры обхода определенных "ловушек" с пейджерами и тд.
В общем, не останавливайтесь на достигнутом! Всех благ!

Подскажите, считать значение переменой - не ссылку, а текст(например название категории, подкатегории) можно?
или каким способом это сделать если на странице товара не отображается путь по категориям?

Тимур, проблема не понятна. Подсказать не смогу.
Могу настроить под заказ.

Здравствуйте. Скажите пожалуйста при скачивании пробной версии на 10 дней начинаем прогружать страницу категорий и на второй странице подуровня не как у Вас на видео показано только одна ссылка на категорию а у нас все ссылки и все действия которые добавляли на первом уровне они перенеслись на второй подуровень и все ссылки с первого подуровня! Как исправить данную проблему уже целый день и ночь пытаемся понять в чем проблема но все ее не можем решить!? Помогите решить!

Почитайте про это действие
https://excelvba.ru/programmes/Parser/actions/FindTargetPages

а как быть когда в одной категории находятся товары, в другой подкатегории и товары, а в третей только подкатегории?
если есть пример на сайте подскажите

подскажите, почему по действию "загрузить исходный код..." загружается вся страница,
а этаже ссылка по "Открыть вэб-страницу в ИЕ" открывается не вся старица?

Только что проверил
Всё грузится. Сайт как сайт. IE тут не нужен.
Что-то неправильно настраиваете, значит.
Могу настроить под заказ.

Не грузится страницы категорий (по ссылкам) этого сайта http://goods-avto.ru.
страница открывается только по переходу из меню, побывал запускать ИЕ в парсере тоже не помогло

Используйте браузер IE для загрузки полного списка товаров:
https://excelvba.ru/programmes/Parser/actions/IE_Scroll

а как быть если нет ссылок пейджера, а есть кнопка "показать подробнее"? возможности получить все товары со страницы - нет, вот посмотрите на этом сайте dr-marcus.ru -продукты.

To Тимур

https://my-files.ru/o80bsq - быстренько (минут 15) накидал, то о чём Вы просили, изучайте.

Посмотрите пожалуйста http://prntscr.com/lkncr8

Да, верно. Нужно извлечь ссылки на товар! Пропишите пожалуйста подсказку точнее а то я не понял где Вы этот параметр нашли http://prntscr.com/lkn0tm Спасибо

to Тимур

Если я Вас верно понял, то вам нужно получить массив ссылок на товары, а т.к. в них нет определенного класса, тогда как их извлечь (нужные ссылки)? Зато есть классы у блоков, в которых эти ссылки хранятся. div class="sblock4 num-1", div class="sblock4 num-2" и т.д.. Сначала ищем блоки с данным классом, а потом из него извлекаем ссылки. Действие - HTML: Поиск тегов. Параметры - div, название проверяемого атрибута - class, значение проверяемого атрибута - sblock4 num-*

Доброго времени суток. Скажите пожалуйста делаю настройку по Вашем видео и у меня такая картина. Прогружаю в категории страницы а вот у товара нет атрибут класса на тег А то как быть? http://prntscr.com/lki4b5

to Гость, 19 Ноя 2018 - 21:48
под каждый сайт парсер настраивается отдельно - самостоятельно или за деньги

Добрый день,

Мне требуется парсер который сможет парсить с любого сайта в ексель. Но я слышал такое, что не со всех сайтов получится парсить. И есть какие-то ограничения.

Скажите пожалуйста. Если я приобрету вашу программу смогу ли я парсить информацию с любых сайтов или может быть такое, что владелец сайта поставил ограничения не позволяющие парсить с его сайта.

Заранее спасибо.

подскажите или может есть какой пример посмотреть?
-на странице находятся 66 товаров, все разбиты на 21 подгруппу(category-item-name), которые находятся в 4х группах(category-name).
Необходимо получить в каждой строке с товаром - группа/подгруппа/товар

to Гость, 18 Ноя 2018 - 18:30.

Внимательно читайте документацию, в ней содержится ответ на Ваш вопрос

https://excelvba.ru/programmes/Parser/actions/GetTags#SecondParam

4-ый пример

Евгений, нужно значит в 2 вариантах настраивать (хотя, возможно, вы просто не к тем тегам привязались при настройке)
Могу настроить под заказ.

посоветуйте что сделать: я по вашему примеру делал парсер сайта, в итоге у половины товаров - поле "описание" осталось пустым, изза того что на страницах товаров указаны разные теги и их значения для необходимых данных (например: для описания).

Нашел информацию в инструкции по моему вопросу. Поторопился спрашивать. Изучаю.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
  ____     __             _     _____  _____ 
| ___| / /_ __ __ | |_ |__ / | ____|
|___ \ | '_ \ \ \ / / | __| / / | _|
___) | | (_) | \ V / | |_ / /_ | |___
|____/ \___/ \_/ \__| /____| |_____|
Введите код, изображенный в стиле ASCII-арт.