Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Добрый день сколько будет стоить парсер для выгрузки данных на сайте https://rosreestr.ru/wps/portal/online_request

Программа-парсер стоит 2500 руб + настройка около 1500 руб
Итого, 4 т.р. за готовое решение

добрый день, сколько стоит написать парсер (или еще как назовете) есть исходный файл xml, его необходимо сохранять в текстовик с нужным форматом, (часть данных из исходного xml).стандантными средствами windows /office 2007

Да, конечно можно
Полная стоимость платится один раз, потом в любой момент можете докупать активации для новых компов, по 300 руб за комп.

Добрый день!

Подскажите, пожалуйста, можно ли изначально купить лицензию (1+1), а потом, в случае необходимости, докупить третью за 300 руб? Либо будет необходимо вновь платить полную стоимость при повторной покупке?

Здравствуйте, Василий
У парсера нет такой возможности (он не умеет считывать размеры изображения из графического файла произвольного формата)

Но это может другая надстройка (PastePictures)
http://excelvba.ru/programmes/PastePictures
Там можно вывести размеры изображений в заданный столбец (опция в настройках на вкладке Дополнительно)

Здравствуйте. Подскажите пожалуйста как можно с изображения взять его размер. Парсер настроен, не получается с размерами фото. У меня формируется таблица с сайта и мне нужно помимо ссылки на фото что бы вставлялся ее размер в другой столбец. Можно ли это сделать и как?

Добрый день, Иван!

да, смотрите пример - Обработка подуровней разной вложенности на примере парсинга сайта cefalon.by - оптовая продажа женской одежды и аксессуаров
http://excelvba.ru/programmes/Parser/samples/cefalon.by

на странице с примерами для изучения много полезных материалов: http://excelvba.ru/programmes/Parser/samples/category/StudyParcer

Добрый день.
Есть ли пример настроенного парсера, где неодинаковая структура многоуровневых каталогов. Например 1 ссылка - 1 вложенный каталог, 2 - 3 вложенных каталога и тд. При настройке на такие сайты парсер или не доходит до какого-нибудь каталога, либо если вложенных каталогов нет, ничего не выводит. Заранее спасибо за ответ

Да, в любой версии должно всё работать
Убедитесь, что макросы в Excel включены.

ВАЖНО: перед запуском скачанного файла надстройки, необходимо выполнить следующее:

> найти скачанный файл надстройки в папке (обычно это папка «Загрузки»)
> щелкнуть правой кнопкой мыши на файле - Свойства - Разблокировать - ОК
> и только после этого запускать

Не получается установить данную надстройку на Excel 2016. Поддерживается ли она им?

Я не консультирую по вопросам настройки под конкретные сайты
(тем более в случае с этим сайтом, - там много настраивать, а описывать процесс настройки - еще дольше)
Можем настроить под заказ.

Добрый день!
Подскажите, пожалуйста, как на этой странице: https://rosreestr.ru/wps/portal/online_request выбрать пункт в выпадающем списке? Там где "Адрес" надо выбрать субъект "Ивановская область".
Заранее спасибо!

Здравствуйте, Сергей
Да, можно спарсить эту таблицу.
Можем настроить под заказ.

Заказы на парсер принимаются в таком виде:
http://excelvba.ru/programmes/Parser/order

Здравствуйте. Скажите пожалуйста, возможно ли спарсить Вашей программой таблицу на этом сайте https://vprognoze.ru/robobet/ ? в демо версии отображается кусок кода и я не могу протестировать

Не может быть такого. Что-то не так настроили (или где-то всё же осталась включена многопоточная загрузка для тысяч страниц)
Напишите в скайп, если сами не разюерётесь

Даже при обработке поочередно возникает ошибка out of memory

В вашем случае, многопоточная загрузка не подойдёт, - обрабатывайте всё поочерёдно.
Можно поколдовать с настройками, и сделать как вы хотите, - но это нестандартное использование программы (долго расписывать, что как сделать), потому без подробностей.
Впредь, постараюсь предусмотреть для такого отдельное действие

Добрый день.
Как обработать большой массив данных адресов (более 10000) из файла sitemap при многопоточной загрузке. Оперативной памяти не хватает при единовременной обработке. Есть ли какая-нибудь команда обработки массива по частям?

Сергей, откат на предыдущую версию не предусмотрен.
Не обновляйте программу (хотя, эти проблемы не из-за обновления), или же всегда используйте последнюю версию.
Описанные вами проблемы - скорее, результат неверной настройки.
За последний год в этом плане (переменные, воды переносов строки) ничего не менялось

А подскажите как откатиться на предыдущую версию? А то бывают косяки при обновлении. К примеру не заменяется {NL} и {LF} в результате обработки, а выводиться результат корректно. Почему то при скачивании фото на hdd не берется название из переменной или определенной ячейки, если поставить галку автоматический из урла, фото создается. Косяки были с таблицей замены на предыдущей версии, сейчас все хорошо в последней.

Добрый день!

Вы какой программой обрабатываете прайс? Унификация прайсов или парсер? Это комментарии к парсеру.

напишите в скайп antonmashkin, посмотрим.

Добрый день, Ольга!

страницы пейджера создаются скриптом на этом сайте. Вам надо
найти div с классом paginator_pages,
взять количество страниц,
далее создать массив чисел до этого количества
и добавить текст ДО %ссылка на категорию%/page/
получите массив ссылок. Если не разберетесь, пишите в скайп antonmashkin

При настройке парсера не подгружаются страницы пейджера. В чем может быть причина. Сайт http://pivdenoptika.com.ua/

Добрый день. Пытаюсь разобраться с программой. Тестирую программу используя сайт http://pivdenoptika.com.ua/
Дошла до "Получить все ссылки пейджера" Далее программа не надоходит ссылок. В чем может быть проблема? Заранее спасибо за ответ

Добрый день, подскажите , проблема с обработкой прайсов.
Обработчик обрабатывает только 24588 строк из 69382 строк в одном прайс листе.
Остальные обрабатывает корректно. В чём может быть проблема и возможно ли её решить?

Добрый день, Ирина!

Да, можно, ответил Вам на почту.

Добрый день. подскажите можно ли написать программу (парсер) для заливки фото на сайт совместных покупок . но только у меня кнопки загрузить нет. но знаю что программисты как то закачивают их

скажите я работаю организатор на сайте. мне нужна программа для заливки товара (парсер) но кнопки загрузить в моей программе нет. можете ли вы помочь?

По окончании тестового периода, пользоваться программой нет возможности (до покупки)

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
        __     __  ____                       _____ 
__ __ \ \ / / | _ \ __ __ _ _ | ___|
\ \/ / \ \ / / | |_) | \ \ /\ / / | | | | | |_
> < \ V / | _ < \ V V / | |_| | | _|
/_/\_\ \_/ |_| \_\ \_/\_/ \__,_| |_|
Введите код, изображенный в стиле ASCII-арт.