Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2700 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Ирина, не могу сказать. Вроде никто на такое не жаловался, всё должно работать.
Если купите программу, — напишете мне потом в скайп, попробую помочь

Игорь, добрый день! В парсере (Дополнительно-Таблицы замен) при нажатии кнопки "Редактировать" таблицу замены выходит ошибка "Обратитесь к разработчику программы. Не удалось создать редактор таблиц замены". Подскажите, пожалуйста, в чем проблема? Спасибо!

Использование браузера вообще не обязательно (да и нежелательно)
Всё, что вы видите в Хроме, можно получить парсером без браузера (например, выполняя пост запросы, как это делает браузер)
Так что сделаем, не проблема.

Ваш парсер сайтов работает только в браузере (IE)? Мне необходимо сделать парсинг сайта, у которого не все объекты доступны через IE. В хроме сайт работает нормально. Вы решаете парсинг таких сайтов?

От сайта зависит. Где-то можно найти номер в коде страницы (возможно, дешифровать номер нужно будет), где-то надо выполнить POST запрос.
Можем настроить под заказ.

Игорь, с этим разобрался. Последний вопрос, как спарсить номер телефона, который скрыт под кнопкой. Допустим номер телефона не отображается в коде сайта, пока не нажать на эту кнопку. Если это есть в документации, дайте намек где искать. Спасибо

Дмитрий, в справке по этому действию написано, что можно извлечь любой атрибут, прописав его название в четвертом параметре действия Поиск тегов

Добрый день, как извлекать значение атрибута? Есть в теге a, атрибут со значением номера телефона data-content="+79999999999", как извлечь сам номер?

С любым сайтом будет работать.
Нет разницы, интернет-магазин это, или любой другой сайт.

Здравствуйте!
Подскажите, пожалуйста, а с такого сайта будет работать ваш парсер:https://holstshop.ru/catalog/painters/klod-zhozef-verne/?
Это не совсем интернет-магазин, нужна большая фотография, название, описание внизу с артикулом. Парсить хотел по художникам.

Друзья, просмотрев видео все получилось с помощью пост-запросов, спасибо.

Ребята здравствуйте, скажите пожалуйста, есть ли пример настроенных парсеров, как получить данные с выполнения скрипта, а то без примера ну ни как.

Либо пост-запросом, либо открывая страницу в браузере IE
Подробнее - в видеоинструкции: https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon

А как можно получить ссылки на товары например с сайтов, где они формируются с помощью скрипта? и в коде страницы этих ссылок просто нет?

Михаил, да, сможем.
заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Добрый день.
На сайте официального портала судов общей юрисдикции города Москвы
в разделе поиск, хочу выбрать всю информацию по категориям дел
сможете помочь
https://www.mos-gorsud.ru/search
→ "производство" → "категория дел"

Юрий, да, можно
Часто настраиваем под такие сайты:
https://excelvba.ru/programmes/Parser/samples/category/Sport

Ребята здравствуйте, спасибо за Ваши труды и умения, парсер очень мощный, скажите пожалуйста спарсерить такие данные сием чудом можно?
https://ibb.co/HtMDqr8

Да, возможно.

Здравствуйте!
Есть список товаров, есть сайт на котором все товары есть, нужно обойти этот сайт по готовым ссылкам товаров и взять только цены, это возможно?

Иван, по пункту 1, это основной функционал яндекса и гугла, - ИСКАТЬ что-либо по заданному тексту
Просто берем первый результат поиска по запросу «название организации» официальный сайт

По пункту 2, так не получится. Все сайты разные. Настолько разные, что таким способом и с 10% сайтов не собрать описание организации.

По пункту 3, - можно, только при наличии четкого задания, где что как искать.
Посидев над составлением этого задания месяц-другой (пытаясь написать подробный алгоритм, подходящий для произвольной организации), вы поймёте, о чём я говорю.
На ближайшие лет 10 об этом пункте 3 можете забыть, - потом, глядишь, и искусственный интеллект изобретут, тогда можно будет подумать о воплощении ваших задумок.

Игорь, спасибо за ответ.

"пункт 1 - тут поможет поиск в яндексе или гугле, качество результата будет около 90%" — Вы имеете в виду, что есть функционал яндекса или гугла, который может автоматически найти сайты для массива наименований компаний? Или каким-то образом использовать яндекс или гугл в рамках вашей программы Parser?

"пункт 2 - если только придумаете, с какого ОДНОГО сайта эти данные брать" — допустим, если пункт 1 выполнился и программа нашла сайт и вбила его в ячейку excel, то взять описание компании с него получится (прехедер в поисковике, например), я правильно понимаю?

"пункт 3 - не реализуем (ни моей программой, ни любой другой). Эти данные нигде не хранятся в упорядоченном виде." — по ключевым словам "форум, выставка и т.д." хотя бы выдать массив информации, так нельзя?

Здравствуйте, Иван
пункт 1 - тут поможет поиск в яндексе или гугле, качество результата будет около 90%
пункт 2 - если только придумаете, с какого ОДНОГО сайта эти данные брать
пункт 3 - не реализуем (ни моей программой, ни любой другой). Эти данные нигде не хранятся в упорядоченном виде.

Здравствуйте.
В файле excel столбец с 3000+ наименований компаний.
Задача:
1. Найти для каждой компании официальный сайт,
2. Найти краткое описание деятельности компании,
3. Найти названия выставок, в которых эти компании когда-либо участвовали или будут участвовать.
Поместить эти данные в три столбца напротив каждой компании, соответственно.
Можно ли сделать это с помощью вашей программы? Спасибо.

Программа куплена, мысль понятно, спасибо по Вашей рекомендации разобрался.

Михаил, это прямые ссылки на скачивание файлов
Всё должно работать


Сергей, не понял, какое отношение эта задача имеет к парсеру
Парсер умеет такое, - разбиваем исходную строку (из столбца А) на массив, почти аналогично делаем со строкой из столбца В, потом применяем действие Проверка на выполнение условия (условие - не содержится в массиве)
Напишите мне в скайп, попробую помочь (если уже покупали программу-парсер)

Поправлю: Как в ячейке C2 получить числа 2 3 5 6 (удалить вхождение одного массива в другой)

Как решить следующую задачу:
ячейка A2 содержит числа: 1 2 3 4 5 6
ячейка B2 содержит числа: 1 4
Как в ячейке C2 получить числа 2 5 6 (удалить вхождение одного массива в другой)
Строк несколько тысяч, значения разнообразные, но всегда уникальны. Пока на ум приходить удалить через таблицу замен, но это будет долго.

https://excelvba.ru/programmes/Parser#comment-10142
А то что это не прямая ссылка на файл картинки, а что-то другое. По данным ссылкам парсер скачать файлы не может.

Ярослав, список запланированных парсеров пока нет возможности посмотреть.
Я с такой необходимостью ни разу не сталкивался, потому и не стал делать.


Михаил, ваш вопрос не понятен.
Указанные вами ссылки ведут напрямую на картинки
В чем сложность, и что конкретно у вас не получается, мне не ясно.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
           ___    _____           _  __  _____ 
_ _ / _ \ |_ _| __ __ | |/ / |_ _|
| | | | | (_) | | | \ \ / / | ' / | |
| |_| | \__, | | | \ V / | . \ | |
\__, | /_/ |_| \_/ |_|\_\ |_|
|___/
Введите код, изображенный в стиле ASCII-арт.