Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.
Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).
В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.
Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.
За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)
В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.
Пример использования парсера для мониторинга цен конкурентов
Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.
Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.
Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.
Справка по программе «Парсер сайтов»
Можно попробовать разобраться с работой программы на примерах настроенных парсеров
Комментарии
IE тихонько умирает. Сервисы типа Гугл тренды или Гугл реклама уже перестали грузиться в IE.
Силами парсера они также не грузятся. Что делать ?
Так просто получите все теги tr из нужной таблицы, а потом проверкой на выполнение условия откиньте лишние
Добрый день. Нужно спарсить данные из HTML-таблицы, в которой теги имеют повторяющиеся аттрибуты tr class=odd, class=even. Уникальны только текстовые значения заголовка строки (типа Сокращенное наименование) и само наименование. Трюк с указанием номера выводимого тега не проходит - значения в таблице на разных страницах плавают.
Можно ли найти тег tr, внутри которого содержится нужный мне текст?
Игорь, из вашего описания не понятно, что нужно сделать, потому, подсказать не могу
Здравствуйте. Подскажите,где можно подробнее почитать про парсинг по рефферальным ссылкам?
Например есть ссылки в выгруженном csv формате. На настроить парсер?
Спасибо
Эльдар, да, можно сделать.
Как именно, зависит от сайта. Можем настроить под заказ.
Добрый день. Такой вопрос есть. Если на сайте есть кнопка скачать и по этой кнопке скачивается архив, есть какое-то действие на такое скачивание?
Эльдар, там надо смотреть, какие запросы выполняет браузер при прокрутке, и выполнять аналогичные.
Просто посложнее будет настройка в таком случае, - вместо одного действия (получить все ссылки пейджера) будет 4-5 действий.
ИЕ использовать для этого необязательно.
Можем настроить под заказ.
Добрый день. Очень крутая штука. Спасибо.
Есть один вопрос. Сайт использует динамическую подгрузку контента. Пагинация при скроле. И там довольно таки много контента. порядка 500-700 позиций. Пробовал использовать функцию открыть в IE и сделать прокрутку, но этот инструмент работает не стабильно и каждый раз производит прокрутку на разное количество позиций. Как с этим быть?
Ирина, не могу сказать. Вроде никто на такое не жаловался, всё должно работать.
Если купите программу, — напишете мне потом в скайп, попробую помочь
Игорь, добрый день! В парсере (Дополнительно-Таблицы замен) при нажатии кнопки "Редактировать" таблицу замены выходит ошибка "Обратитесь к разработчику программы. Не удалось создать редактор таблиц замены". Подскажите, пожалуйста, в чем проблема? Спасибо!
Использование браузера вообще не обязательно (да и нежелательно)
Всё, что вы видите в Хроме, можно получить парсером без браузера (например, выполняя пост запросы, как это делает браузер)
Так что сделаем, не проблема.
Ваш парсер сайтов работает только в браузере (IE)? Мне необходимо сделать парсинг сайта, у которого не все объекты доступны через IE. В хроме сайт работает нормально. Вы решаете парсинг таких сайтов?
От сайта зависит. Где-то можно найти номер в коде страницы (возможно, дешифровать номер нужно будет), где-то надо выполнить POST запрос.
Можем настроить под заказ.
Игорь, с этим разобрался. Последний вопрос, как спарсить номер телефона, который скрыт под кнопкой. Допустим номер телефона не отображается в коде сайта, пока не нажать на эту кнопку. Если это есть в документации, дайте намек где искать. Спасибо
Дмитрий, в справке по этому действию написано, что можно извлечь любой атрибут, прописав его название в четвертом параметре действия Поиск тегов
Добрый день, как извлекать значение атрибута? Есть в теге a, атрибут со значением номера телефона data-content="+79999999999", как извлечь сам номер?
С любым сайтом будет работать.
Нет разницы, интернет-магазин это, или любой другой сайт.
Здравствуйте!
Подскажите, пожалуйста, а с такого сайта будет работать ваш парсер:https://holstshop.ru/catalog/painters/klod-zhozef-verne/?
Это не совсем интернет-магазин, нужна большая фотография, название, описание внизу с артикулом. Парсить хотел по художникам.
Друзья, просмотрев видео все получилось с помощью пост-запросов, спасибо.
Ребята здравствуйте, скажите пожалуйста, есть ли пример настроенных парсеров, как получить данные с выполнения скрипта, а то без примера ну ни как.
Либо пост-запросом, либо открывая страницу в браузере IE
Подробнее - в видеоинструкции: https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon
А как можно получить ссылки на товары например с сайтов, где они формируются с помощью скрипта? и в коде страницы этих ссылок просто нет?
Михаил, да, сможем.
заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
Добрый день.
На сайте официального портала судов общей юрисдикции города Москвы
в разделе поиск, хочу выбрать всю информацию по категориям дел
сможете помочь
https://www.mos-gorsud.ru/search
→ "производство" → "категория дел"
Юрий, да, можно
Часто настраиваем под такие сайты:
https://excelvba.ru/programmes/Parser/samples/category/Sport
Ребята здравствуйте, спасибо за Ваши труды и умения, парсер очень мощный, скажите пожалуйста спарсерить такие данные сием чудом можно?
https://ibb.co/HtMDqr8
Да, возможно.
Здравствуйте!
Есть список товаров, есть сайт на котором все товары есть, нужно обойти этот сайт по готовым ссылкам товаров и взять только цены, это возможно?
Иван, по пункту 1, это основной функционал яндекса и гугла, - ИСКАТЬ что-либо по заданному тексту
Просто берем первый результат поиска по запросу «название организации» официальный сайт
По пункту 2, так не получится. Все сайты разные. Настолько разные, что таким способом и с 10% сайтов не собрать описание организации.
По пункту 3, - можно, только при наличии четкого задания, где что как искать.
Посидев над составлением этого задания месяц-другой (пытаясь написать подробный алгоритм, подходящий для произвольной организации), вы поймёте, о чём я говорю.
На ближайшие лет 10 об этом пункте 3 можете забыть, - потом, глядишь, и искусственный интеллект изобретут, тогда можно будет подумать о воплощении ваших задумок.