Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Добрый день,

Подскажите Прасер по истечении пробного периода перестает работать вообще или работает в каком-нибудь ограниченном режиме?

Елена, надо сначала применить действие ЗАГРУЗИТЬ СОДЕРЖИМОЕ ТЕКСТОВОГО ФАЙЛА,
а потом применять действие ВЫБОРКА ИЗ XML (которое вы сейчас неправильно используете)
Лучше воспользуйтесь вторым действием ПОИСК ТЕГОВ из раздела Действия для работы с HTML
Если сами не разберетесь, можем настроить под заказ.


Андрей, время ожидания ответа сервера задается в настройках парсера на вкладке ДОПОЛНИТЕЛЬНО.
Что касается авторизации, - посмотрите вторую видеоинструкцию, там про это рассказывается, что как настроить

Что делать при ошибке "Сайт не дает ответа за 6 секунд"??
Можно ли в настройках программы сделать время ожидания чуть больше?

Приветствую!
Помогите с выгрузкой данных с XML
в скрине суть вопроса - https://yadi.sk/i/1l7gxYI53LVn3m

Добрый день!
Подскажите пожалуйста, можно ли настроить парсер таким образом, чтобы при входе на стартовую страницу он заполнял логин и пароль пользователя, т.е. входил в систему и далее продолжал действия.
Необходимо войти в веб-клиент почты и оттуда взять конкретные строки из писем. При попытке "загрузить ИСХОДНЫЙ КОД веб-страницы" ---> "Тестировать" для страницы входа пишет "Сервер не ответил за 6 секунд". Вот хотел бы узнать из-за чего оно так

Виктор, всё можно, если вы объясните подробно, что где и как искать надо (если опишете алгоритм поиска)

Добрый день
можно настроить парсер, чтобы делал парсинг по счету или счет-фактуре (артикулу) на указанных сайтах, т.е. заполнял значениями файл в соответствии с порядком в счете?

есть готовый парсер под этот сайт
Напишите в скайп или на почту
там 2 варианта: первый - делать через браузер IE (легко настроить, но браузер подвисать может),
и второй, сложный, через отправку доп запросов при наличии кнопки ПОКАЗАТЬ ЕЩЕ
У меня реализованы оба варианта

здравствуйте! никак не могу "нажать" кнопку показать ещё вот на этом сайте https://www.materik-m.ru/shop-cat-gipsokarton_gvlv_akvapanel_fajerbord_s...
Помогите пожалуйста)

Всё можно настроить
На зная, что за сайт, и что за фильтр, никого конкретного посоветовать не могу
Можем настроить парсер под заказ

Уважаемые администраторы сайта!
Очень интересный и много функциональный у вас сайт я просто восхищён что делает парсинг сайтов, но у меня есть несколько вопросов можно ли спарсить данные если ты заходишь на сайт а там сразу стоит фильтр например запрашивает бин, что можно сделать в таком случае?

Редактирование списка действий никак не связано с выбранным режимом исходных данных.
Ничего виснуть не должно, - программа проверена на тысячах компов, ни у кого такая проблема не проявляется.
Напишите мне в скайп, разберёмся.

Привет давно не заходил в парсер
тут надо было кое что сделать. написал парсер но тут начались проблемы.
В исходных данных если стоит на выборе "фиксированное исходное значени"
В поле либо пусто либо ссылка
жмешь редактировать список действий и парсер виснет.

Если хочешь отредактировать парсер надо выбирать вкладку в источнике данных "брать данные с листа эксель"
тогда можно отредактировать, но Если запускать парсер чтоб он брал ссылки из ячеек он тоже виснет при запуске.
бывает что при редактировании он виснет только там где вывод на лист.

Кажется, это из-за конфликтов надстроек. Запустил в пустом окне без открытой книги, макросов и надстроек и пока всё нормально и предсказуемо. До этого, кстати, ещё и Excel не закрывался, а в цикл уходил…

Здравствуйте! Скачал пробную версию. Не понимаю, почему иногда при создании подуровня переносится только первая строка (как и надо), а иногда весь массив, найденный на предыдущем этапе. Абсолютно вся последовательность действий одинаковая - всё то же самое. То так, то так

да, можно
например, пишете параметр max=190

Ну а вручную задать колличество страниц в Дополнительных парметрах можно?

В этом случае тоже можно, но сложнее (надо предварительно вычислить количество страниц, основываясь на количестве результатов поиска, и количестве результатов на одной странице)
Если сами не разберетесь, - напишите в скайп, попробую помочь

А что делать если в пейджере видно только 10 страниц, а дальше кнопочка NEXT, и «последняя страница» не указанна (на самом деле всего страниц 187). Действием «Получить все ссылки пейджера» программка выдает только 10 урлов, а не 187. Как быть в таком случае?

Да, можем
заказы на парсер (ТЗ) принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Программа-парсер стоит 2500 руб, + настройка под сайт от 1500 руб

Здравствуйте. Вы можете пропарсить сайт по ТЗ? Сколько стоит?
Спасибо.

Станислав, на вкладке «вывод на лист» есть подвкладка «настройки листа для вывода»
Там надо задать столбец, по которому определяется последняя строка таблицы.
Вместо столбца 1 «A» поставьте столбец, который ВСЕГДА заполнен данными, - и проблема исчезнет

добрый день! Тестирую парсер у меня значения выводятся только в первой строке и каждый последующий результат подтирает предыдущий. что нужно сделать?

Возможность есть
Вопрос непонятен (неясно, где массив получается)
Напишите в скайп, попробую подсказать (если готовы приобрести программу)

Добрый вечер, подскажите пожалуйста, как во вкладке "вывод на лист" выводить массив значений в отдельные строки, а не весь массив в 1 строку, есть ли в парсере такая возможность?

Вера, напишите мне в скайп, объясню.
Принцип в обоих вариантах один и тот же, - запускается набор действий с данным именем

Скажите, где можно подробнее изучить функцию "Проверка на выполнение условия". Например, как работает действие при выполнении условия - "Выполнить набор действий" или "Применить к значению набор действий".

Длина id никакого значения не имеет. Что-то не так настраиваете.
Напишите мне в скайп, разберемся.

Игорь, спасибо за ответ.
В моем примере id  тоже очень длинный и результата тоже не выдает.

id="ui-accordion-accordion_menu-panel-0"

Ирина, у этого тега есть id - лучше по нему искать

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
          ____   _  __                _ 
___ / ___| | |/ / _ __ ___ / |
/ __| | | | ' / | '__| / _ \ | |
| (__ | |___ | . \ | | | __/ | |
\___| \____| |_|\_\ |_| \___| |_|
Введите код, изображенный в стиле ASCII-арт.