Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Нашел ответ сам.
Игнорируйте мой вопрос.
СпасибО!

Добрый день.

Файл с примером парсера сайта magnit не работает, структура сайта изменилась или я что-то не так делаю?
Спасибо за ответ.

Добрый день.
Туплю со стандартным вопросом но не могу найти решение сам.

Есть страница магазина с 10 ссылками на товары.
Ищу ссылки при помощи поиска тегов, получаю массив ссылок.
Могу вывести массив отдельно в столбцы (при помощи галочки)
А как вывести их отдельно в строки?
Копался, смотрел примеры, но не нашел...

Спасибо!

Во окне "Маска для проверки на соответствие" указать %ваша переменная%

Не происходит обновления с версии 2.3.0 до 2.3.1 пришлось качать с сайта.

Ответ есть здесь:
http://excelvba.ru/faq/virus

Качаю файл Parser.xla (версия 2.2.4 от 07.09.2016) АВАСТ выдает предупреждение. ТРОЯН. Что делать подскажите

Дмитрий, почти с любого сайта парсер может взять данные
(но только если сайт работает. указанный вами сайт у меня не открывается)

Игорь, а можно ли данные к примеру с parimatch.com переносить в excel? И вообще может есть ограничения какие-то конкретные?

Здравствуйте, Алексей.
Да, получится, если на этих сайтах нет капчи и прочих скрытых защит.
Сайт yell.com не работает

заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Подскажите пожалуйста получиться ли с помощью вашего парсера получать данные с yell.com, goldenpages.be, www.meinestadt.de ?

Леонид, это тоже можно настроить, - но заметно сложнее.
Позвоните мне в скайп, - постараюсь помочь.

Доброго времени суток.
Есть действие:
Проверка на выполнение условия
Режим проверки не содержит
Значение для сравнения (tr)%param%(/tr) (пришлось тут прописать скобками, не пропечатывалось)
Действие при выполнении условия Удалить
param является числом
При таком условии всё работает
Однако мне необходимо в проверке анализировать больше либо меньше передаваемого значения с исключением записей не соответствующих условию для дальнейшего разбора по другим тегам.
Как быть в данном случае?

Ренат, позвоните мне в скайп, решим проблему
Ник в скайпе: ExcelVBA.ru

Снял в настройках галочку "запускаться вместе с Excel" теперь надстройка не запускается несмотря на то, что она включена. Также конфликтует с другой надстройкой "Надстройка для выполнения замен в таблице Excel" http://excelvba.ru/programmes/Replacements#comment-6640. В последней не отображаются кнопки "выполнить замену" только настройка таблицы замен

нашел - *%team2%*

Здравствуйте,
Есть ли возможность в действии "Проверка на соответствие маске" в качестве параметра указать ранее сохраненную переменную?

Здравствуйте, Сергей
Обязательно проверю и попробую исправить в следующих версиях.

Хотел попросить сделать 2 доработки:
1) При использовании HTML: Многопоточная загрузка, если свернуть Excel, то начинает всплывать окно "HTML: Многопоточная загрузка" что честно говоря очень не удобно.
2) При смене папки где лежать файлы парсера, автоматом список парсеров не обновляется, что не очень логично.

Ёёёё моё, а слона я и не заметил. Спасибо огромное.

почему не организовать? я именно средствами парсера и имел в виду:
"Проверка на выполнение условия" и "Вернуться к заданному действию"

Средствами парсера это не организовать. верно?

Добрый день!

Проверять наличие данных и в случае, если ничего не найдено, возвращаться к действию загрузки той же самой страницы. Есть риск зацикливания, если какие-то страницы заведомо пустые будут.

Добрый день!
Страница с диапазоном дат например с 2015-07-01 по 2016-07-20 Максимально время загрузки веб-страницы увеличил до 3-х минут. Иногда сервер "не успевает" ответить. Есть вариант 100% получить ответ, кроме увеличения времени....

Добрый день, Сергей!

Если Вам нужно получить 10 строк, ссылки у всех разные, а остальные столбцы одинаковые, то Вы можете сохранять страницу целиком в переменную, получить массив ссылок, а во всех столбцах кроме первого считывать переменную страницы целиком.

если все равно непонятно, можете позвонить по скайпу antonmashkin, объясню.

Игорь здравствуйте, подскажите пожалуйста как можно настроить парсер.
Если я во вкладке "Исходные данные", загружаю исходный код страницы, ищу URL, получаю массив ссылок, скажем 10.
Для вывода масcива на лист в столбец "А" в каждую новую строчку достаточно просто во вкладек "Вывод на лист" добавить пустой столбец без действий.

Если же я во вкладке "Исходные данные", загружаю исходный код страницы, на на вкладке "вывод на лист" создаю действия для разных столбцов, то масcив данных выводиться в ячейку целиком. Т.е. 10 значений в одну ячейку. Как это поправить?

Сначала активируем парсер нужный, а потом запускаем

Application.Run "ActivateParser", "123"
Application.Run "RunActiveParser"

Добрый день!

Пытаюсь из vba запустить парсер с названием 123.
"Application.Run "RunActiveParser" запускает только активный парсер.
Или если есть возможность запускать из vba по названию из ячейки.

Здравствуйте, парсер выводит значение в А2(к примеру), но когда я выделяю эту ячейку - строка формул пуста. Подскажите как сделать что бы в ней было тоже значение.

Добрый день, Руслан!

Ответил Вам на почту. Если письмо не пришло, проверьте папку "Спам".

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
                  _____       _   ____   __  __
_ __ _ __ |___ | __| | | ___| \ \/ /
| '_ \ | '_ \ / / / _` | |___ \ \ /
| |_) | | |_) | / / | (_| | ___) | / \
| .__/ | .__/ /_/ \__,_| |____/ /_/\_\
|_| |_|
Введите код, изображенный в стиле ASCII-арт.