Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция по настройке парсера сайтов для формирования прайса с интернета-магазина:

 

Дополнительная видеоинструкция: загрузка страниц и авторизация на сайте

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2500 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Комментарии

Спасибо, помогло

Степанида, решение проблемы описано по этой ссылке:
http://excelvba.ru/articles/c_1251.nls
(надо скачать файл, запустить, перезагрузить комп)


WWWW, да, есть. Парсер это умеет. Можем настроить под заказ.

есть ли что-то что наоборот из эксель копирует данные из ячеек в поля формы на сайте?

Ну могу настроить парсер, т.к. часть данных в нем отображается не корректно, а в виде кракозябр (проблема в кодировке). Например сразу же переводит в кракозябры название парсера, на вкладке "Исходные данные" во всех списках так же Äàòà ïîñëåäíåãî èçìåíåíèÿ вместо понятного текста. Где это можно поправить?

Спасибо!

Если вы уже покупали программу, - напишите мне на почту, попробуем помочь
Под все варианты инструкцию не написать.
Основные моменты по обработке пагинации описаны здесь:
http://excelvba.ru/programmes/Parser/actions/GetPagerLinks

Нет,спасибо. У меня вопрос только по одной функции парсера, т.к. в гайдах не нашел решения. Парсер то для этого сайта я уже написал, только методом приделывания костылей, если будите любезны может просто подскажите более простое решение как парсить такую пагинацию, думаю ни одному мне будет интересно.

Павел, можем настроить под заказ.

А если не помогает метод "загружать все страницы результатов" как на примере этой ссылки https://2gis.ru/saratov/search/Поесть как быть в таком случае?

Ирина, читаем инструкцию по загрузке страниц, обращая внимание на третий параметр действия:
http://excelvba.ru/programmes/Parser/actions/LoadHTML

И получаем на выходе массив из 38 загруженных страниц

Здравствуйте! Подскажите, пожалуйста, в чем может быть загвоздка в работе функции поиска ссылок пейджера? На примере https://ru.puma.com/sportivnye-tovary-dlja-muzhchin.html?p=2 - прогружаю основную страницу каталога, в качестве префикса пейджера указываю ?p=. Ошибку не выдает, но и массив не находит.
Спасибо!

Добрый день, Виталий! Если не связываться с макросом, который предварительно будет считывать все ссылки со столбца, чтобы сформировать массив, то самый простой способ - разместить ссылки в текстовый файл, считывать их, формировать массив, а потом прогружать мультипоточной загрузкой.

Здравствуйте. Подскажите, можно ли настроить мультипоточную загрузку страниц, если исходные данные я прогружаю с листа эксель.
То есть имею 100 строк с уникальными ссылками и в соседнюю ячейку от ссылки вывожу определенную информацию, взятую с сайта.
Парсер прорабатывает каждую ссылку по одной, не знаю, куда следует добавить мультизагрузку, чтобы читались сразу все ссылки и потом массово загружались результаты

Добрый день, Павел! Через точку с запятой. Учтите, что границы интервала тоже включаются. Т.е. если поставить
5;10
то условию будут удовлетворять не только числа между, но и 5, и 10.

Здравствуйте. Как в "Проверка на выполнение условия" установить параметр "между"? пробовал через дифис, не получается

Что-то не так настроили. Можем настроить под заказ.

Здравствуйте. Я пытаюсь удалить картинку post запросами. А мне выдает такое сообщение Ошибка! Длина текстового ответа сервера = 0, в байтах: 0, ошибка -2147483638: Данные, необходимые для завершения этой операции еще не доступны.

Здравствуйте, Юрий.
Что-то не так настроили.
Ошибку исправить несложно, но я не телепат, чтобы угадать, в чем именно проблема.
Если готовы оплатить программу, - пишите в скайп, помогу исправить ошибку.

У меня постоянно загружает только 1 страницу результатов и так по кругу. Хотя я нашел все ссылки пейджера. Подскажите пожалуйста в чем может бить дело и как это исправить? Спасибо)

Прогружать все страницы результатов
Третий параметр действия:
http://excelvba.ru/programmes/Parser/actions/LoadHTML

Здравствуйте. Подскажите как в программе определить количество страниц пагинации если показано только 5, но при нажатии стрелки вправо появляется 6 и т.д.?

Если вы программу уже покупали, или готовы купить, - напишите в скайп, попробую помочь с макросом.

А какой текст макроса должен быть и как добавить?

Здравствуйте! На данный момент средствами парсера можно принудительно сделать только текстовый формат (путем добавления апострофа - ' - перед выводимым текстом). Все другие форматы можно установить при помощи макроса. Макрос можно добавить к настройке парсера и вызывать из неё же.

Здравствуйте, подскажите как задать в настройках парсера формат отображаемых данных в ячейке, столбце, например денежный или любой другой. Во вкладке "Вывод на лист" данной функции нет.

Благодарю!

Здравствуйте, Николай.
Сравнение картинок возможно. Загружаете картинку как обычную веб страницу, потом сравниваете полученное содержимое (как текст) с другой загруженной картинкой. Можно сравнивать не содержимое файлов (если оно будет работать некорректно), а MD5 хэш от содержимого картинки.

По таблицам замен, - такой функционал не планируется, поскольку не востребован другими пользователями. Но могу реализовать под заказ (платно)

И ещё один вопрос. Можно ли с помощью парсера коим образом узнать отличается ли картинка данного торгового предложения (ТП) от эталонной (нодовской) картинки? Раскрою вопрос, есть товар (нода), у него куча ТП, в которых при изменении параметра изменяется внешнее отображение товара. Но на сайте, который я запарсил, товарищи программисты на это наплевали, либо зашиваются и банально не хватает времени, дублируют картинку ноды в ТП, естественно названия картинок ТП тоже изменяются, по названию их никак не вычислить. И чтобы у себя на сайте не создавать клонов, можно как-нибудь их вычленять парсером?

Добрый день. На будущее, как пожелание, не могли бы вы в парсере реализовать действие - Добавить данные в таблицу замен (ТЗ). Парсер запарсил сайт, вывел данные в столбцы, заходим в это действие, выбираем ТЗ, если она создана, если нет, парсер создает новую ТЗ. Выбираем столбец с данными, допустим переменной {1} (полученных в результате парсинга сайта), в котором будут содержаться данные "Что заменять". Выбираем столбец с данными, в котором будут содержаться данные "На что заменять". По окончании парсинга эти данные импортируются в ТЗ. Допустим, через неделю мы снова запустили парсер, парсер проверяет появились ли новые значения данных и если ответ положительный, продлевает список замен в ТЗ. Надеюсь, вы не посчитает это действие бесполезным...

Добрый день, Николай!

Скорее всего, не загружается страница. Может быть блокировка со стороны сайта, а может быть неполадки в интернет-соединении или работе сайта. Если уверены, что блокировки нет, то можете поставить попытку повторной загрузки страницы через небольшую паузу.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
  ____        _    ___    _       _  _     _ 
| ___| __| | / _ \ | | | || | (_)
|___ \ / _` | | | | | | | | || |_ | |
___) | | (_| | | |_| | | |___ |__ _| | |
|____/ \__,_| \__\_\ |_____| |_| |_|
Введите код, изображенный в стиле ASCII-арт.