Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Здравствуйте, Роман.
Да, можно и авторизацию настроить
В настройках, вкладка ДОПОЛНИТЕЛЬНО - НАБОРЫ ДЕЙСТВИЙ
Создаете там набор действий с названием Parser_Start (чтобы он выполнялся автоматически при запуске парсера),
и там настраиваете авторизацию.

Пример настройки авторизации (для вашего сайта не подойдет - просто чтобы принцип понять) можно поглядеть здесь:
http://excelvba.ru/programmes/Parser/manuals/Authentication

Здравствуйте, подскажите пожалуйста, я настроил парсер, по примеру
"Парсер сайта gulliver.ru — загрузка данных по ссылкам"
все получилось, парсит все что мне нужно, кроме цены товара. Цена товара доступна только если ввести логин-пароль на сайте.

Вопрос, возможно ли настроить в программе, перед загрузкой страницы товара, входить под логин-паролем?

Алексей, да, всё работает.

Подскажите Парсер сайтов работает на Office 2016?

Евгений, функция в том виде, в котором вы просите, в программе вряд ли будет.
Потому что тут много нюансов:
- непонятно, что делать, если за день несколько раз парсер обновил цены, - в примечание несколько цен добавлять за одну дату?
- примечание через несколько дней переполнится инфой - она не будет влазить в примечание (придется увеличивать размеры примечания, чтобы посмотреть цены)

Предложенный мной способ (со сводной таблицей) позволяет ОДНИМ КЛИКОМ посмотреть динамику цены по конкретному товару.
Щелкните на картинке, - поглядите, как выглядит мой вариант:

Архив (сводный тоже делаю)
Предложенный способ дает возможность быстро посмотреть динамику цен конкурентов на определенный товар. т.е сделал фильтр на группу товара прогнал парсер посмотрел изменения, другую группу прогнал на следующий день.

В программе есть возможность заполнять примечания к ячейкам, но не добавлять, а полностью заменять примечания.
Вообще, для этой задачи я обычно делаю отдельный простенький макрос, который по нажатию кнопки добавляет все цены на отдельный лист АРХИВ (где располагается таблица из 4 столбцов: дата, товар, сайт, цена)
Потом по листу архив можно в несколько нажатий построить сводную таблицу, и отслеживать изменения цен в разрезе товаров или сайтов.
А если в примечания добавлять, - это потом вручную только просматривать ячейки по-отдельности...

Добрый вечер.
Думаю будет полезна функция "статистики" в примечании. Например проверил цену 01.10 в примечании 01.10 2050 руб. Проверял 5 дней подряд в примечании
01.10 2050руб
02.10 2025руб
03.10 1900руб
04.10 2100руб
05.10 н/д

ник в скайпе: ExcelVBA.ru

Напишите, пожалуйста,как найти Вас в скайпе.

Елена, напишите мне в Скайп, — я подскажу, что как сделать.
Не совсем понятна задача, — но, с вероятностью 99%, можно получить результат в нужном вам виде.

Здравствуйте! Попробовала загрузить демо-версию. Но она не дает возможность поэтапно сделать выгрузку, попробовать программу от начала и до конца. Мне необходимо будет с помощью программы привести каталог к такому виду в эксель, это возможно с помощью данной программы и возможно ли как-то проверить перед покупкой? :

Название Цена Орг% Тип товара Размер Кртинка Описание
Бриджи Артикул:6-1549 336 15 Бриджи 104,116,140, http://alena-opt.ru/uploads/image/file/3744/6-1549__1_.jpg`http://alena-opt.ru/uploads/image/file/3745/6-1549__2_.jpg`http://alena-opt.ru/uploads/image/file/3746/6-1549__3_.jpg`http://alena-opt.ru/uploads/image/file/3747/6-1549.jpg Материал:Кулирка (100% Х/Б) Предмет:Бриджи Сезоннность:Осень-Зима, Весна-Лето Пол:Девочкам

Марк, можно грузить всё что угодно, что представлено на сайте в текстовом виде (кроме flash-контента и подобного)
Вопрос только в сложности настройки парсера.

Ммм, извините, я ошибся, проблема была в том что в информация частично была в и эти ячейки оставались абсолютно пустыми. Предварительное удаление по классу помогло.
Но все равно интересно можно ли грузить динамически изменяемый контент)

Спасибо, решил проблему.
и еще вопрос, можно ли парсить данные которые подставляются в таблицу динамически?)

почему не работает - написано здесь
причина проста - Microsoft Excel для линукса не существует

php скрипт - наверняка есть. только не на этом сайте (здесь публикуются решения только для Excel)

Здравствуйте у меня линукс , ваша программа почему то не работает
установка микрософт офис не рассматривается.

есть ли нормальный скрипт на PHP?
Я написал скрипт собравший веб ссылки на нужные мне страницы.

Нужно всего лишь пройтись по уже сделанному списку страниц
и сохранить с каждой из них одно единственное поле. больше ничего
но я слегка подзабыл уже что как правильно делать потому спрашиваю вас.
Т.е. проблема лишь со вторым шагом парсинга.

Здравствуйте, Марк.
Да, конечно можно, - надо просто сформировать правильное имя файла, удалив все ненужные и запрещенные символы
Имя файла можно задать любое.

Спасибо, крутая надстройка)
Можно как либо загружать картинки, если имя файла начинается с пробела и пр. запрещёных символов?)

Здравствуйте!
Супер программа!
Не могу понять, как парсить сайты в которых часть каталогов содержит переходы на 2,3 ... страницы.
А часть состоят из одной страницы

Здравствуйте, Евгений
Надо нажать ПУСК - ВЫПОЛНИТЬ,
и ввести так команду типа
netsh winhttp set proxy 127.0.0.1:8888
где вместо 127.0.0.1:8888 пишете IP и порт вашего прокси сервера

Добрый день!
Подскажите пожалуйста, на работе выход в интернет через прокси. Подскажите как получить цены, в данном случаи.

Здравствуйте. Скачал программу в таком виде Parser_v1199.xla. Она почему-то не грузится. Подскажите, что не так. Спасибо

29 июля 2015 г. в 15:44 стало доступно обновление программы «Parser» (версия 1.1.9).

Изменения в новой версии программы:

- исправлена ошибка в работе числовых функций (сложение, умножение)
+ добавлена опция автоудаления скриптов из загруженных веб-страниц
+ добавлено действие для форматирования чисел / дат
- исправлена ошибка в действии по добавлению условного форматирования

Рекомендуем обновить программу до последней версии!

Спасибо. РАЗОБРАЛАСЬ!!! Получилось.

Анастасия, видимо, что-то не так у вас настроено
Позвоните в скайп, - подскажу, что исправить.

никак не могу разобраться с Вашим парсером.
Вроде парсит, заполняет столбцы в эксель, а куда потом это все девается?
По окончании работы парсера все исчезает - пустое окно экселя (как до запуска парсинга)

Здравствуйте,
подскажите пжта. Можно ли с определенного сайта (сайта поставщика) выдернуть товары в наличии (описания, картинки и т.д.) и автоматом залить в мой магазин?

Здравствуйте, Пётр
Да, возможно.
Самый простой вариант, - вы делаете и продаёте настройки парсера, - а программу покупают у меня.
И вам, и мне, это будет выгодно.
Возможны и другие варианты, - напишите мне в личку, обсудим.

Отличный инструмент!
Сделал простой работающий парсер для сайта Инфостарт.рф
Огромное спасибо за ваш труд!

У меня вопрос - возможно ли коммерческое использование вашей программы?
Я хочу создавать свои алгоритмы парсинга сайтов и предлагать их на своем сайте.
Продаете ли вы ограниченные или неограниченные права на использование?
Жду вашего ответа в почту.
Заранее спасибо!