Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Ммм, извините, я ошибся, проблема была в том что в информация частично была в и эти ячейки оставались абсолютно пустыми. Предварительное удаление по классу помогло.
Но все равно интересно можно ли грузить динамически изменяемый контент)

Спасибо, решил проблему.
и еще вопрос, можно ли парсить данные которые подставляются в таблицу динамически?)

почему не работает - написано здесь
причина проста - Microsoft Excel для линукса не существует

php скрипт - наверняка есть. только не на этом сайте (здесь публикуются решения только для Excel)

Здравствуйте у меня линукс , ваша программа почему то не работает
установка микрософт офис не рассматривается.

есть ли нормальный скрипт на PHP?
Я написал скрипт собравший веб ссылки на нужные мне страницы.

Нужно всего лишь пройтись по уже сделанному списку страниц
и сохранить с каждой из них одно единственное поле. больше ничего
но я слегка подзабыл уже что как правильно делать потому спрашиваю вас.
Т.е. проблема лишь со вторым шагом парсинга.

Здравствуйте, Марк.
Да, конечно можно, - надо просто сформировать правильное имя файла, удалив все ненужные и запрещенные символы
Имя файла можно задать любое.

Спасибо, крутая надстройка)
Можно как либо загружать картинки, если имя файла начинается с пробела и пр. запрещёных символов?)

Здравствуйте!
Супер программа!
Не могу понять, как парсить сайты в которых часть каталогов содержит переходы на 2,3 ... страницы.
А часть состоят из одной страницы

Здравствуйте, Евгений
Надо нажать ПУСК - ВЫПОЛНИТЬ,
и ввести так команду типа
netsh winhttp set proxy 127.0.0.1:8888
где вместо 127.0.0.1:8888 пишете IP и порт вашего прокси сервера

Добрый день!
Подскажите пожалуйста, на работе выход в интернет через прокси. Подскажите как получить цены, в данном случаи.

Здравствуйте. Скачал программу в таком виде Parser_v1199.xla. Она почему-то не грузится. Подскажите, что не так. Спасибо

29 июля 2015 г. в 15:44 стало доступно обновление программы «Parser» (версия 1.1.9).

Изменения в новой версии программы:

- исправлена ошибка в работе числовых функций (сложение, умножение)
+ добавлена опция автоудаления скриптов из загруженных веб-страниц
+ добавлено действие для форматирования чисел / дат
- исправлена ошибка в действии по добавлению условного форматирования

Рекомендуем обновить программу до последней версии!

Спасибо. РАЗОБРАЛАСЬ!!! Получилось.

Анастасия, видимо, что-то не так у вас настроено
Позвоните в скайп, - подскажу, что исправить.

никак не могу разобраться с Вашим парсером.
Вроде парсит, заполняет столбцы в эксель, а куда потом это все девается?
По окончании работы парсера все исчезает - пустое окно экселя (как до запуска парсинга)

Здравствуйте,
подскажите пжта. Можно ли с определенного сайта (сайта поставщика) выдернуть товары в наличии (описания, картинки и т.д.) и автоматом залить в мой магазин?

Здравствуйте, Пётр
Да, возможно.
Самый простой вариант, - вы делаете и продаёте настройки парсера, - а программу покупают у меня.
И вам, и мне, это будет выгодно.
Возможны и другие варианты, - напишите мне в личку, обсудим.

Отличный инструмент!
Сделал простой работающий парсер для сайта Инфостарт.рф
Огромное спасибо за ваш труд!

У меня вопрос - возможно ли коммерческое использование вашей программы?
Я хочу создавать свои алгоритмы парсинга сайтов и предлагать их на своем сайте.
Продаете ли вы ограниченные или неограниченные права на использование?
Жду вашего ответа в почту.
Заранее спасибо!

Как по мне, лучший парсер здесь: http://excelvba.ru/. Сам приобрел и не парюсь уже довольно долгое время, чего и вам советую.

Классно!!! Превосходно!! +
отличный парсер. спасибо вам

Здравствуйте, Евгений.
Такого рода консультации, - только голосом, по скайпу
Звоните в скайп после 30 мая, - я подключусь к вашему компу, и покажу, что как сделать

Доброй ночи )
Впервые набрёл на вашу прелесть.
В целом всё понятно, только вот в одном из вариантов парсинга почему-то не удаётся вывести элементы массива по столбцам, хотя галочка стоит и в тестовом режиме все значения массива разбираются по строкам.
В чём моя ошибка?

Кроме того, попытка вывода отдельных данных по столбцам потерпела крах.

Поясните пожалуйста логику работы:
Для каждого столбца берутся данные парсинга исходных данных и с ними можно работать неоднократно или после фильтра первого столбца второму достаются только эти крохи?

Попробуйте другим браузером скачать, - всё должно получиться.
Если бы файл действительно не скачивался, - мне бы уже десятки людей написали об ошибке.

При скачивании пробной версии, отображается:
Данные не получены

ERR_EMPTY_RESPONSE

Здравствуйте, Александр
Сделать это возможно (собственно, программа для таких задач и сделана), но ничего конкретного посоветовать не могу, - от сайта зависит
(даже если бы я вам написал инструкцию для какого-то одного сайта, - она не подошла бы к другому сайту)
Можем настроить под заказ, от вас для этого надо:
http://excelvba.ru/programmes/Parser/order

Здравствуйте,
Скажите, возвожно ли сделать так, что бы ексель открывал сайт https, вводил в определенное поле номер из таблицы, а после копировал определенные данные с сайта в таблицу?
Если Да, то как это делать?

Ps: Спасибо за программу, похоже что именно то, что нужно,вот только бы понять как работает.

Здравствуйте, Олег
Да, конечно, - собственно, для того парсер и разрабатывался.
Можем выполнить настройку под заказ,
от вас для этого надо: http://excelvba.ru/programmes/Parser/order

Здравствуйте.
Подскажите пожалуйста, может ли парсер просмотреть каталог товаров и спарсить данные.
Я имею ввиду, что у меня нет ссылок товаров, но есть ссылка на каталог.

9 мая 2015 г. в 12:58 стало доступно обновление программы «Parser» (версия 1.1.6).

Изменения в новой версии программы:

+ теперь парсер умеет парсить не только сайты, но и файлы из папки
(пока только текстовые файлы, такие как TXT, XML и HTML, — позже будет реализована поддержка файлов других типов, типа DOC и др.)

Рекомендуем обновить программу до последней версии!

3 мая 2015 г. в 18:10 стало доступно обновление программы «Parser» (версия 1.1.5).

Изменения в новой версии программы:

+ парсер может сам искать столбец с исходными данными (по заголовку столбца)
+ реализована возможность программной вставки и запуска макросов в обрабатываемом файле
+ добавлены новые действия (поиск тега по itemprop, поиск цены на странице сайта)

Рекомендуем обновить программу до последней версии!

1. Да, получение списка товаров выполняется во вкладке "исходные данные"
2. Через переменную. Получили значение 74, записали его в переменную count,
а потом в параметре «максимальное значение» действия «создать массив значений для цикла»
пишем %count% (таким образом будет считано значение переменной)

Если какие вопросы еще будут, - обращайтесь в скайп, подскажу.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
  _   _   _             ___    _  _           
| | | | | |_ ___ / _ \ | || | _ _
| |_| | | __| / __| | (_) | | || |_ | | | |
| _ | | |_ | (__ \__, | |__ _| | |_| |
|_| |_| \__| \___| /_/ |_| \__, |
|___/
Введите код, изображенный в стиле ASCII-арт.