Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Добрый день!
Необходимо сделать парсер характеристик и фото с сайта http://vstroyka-solo.ru/. либо спарсить и предоставить информацию
Все данные должны быть в файле CSV каждая характеристика в отдельной колонке, ссылка на фото, либо скаченное фото
Сколько будет стоить, и какие сроки?

Для обработки ссылок из Excel многопоточность пока не применима (будет в следующих версиях, но когда именно - сказать не могу)

Новое действие отправки книги на email я поместил в группу «Разное»

Добрый день!
Подскажите есть ли возможность работать в многопоточном режиме по ссылкам из эксель ( по аналогии http://excelvba.ru/programmes/Parser/samples/ComparePrices) что бы сразу брал несколько значений.

по поводу обновления 2.2.2 не могу найти действие для отправки файла на email (как называется данное действие)

Пример использования новой возможности есть здесь:
http://excelvba.ru/programmes/Parser/samples/MultiThreading

А можно краткий пример, для понимания, как можно перенастроить. Что бы все так работало.

Да, именно так
Но для использования этой возможности надо несколько иначе настраивать парсер
(т.е. если раньше все было настроено без многопоточности, - сейчас в 10 раз быстрее работать не начнёт)
А если перенастроить немного, - то да, для некоторых сайтов можно ускорить процесс парсинга в 20-100 раз (от сайта зависит, - где-то и 100 потоков можно, а где-то и 20 потоков с ошибками работает, ибо сервер не справляется)

Объясните пожалуйста в чем заключается обновление программы:
+ реализована многопоточность при загрузке веб-страниц (добавлено действие HTML: Многопоточная загрузка).
Т.е. ранее к примеру парсер за 1 сек. смог загрузить 1 веб страницу, то с многопоточностью 10 страниц в секунду. Так?

Мой скайп: ExcelVBA.ru
Пишите в любое время

Укажите свой скайп и время для выхода на связь

Цены в 99.9% случаев отлично берутся без использования IE
(IE - на самый крайний случай, - когда сайт сложный, и всё на скриптах работает)
Позвоните мне в скайп, - я подключусь к вашему компу, и подскажу, что как настроить.

Доброго времени суток.
При написании парсера столкнулся с проблемой что сайт через IE не отображает цены.
Готов купить программу, но необходимо быть уверенным что она работает с подобными сайтами

Да, привязка к железу.
При покупке лицензии укажите, что надо 3 активации вместо 2, - за ту же цену (2500) сделаю вам 3 активации.
Вот на всех 3 компах и активируете программу.

Подскажите, при покупке парсера, он привязывается к железу компа?
Или можно по паролю какому то или почте входить и пользоваться?
У меня 3 компа. Один таская с собой, на котором в основном и работаю.
Второй в офисе стоит на котором тоже могу запускать парсер.
Третий дома, иногда и там пользуюсь.
В тестовом периоде было удобно. Но не понятно как буду работать при покупке парсера...

2.1.3 Очень хорошее обновление. Приятно, что программа "обрастает" столь полезным функционалом.

Wordstat - тот редкий случай, где очень сложно получить данные без браузера (там куча скриптов всяких)
Используйте действие «Открыть страницу в Internet Explorer»
Причём, надо предварительно авторизоваться на яндексе в браузере Internet Explorer, - иначе работать не будет.

Спасибо, а где нельзя https://wordstat.yandex.ru/#!/?words=...

В данном случае, надо заменить символы #!/ на пусто (действие «Заменить часть текста»)
чтобы получилась ссылка https://music.yandex.ru/album/10030

Добрый день!
Встречаю символ #! в URL некоторых сайтов http://music.yandex.ru/#!/album/10030

Делаю загрузку исходного кода веб-страницы.
Получаю текущий URL

Получаю http://music.yandex.ru/%23!/album/10030 есть какие-то варианты чтобы парсер обрабатывал #

C гуглом - там непростая авторизация, - надо разбираться, как работает
За 5-10 минут там не сделать. Так что инструкцию делать вряд ли буду

На 99% сайтов, авторизация выполняется ОДНИМ действием «Авторизация на сайте (POST запрос)»
А с популярными порталами, типа Google, настройка будет заметно сложнее
Если готовы оплатить, - можем настроить под заказ.

PS: Самый простой вариант в таких случаях, - авторизоваться вручную (в браузере Intertnet Explorer),
и в парсере использовать действие «Открыть страницу в Intertnet Explorer»
(и никаких проблем с авторизацией не будет, - вы там изначально авторизованы будете)

Добрый день!
Можете сделать инструкцию по авторизации на Google по аналогии с Яндексом http://excelvba.ru/programmes/Parser/manuals/Authentication

А что конкретно вам подсказать?
Тут не подсказывать надо, а настраивать...

Добрый день!
Подскажите. Никак не получается авторизоваться на гугл почте.

Станислав, какое обновление ищете?
Просто скачайте последнюю версию программы (ссылка на скачивание - над заголовком статьи)

Добрый день. НЕ могу найти на сайте обновление программы парсинга. Подскажите, как это сделать?

Должно скачиваться без проблем.
Если у вас антивирус Аваст, - отключите его (он может блокировать скачивание)

Здравствуйте! Не получается скачать пробную версию ни одним браузером и ни одним загрузчиком, зависает загрузка.

Спасибо все работает.

Действие «Вывод значения в заданную ячейку» вообще не надо использовать, - оно применяется в 1 случае из 1000
(сомневаюсь, что вам нужна такая навороченная надстройка, как «парсер», чтобы вывести одно значение в одну ячейку...)

Чтобы вывести формулу, - она должна быть в английском варианте
Например, вместо вашей формулы =ОКРУГЛ(RC[-1]/RC[-2];2) надо написать =ROUND(RC[-1]/RC[-2],2)
— тогда будет работать.
Обратите внимание, что меняется не только ОКРУГЛ на ROUND, но и точка с запятой меняется на запятую.
Формула суммы будет выглядеть так: =SUM(RC[-1]/RC[-2])

Добрый вечер!
Пытаюсь получить результат от 2-х действий
1.Задать новое значение
2.Вывод значения в заданную ячейку

Формула =ОКРУГЛ(RC[-1]/RC[-2];2) вывод в ячейку С2 в данном случай в ячейку ничего не выводиться.
При такой формуле =СУММ(RC[-1]/RC[-2]) выводит #ИМЯ? лечиться через CTRL+H найти и заменить = на =
При формуле =RC[-1]/RC[-2] все отображается верно.

Соответственно интересен результат с округлением. Win7 64 office2010 64

Да, можно и такой сайт отпарсить (там JS либо отдельные запросы формирует, либо все данные уже есть в коде страницы, - и скрипт их оттуда берёт)
Чуть сложнее в настройке (надо смотреть, какие запросы отправляются браузером) — но ничего невозможного нет.
Можем настроить под заказ.

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
         __        __  ____                    _____ 
__ _ \ \ / / / ___| __ _ _ _ |_ _|
/ _` | \ \ /\ / / \___ \ / _` | | | | | | |
| (_| | \ V V / ___) | | (_| | | |_| | | |
\__, | \_/\_/ |____/ \__, | \__, | |_|
|___/ |_| |___/
Введите код, изображенный в стиле ASCII-арт.