Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Да, парсер может работать и с сайтами с кириллическим доменом.
Просто на этом конкретном сайте есть защита от роботов, и нужно использовать для загрузки браузер Chrome (способ загрузки = Browser)

Здравствуйте, ратриваю возможность приобретения лицензии на парсер сайтов. По видеоинструкции повторил за Вами - на сайте Одиссей, книжный магизин - все работает. Мне же нужно парсить с сайта, название которого на русском. И вот в данном случае не работает парсер - на начальном этапе загрузки страницы грузит ее , но в каком то другом коде, в котором нет информации по ссылкам, тегам и т.д. К примеру я искал в загруженном в парсер коде русские буквы - не нашел. Вопрос - а парсер может работать с сайтами нахвание которых на русском? При копировании ссылки на сайт получается вот такая вот абра кадабра: https://xn--80az8a.xn--d1aqf.xn--p1ai/%D1%81%D0%B5%D1%80%D0%B2%D0%B8%D1%...

Здравствуйте, Ирина.
Не понятен ваш вопрос.
Как вывести - не знаю. Это вы должны придумать сами, в каком виде вам нужен результат на листе Excel.
Как настроить - тут можно как угодно сделать (парсер гибко настраивается). Могу настроить под заказ.

а как парсить почты, если их несколько, в отдельные ячейки, но сохранять при этом в другой имя организации?
Например тут https://amikta.ru/kontakty/ есть несколько почт, но организация и телефон - одна

Обновление надстройки Parser (версия 4.2.0 от 4 мая 2023)

+ добавлено новое действие «Траспонировать таблицу»
+ в действии «HTML: замена / изменение тегов» теперь можно вычислять новое содержимое тега вызовом набора действий
+ возможность задавать форматирование ячеек (полужирный шрифт, размер шрифта, формат ячеек)
+ переделано действие «Регулярные выражения»
+ доработки по интерфейсу списка действий (можно упорядочить список изобранных действий, некоторые действия получили более понятные имена)

Обновление надстройки Parser (версия 4.1.10 от 3 мая 2023)

+ добавлено действие «Информация о файле» (дата создания / изменения файла, размер файла, и т.п.)
+ теперь можно включать / отключать приём Cookies в действиях для POST запроса и загрузки страницы
+ добавлена возможность задавать минимальную и максимальную высоту строк при выводе на лист
+ при экспорте содержимого файла Word в формат HTML, теперь в результат (HTML) выводятся и ссылки на файлы картинок
+ мелкие исправления по интерфейсу

Здравствуйте.
Пересмотрите видеоинструкцию по программе.
На этапе тестирования нужно подставлять ссылку (из любой ячейки) в поле ИСХОДНОЕ ЗНАЧЕНИЕ в окне тестирования
(а не в параметр URL действия!)
В ходе работы (после запуска парсера), значения будут браться автоматически из ячеек.
А для теста нужно вручную подставлять исходную ссылку.

Здравствуйте, сейчас тестирую ваш парсер.
Возник вопрос при режиме парсера "брать данные с листа, из заданного столбца". Задал столбец, перешел в редакцию списка действий и выбрал действие "Загрузить ИСХОДНЫЙ КОД веб-страницы". При тестировании не загружает, ведь по логике парсер должен исходить из заданного столбца, чего не происходит.
Подставил первое значение с заданного столбца в URL - выдал результаты по 1му значению, остальное пустое при выводе данных на лист. Изменял кодировку - не получается. На фазе тестирования ничего не происходит. Какое действие нужно производить вместо "Загрузить ИСХОДНЫЙ КОД веб-страницы" ?
Основная задача получить прямые ссылки с облака, в заданном столбце ссылки на облако.

Здравствуйте.
Да, можно, только там настройка посложнее, чем в случае с обычными сайтами (интернет-магазинами)
Иногда ссылку можно найти где-то в дебрях исходного кода загруженной страницы, иногда нужно сделать дополнительный POST запрос для получения этих ссылок.
Но ничего невозможного нет. Можем настроить под заказ.

Здравствуйте, можно ли при помощи этого парсера скачивать картинки с файлообменников? Для примера в экселе есть ссылки на 1 или несколько картинок, при помощи парсера я загружаю исходную страницу по ссылке с экселя, далее ищу тег картинки но не находит. в хтмл коде тег картинки указана как ссылка. пытался прогрузить эту ссылку в парсер, не получается. подскажите пожалуйста в чем может быть проблема

Наталья, да, можно.

Здравствуйте! Подскажите, а можно задать список артикулов с сайта, по которым парсер будет выкачивать информацию?

Алексей, подсказать не могу, но можем настроить под заказ.
Заказы на парсер принимаются в таком виде
https://excelvba.ru/programmes/Parser/order

Здравствуйте.В карточке товара есть ссылка на доп.страницу.
подскажите пожалуйста как настроить парсер, чтобы вывести все данные в одну таблицу.

Здравствуйте.
Да, может и такое.

Добрый день! Есть немного нестандартная задача. Парсер записывает в текстовые файлы сгенерированный текст из таблицы ексель, потом я переношу эти тексты на сайт по одному. Может парсер формировать XML файл определенной структуры, что бы потом импортировать весь контент из этого файла на страницы сайта?

Дмитрий, парсер ничего не переводит сам.
Просто в загруженной странице эти названия были на русском (а в браузере вы принудительно выбрали язык сайта, потому на английском всё).
Надо парсером переключить язык сайта (это делается передачей Cookies или выполнением POST запроса)
О том, как это настраивается, смотрите в видеоинструкции:
https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon

Здравствуйте! Приобрел лицензию, настраиваю на ebay. На этапе формирования списка ссылок на товары парсер почему то текст ссылок (они же названия товаров) перевел на русский, хотя изначально страница текста на английском. При загрузке исходного кода всех страниц кодировку указывал utf-8. Подскажите пожалуйста как спарсить региональные английские названия товаров.

Илья, в справке по программе всё написано:
https://excelvba.ru/programmes/Parser/manuals/errors/overwriting

Спасибо, Игорь.
Еще столкнулся с проблемой, при выводе результатов на лист, все данные записываются в первую строку, и соответственно затираются новыми значениями.
Не могу понять, какую галочку в настройках надо поставить/снять.

Илья, пример такого парсера можно посмотреть здесь:
https://excelvba.ru/programmes/Parser/samples/gal-art

Купил лицензию)
Подскажите, как настроить парсер, чтоб он забивал в поиск на сайте нужные артикулы (из таблицы), и дальше работал с результатом вывода?
Ну или в каком пункте инструкции это написано?
Спасибо.

Здравствуйте, Илья.
1. Перенос активаций с одного компьютера на другой не предусмотрен.
При необходимости, вы можете докупить активации для новых компьютеров, по 600 руб за каждый дополнительный компьютер.

2. Да, парсер это умеет

Да, хочу купить лицензию, есть пара вопросов.
1) Можно ли при необходимости деактивировать лицензию на одном устройстве и перенести её на другое?
2) Есть ли вариант настройки парсера таким образом, чтоб он забивал в поиск нужные артикулы (из таблицы), и дальше работал с результатами поиска?

Благодарю)

Здравствуйте, Илья.
Тут весьма нестандартный пейджер, но это все тоже легко решаемо
(просто будет не 1 действие «Получить все ссылки пейджера», а несколько других команд)
Если готовы оплатить программу (2700 руб) + помощь по этому вопросу (500 руб), — покажу пример получения ссылок пейджера для этого сайта.

Игорь, здравствуйте! Спасибо за программу, очень помогает в работе.
Столкнулся с проблемой, почему-то не получается получить ссылки пейджера со страницы http://www.fonlimachinery.com/supplier-242277-komatsu-bulldozer-parts

Ставлю параметр auto - не находит, добавляю префикс "p" либо "p-" результата 0.
Подскажите, что сделать? Спасибо.

Дмитрий, по вашей ссылке 0 результатов, — и пейджера, соответственно, нет.
Я не консультирую по вопросам настройки парсеров.
Можем настроить под заказ (платно)

Здравствуйте.
Подскажите пожалуйста действия для получения ссылок пейджера на данной странице: https://www.ebay.com/sch/napkinworld/m.html?_nkw=&_armrs=1&_ipg=&_from=
Делал по инструкции. 1. Загрузил страницу с пейджером. 2. Поиск ссылок пейджера, вводил префикс &_pgn= все равно безуспешно.

Здравствуйте, Юрий.
Написал инструкцию для вашего случая: Пейджер на скриптах

Добрый вечер!
Протестировал Вашу программу на нескольких разных сайтах. Всё получилось настроить и выгрузить необходимые данные. Очень понравилась программа, приобрёл лицензию. Но при настройке на очередной сайт столкнулся с проблемой - не получается вытащить ссылки пейджера. Подскажите, пожалуйста, как их выгрузить? Ссылка на сайт https://www.mos.ru/otvet-transport/kak-proverit-razreshenie-taksi

Отправить комментарий

Содержание этого поля является приватным и не предназначено к показу.
CAPTCHA
Подтвердите, пожалуйста, что вы - человек:
      _   _____   _   ____    _       ___  
__| | | ___| / | | _ \ | | __ / _ \
/ _` | | |_ | | | |_) | | |/ / | | | |
| (_| | | _| | | | __/ | < | |_| |
\__,_| |_| |_| |_| |_|\_\ \__\_\
Введите код, изображенный в стиле ASCII-арт.