Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.
Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).
В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.
Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.
За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)
В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.
Пример использования парсера для мониторинга цен конкурентов
Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.
Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.
Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.
Справка по программе «Парсер сайтов»
Можно попробовать разобраться с работой программы на примерах настроенных парсеров
Комментарии
Форума нет, вопросы можно задавать в комментариях к статье, может кто и ответит
Насчёт форума, - подумаю, в будущем наверняка форум понадобится.
А пока пишите здесь, - если вопрос достаточно четко сформулирован, я постараюсь ответить вкратце
Но, в то же время, на большинство вопросов по переписке не ответить, - надо подключаться к вашему компу, смотреть что там настроено, пробовать
(т.е. удалённо через TeamViewer проблема почти любая решается за несколько секунд, но вот по переписке это обычно крайне сложно и долго)
Т.е. я не готов помогать с настройкой не потому, что мне лень или денег надо, а потому что времени отнимает много (списаться / созвониться в скайпе, подключиться через тимвьюер, выяснить что надо, и т.п.)
Если бы пользователи парсера за соседним компом находились, - помогал бы быстро и бесплатно.
А без подключения к вашему компу, для помощи надо обладать навыками телепатии и кучей свободного времени, с чем у меня сложности.
А может есть какой-нибудь форум по вашей программе, где люди обмениваются опытом использования программы, и в случае необходимости смогут подсказать пути решения по тому или иному сайту. Как вы написали:"Потому что сайтов много, вопросы могут возникать регулярно, пользователей у программы уже много, и я не готов тратить на это время.", в тоже время я нашел только одну видеоинструкцию по работе с программой, из которой не все моменты понятны.
Нет, в техподдержку НЕ входит настройка парсеров / помощь с настройкой. Это только платно.
Потому что сайтов много, вопросы могут возникать регулярно, пользователей у программы уже много, и я не готов тратить на это время.
В качестве исключения, единоразово, могу помочь, если время будет свободное. Но а вообще, только платно
Добрый день.
После покупки программы,подразумевается ли бесплатная помощь в настройке (конечно не полностью парсера), а в тех местах где не получается.
Добрый день, Вадим!
Кеш используется для ускорения загрузки сайтов. 50 гб обычно очень долго скапливается, поэтому если мы делаем настройку, то особо никого не предупреждаем, а ставим очистку файлов кеша перед каждым запуском парсера и таких больших значений не набирается. Надо смотреть Ваши настройки.
Можно отключить создание файлов кеша в настройках парсера (последняя вкладка - Дополнительно/Параметры/Кеширование), там же, кстати, находится кнопка очистки кеша. Но отключение кеша может привести к увеличению времени загрузки.
Добрый день, нечайно нашел папку в AppData\Roaming\ParserCache , у меня она занимала около 50гб( это после пары парсингов) , в первые узнал что парсер создает столько временных фалов. Могли бы предупреждать о таком или лучше сделать кнопку в парсере для очистки этих файлов.
Спасибо.
Попробуйте поставить в поле "префикс пейджера" &start=
Не получается настроить парсер на этапе пейджер
страница раздела shop/show_cat.php?catid=7 или shop/show_cat.php?start=0&catid=7 а страницы имеют вид shop/show_cat.php?start=80&catid=7
Нажмите О программе - Опции, там есть кнопка для удаления.
как удалить этот макрос полностью с компьютера без следов?
значит, что-то не так настраиваете
посмотрите еще раз видеоинструкцию
могу настроить под заказ
заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
Причем тут парсер, если вы подставляете данные?
Точно речь про парсер, а не про надстройку для подстановки данных?
http://excelvba.ru/programmes/Lookup
Пишите подробнее на почту, что куда надо подставить
ДОбрый День! Не получается настроить парсер уже на этапе теги, что это может значить?
Подскажите пожалуйста. Есть основная таблица куда при помощи ВПР подставляются данные из других таблиц (Эти данные в другие таблицы подставляются при помощи Вашего парсера). Все работает отлично. Но мне надо что б при подстановки в основную таблицу подставлялись и гиперссылки которые в других таблицах работают а при выполнении ВПР в основной таблице их нет. Для этого нужен макрос? Или можно сделать формулой EXCEL. В ячейке куда нужно вставить ссылку уже есть формула =ЕСЛИОШИБКА(ВПР($A4;Aquamir.ru!C:D;2;0);""). Подскажите пожалуйста.
только имя сертификата прописываете
PS: я в этих сертификатах не спец, и этой опцией пользовался только пару раз (редко попадаются сайты, которые без сертификата не обработать)
Если не разберетесь, - можно для загрузки страниц использовать Internet Explorer (он сам разберется с сертификатом)
в парсере путь прописывать или только имя,и куда устанавливать сертификат?
Сергей, всё можно, - если нужные вам данные есть на сайте, и вы сможете объяснить, как бы вы эту информацию собирали вручную.
Можно автоматизировать всё, что вы можете объяснить как надо делать.
Заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
Подскажите а делать парсинг с сайтов по определенному списку инн компаний возможно? Например у меня есть список из 100 инн компаний по которым,например, на сайте rusprofil.ru мне нужно собрать инормацию по каждому инн, содержащую название,адрес,контакты и т.д.?
Да, можно обрабатывать сайты с сертификатами
В этом поле в настройках указывается название сертификата (сертификат должен быть установлен на компе)
Добрый день, программа может парсить сайты с сертификатами ? в - дополнительно/разное/использовать сертификат при запросе - как этим пользоваться ?
Если не получается, - всегда можно заказать настройку парсера:
http://excelvba.ru/programmes/Parser/order
не получается у меня никак(
к сожалению не нашла инструкцию, сможете подсказать как авторизоваться на этом сайте http://santehcentr.com/
Парсите сайт (как обычно, - см. видеоинструкцию), - получаете таблицу с данными на отдельном листе.
Можно сразу перед выводом артикула выполнить замены лишних символов в нем на пусто.
А потом подставляете данные в свой лист при помощи формулы =ВПР() или этой надстройкой:
http://excelvba.ru/programmes/Lookup
Вариант 2: брать артикулы с листа, и вбивать их в поиск по сайту (если таким способом будет находиться на сайте то что нужно)
Подскажите как!!! Какую функцию использовать?
Да, это возможно
Здравствуйте!!! Подскажите возможно ли что б программа искала данные в заданном столбце и в соседний столбик подставляла данные которые будут парситься. Что меня интересует. Есть столбец с 1000 артикулами пример арт. 123456, я хочу на сайте который меня интересует скачать все артикулы и цены по заданному производителю привести артикул к исходному виду т.е. 123456 (А то может быть арт. 123-456, 123 456, 123.456 и тд.) И потом мне нужно что б программа в 1 столбце нашла этот артикул и подставила рядом данные которые я буду парсить, а то что не находит оставить пустым.
Здравствуйте, Станислав
Парсер загружает страницы 2 способами: либо напрямую (без браузера), либо через браузер Internet Explorer (если нужно, чтобы на странице выполнились скрипты)
Напишите мне в скайп, — объясните проблему, я постараюсь помочь.
Добрый день, такая проблема. когда открываю ссылку в хроме, ссылка открывается корректно. Если открыть в эксплорер пишет предмет не найдет. Вопрос, как сделать чтобы вашь парсер ссылался на хром а не на эксплорер?
Добрый день! все делал точно по Вашей инструкции, но у меня не загружаются страницы с пейджера, товары берутся только с первой страницы. А при тестировании уровня где получаем ссылки на пейджер выходит такое сообщение "Начат поиск пейджера, длина HTML кода: 249973"
Можно запустить несколько парсеров, в нескольких экземплярах Excel (работающих независимо друг от друга)
Напишите в скайп, подскажу, что как сделать