Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.
Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).
В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.
Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.
За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)
В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.
Пример использования парсера для мониторинга цен конкурентов
Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.
Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.
Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.
Справка по программе «Парсер сайтов»
Можно попробовать разобраться с работой программы на примерах настроенных парсеров
Комментарии
Спасибо. Получилось. Возник еще вопрос. Массив ссылок на картинки в ячейке excel выводится с разделителем в виде 3 вопросительных знаков в квадратиках с тильдами в начале и в конце. Заменить этот набор знаков например на запятую через Найти и Заменить не получается.
Добрый день, Максим! Попробуйте действие "Открыть веб-страницу в Internet Explorer", возможно, еще понадобится "Прокрутить страницу вниз в Internet Explorer". Только потом в конце парсинга (Parser_Finish) не забудьте использовать "Закрыть Internet Explorer", а то будет висеть экземпляр IE в скрытом режиме
Здравствуйте, на данной странице http://nazarov-gallery.ru/catalog/vosproizvedenie/akusticheskie-sistemy/... текстовое описание товара (которое во второй колонке напротив технических характеристик) выводится на страницу каким-то образом так, что отсутствует в результате полученном по действию Загрузить ИСХОДНЫЙ КОД веб-страницы. Есть ли способ его получить?
Спасибо!
Добрый вечер!
Используйте действие Проверка на соответствие маске:
*бренд1*|*бренд2*|*бренд3*
и т.д.
Добрый день.
Подскажите пожалуйста.
Нахожу ссылки категорий, в которых есть деление по брендам, их много. Как можно оставить только несколько?
Пользуясь функцией отбора остается только 1 бренд, а надо несколько.
Заранее спасибо!
Форума нет, вопросы можно задавать в комментариях к статье, может кто и ответит
Насчёт форума, - подумаю, в будущем наверняка форум понадобится.
А пока пишите здесь, - если вопрос достаточно четко сформулирован, я постараюсь ответить вкратце
Но, в то же время, на большинство вопросов по переписке не ответить, - надо подключаться к вашему компу, смотреть что там настроено, пробовать
(т.е. удалённо через TeamViewer проблема почти любая решается за несколько секунд, но вот по переписке это обычно крайне сложно и долго)
Т.е. я не готов помогать с настройкой не потому, что мне лень или денег надо, а потому что времени отнимает много (списаться / созвониться в скайпе, подключиться через тимвьюер, выяснить что надо, и т.п.)
Если бы пользователи парсера за соседним компом находились, - помогал бы быстро и бесплатно.
А без подключения к вашему компу, для помощи надо обладать навыками телепатии и кучей свободного времени, с чем у меня сложности.
А может есть какой-нибудь форум по вашей программе, где люди обмениваются опытом использования программы, и в случае необходимости смогут подсказать пути решения по тому или иному сайту. Как вы написали:"Потому что сайтов много, вопросы могут возникать регулярно, пользователей у программы уже много, и я не готов тратить на это время.", в тоже время я нашел только одну видеоинструкцию по работе с программой, из которой не все моменты понятны.
Нет, в техподдержку НЕ входит настройка парсеров / помощь с настройкой. Это только платно.
Потому что сайтов много, вопросы могут возникать регулярно, пользователей у программы уже много, и я не готов тратить на это время.
В качестве исключения, единоразово, могу помочь, если время будет свободное. Но а вообще, только платно
Добрый день.
После покупки программы,подразумевается ли бесплатная помощь в настройке (конечно не полностью парсера), а в тех местах где не получается.
Добрый день, Вадим!
Кеш используется для ускорения загрузки сайтов. 50 гб обычно очень долго скапливается, поэтому если мы делаем настройку, то особо никого не предупреждаем, а ставим очистку файлов кеша перед каждым запуском парсера и таких больших значений не набирается. Надо смотреть Ваши настройки.
Можно отключить создание файлов кеша в настройках парсера (последняя вкладка - Дополнительно/Параметры/Кеширование), там же, кстати, находится кнопка очистки кеша. Но отключение кеша может привести к увеличению времени загрузки.
Добрый день, нечайно нашел папку в AppData\Roaming\ParserCache , у меня она занимала около 50гб( это после пары парсингов) , в первые узнал что парсер создает столько временных фалов. Могли бы предупреждать о таком или лучше сделать кнопку в парсере для очистки этих файлов.
Спасибо.
Попробуйте поставить в поле "префикс пейджера" &start=
Не получается настроить парсер на этапе пейджер
страница раздела shop/show_cat.php?catid=7 или shop/show_cat.php?start=0&catid=7 а страницы имеют вид shop/show_cat.php?start=80&catid=7
Нажмите О программе - Опции, там есть кнопка для удаления.
как удалить этот макрос полностью с компьютера без следов?
значит, что-то не так настраиваете
посмотрите еще раз видеоинструкцию
могу настроить под заказ
заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
Причем тут парсер, если вы подставляете данные?
Точно речь про парсер, а не про надстройку для подстановки данных?
http://excelvba.ru/programmes/Lookup
Пишите подробнее на почту, что куда надо подставить
ДОбрый День! Не получается настроить парсер уже на этапе теги, что это может значить?
Подскажите пожалуйста. Есть основная таблица куда при помощи ВПР подставляются данные из других таблиц (Эти данные в другие таблицы подставляются при помощи Вашего парсера). Все работает отлично. Но мне надо что б при подстановки в основную таблицу подставлялись и гиперссылки которые в других таблицах работают а при выполнении ВПР в основной таблице их нет. Для этого нужен макрос? Или можно сделать формулой EXCEL. В ячейке куда нужно вставить ссылку уже есть формула =ЕСЛИОШИБКА(ВПР($A4;Aquamir.ru!C:D;2;0);""). Подскажите пожалуйста.
только имя сертификата прописываете
PS: я в этих сертификатах не спец, и этой опцией пользовался только пару раз (редко попадаются сайты, которые без сертификата не обработать)
Если не разберетесь, - можно для загрузки страниц использовать Internet Explorer (он сам разберется с сертификатом)
в парсере путь прописывать или только имя,и куда устанавливать сертификат?
Сергей, всё можно, - если нужные вам данные есть на сайте, и вы сможете объяснить, как бы вы эту информацию собирали вручную.
Можно автоматизировать всё, что вы можете объяснить как надо делать.
Заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
Подскажите а делать парсинг с сайтов по определенному списку инн компаний возможно? Например у меня есть список из 100 инн компаний по которым,например, на сайте rusprofil.ru мне нужно собрать инормацию по каждому инн, содержащую название,адрес,контакты и т.д.?
Да, можно обрабатывать сайты с сертификатами
В этом поле в настройках указывается название сертификата (сертификат должен быть установлен на компе)
Добрый день, программа может парсить сайты с сертификатами ? в - дополнительно/разное/использовать сертификат при запросе - как этим пользоваться ?
Если не получается, - всегда можно заказать настройку парсера:
http://excelvba.ru/programmes/Parser/order
не получается у меня никак(
к сожалению не нашла инструкцию, сможете подсказать как авторизоваться на этом сайте http://santehcentr.com/
Парсите сайт (как обычно, - см. видеоинструкцию), - получаете таблицу с данными на отдельном листе.
Можно сразу перед выводом артикула выполнить замены лишних символов в нем на пусто.
А потом подставляете данные в свой лист при помощи формулы =ВПР() или этой надстройкой:
http://excelvba.ru/programmes/Lookup
Вариант 2: брать артикулы с листа, и вбивать их в поиск по сайту (если таким способом будет находиться на сайте то что нужно)
Подскажите как!!! Какую функцию использовать?