Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.
Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).
В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.
Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.
За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)
В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.
Пример использования парсера для мониторинга цен конкурентов
Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.
Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.
Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.
Справка по программе «Парсер сайтов»
Можно попробовать разобраться с работой программы на примерах настроенных парсеров
Комментарии
Есть возможность парсить ЛЮБЫЕ сайты.
На каком движке сайт, - разницы нет.
Есть ли возможность парсить сайты на Wordpress?
Здравствуйте, Елена.
Напишите мне в скайп, решим вопрос.
Игорь, здравствуйте. Чуть более года назад скачивала ваш парсер при создании своего сайта, но к сожалению моих знаний не хватило и я не смогла разобраться в настройках. Сейчас снова возникла потребность в такой программе и хотелось бы попробовать настроить парсер перед покупкой, но триал версия закончена и программа просит приобрести лицензию. Скажите пожалуйста можно ли получить пробный доступ сейчас еще раз?
Иногда сайты меняются, - так что перенастраивать надо
Там в конце статьи указаны контакты моего коллеги, - обратитесь к нему, он перенастроит, если готовы оплатить программу и эту настройку под букинг.
http://excelvba.ru/programmes/Parser/samples/booking.com
Добрый день!
Образец парсера для booking.com не работает корректно. Возникает ошибка - сервер не ответил за 30 секунд.
Игорь, а есть какой-нибудь подобный пример
Иван, тут надо смотреть в браузере, куда он выполняет запрос при щелчке по такой «типа ссылке» (там скрипт отрабатывает, подгружая данные)
И парсером выполнять аналогичный запрос.
Добрый день. Есть некоторые сайты где на одной странице указаны несколько ссылок с хэштегами. например site.com/#1 это один товар, site.com/#1 это второй и тд. При загрузке исходного кода в парсере в виде site.com/#2 не происходит загрузка кода. Как загружать такие страницы.
Действительно, можно так. Спасибо за наводку!
По ходу еще вопрос. Если данные собираются в новом открывающемся листе, можно ли как то вытягивать данные из листа источника, помимо столбца, который является исходным значением для парсера? А то я каждый раз устраиваю "танцы с бубнами" либо сцепляя данные исходного листа с последующим разбиением на массив, либо сохраняю массив в текстовый файл и гружу его как источник данных. Наверняка не увидел чего-то простого в настройках?
Олег, да, есть в планах такое сделать, - уже были подобные просьбы
Но это можно сделать и в настройках парсера, - буквально пару действий добавить (увеличить значение счетчика, проверка на выполнение условия - например, что счетчик кратен 1000, и действие сохранения файла Excel)
Добрый день, Игорь! Вставлю свои "пять копеек" в части предложения по обработке большого количества ссылок.
Не плохо было бы сделать опцию автосохранения выходного файла данных во время работы парсера. Соответственно если парсится на текущий лист, то сохранять под текущим именем. Если открывается новый лист - в опциях задавать имя файла для сохранения. Ну и конечно задавать интервал времени, после которого делать сохранение.
Весьма актуально, поскольку бывают сбои и в операционной системе и в компьютере. И очень обидно после многочасового парсинга потерять данные.
Я сейчас периодически вручную делаю сохранение во время работы, но это не совсем удобно и не совсем корректно.
Спасибо, многопоточная загрузка это когда несколько циклов параллельно идут, я правильно понял?
Мне было бы интересней не заказывать парсеры, а обучаться их созданию)) Семинаров нет?
Александр, вряд ли вам получится заметно всё это ускорить.
На 90% скорость парсинга зависит от степени «тормознутости» сайта, на которую вы повлиять никак не можете
(есть сайты, где можно за секунду 10 запросов выполнить, а есть медленные, где каждый запрос несколько секунд занимает)
Как можно ускорить работу парсера (речь про оставшиеся 10% - вряд ли вы заметите изменения, так что я не стал бы этого делать):
1) комп помощнее
2) интернет пошустрее
3) выводить на лист не по одной строке, а по несколько (опция на вкладке «Настройки листа для вывода»)
PS: Как можно заметно ускорить работу парсера: использовать многопоточную загрузку
Не все сайты это позволяют, не везде это стабильно работает (от сайта зависит),
но в некоторых случаях позволяет сократить время загрузки страниц в 5-15 раз
Это надо перенастраивать парсер. Можем сделать под заказ.
Здравствуйте! А от чего зависит скорость работы программы? В моём случае хочу что бы работало быстрей и не могу пока прикинуть, то ли комп разгонять, то ли интернет, то ли смирится.
1. Парсер берет из заданного столба значения, коих выходит 75.000,
2. удаляет некоторые символы, подставляет текст для получения ссылки,
3. грузит страницу,
4. по тегам определяет количество строк таблицы,
5. удаляет по маске негодные,
6. из оставшихся строк получает ссылки
7. и грузит страницу по ним.
Выводит
1. изначальное значение,
2. значение между блоками текста,
3. еще одно значение между блоками текста
4. и поиск по тегам с отрезанием лишнего текста.
На выходе получается 75.000+20%
за 15 часов работы обработано 68% от общего количества изначальных значений.
Сайт донор - FarPost
настройки по умолчанию
К сожалению, у меня сайт в кодировке Windows:(
Парсером можно сохранить файл в формате CSV с кодировкой utf-8, где все эти символы останутся
По умолчанию, Excel создаёт CSV в другой кодировке (ANSI), - там да, символы режутся
Если у вас сайт поддерживает импорт CSV файлов в кодировке utf-8 (или utf-16), то проблема решается без этого колдовства с заменами символов
Объясняю, я после парсинга преобразовываю данные в нужный мне формат, а далее делаю импорт на свой сайт посредством csv файла. При сохранении в csv все юникод символы "режутся". Поэтому до сегодняшнего дня просто заменял на html код, пока не столкнулся с источником, где очень большой объем и большое количество таких символов. Вручную их все найти весьма трудоемко... Возможности переделать импорт сейчас у меня нет. Если задача слишком частная для парсера, готов заказать макрос, который будет каким-то образом "подсвечивать" символы юникод, с целью дальнейшей фильтрации и замены на html коды
Олег, непонятно, что надо получить на выходе (и зачем вообще эти символы преобразовывать, - нормально же они выводятся на странице, так же, как и любые другие символы)
Чем эти символы хуже других букв? Почему их надо во что-то преобразовывать?
Спасибо за ответ, но все не совсем так. Я не делаю преобразования html в текст, а просто сохраняю данные таблицы после поиска соответствующего тега.
И символы в исходнике идут не в виде кодов. Вот пример для пояснения:
https://mall.industry.siemens.com/mall/ru/ru/Catalog/Products/10204211
Вкладка "Информация продукта" и далее таблица спецификации внизу.
Ну и далее например 9 строка таблицы "Input current" с комбинациями I²t и 0.02 A²·s
Добрый день. Какова может быть причина отсутствия ответа с сервера сайта и, вследствие чего, не возможность выгрузки исходного кода веб-страницы?
Олег, не нужны тут таблицы замен
Изначально же эти символы идут на веб-странице в виде спецкодов, - не надо просто включать преобразование HTML в текст, и они останутся в том виде, в каком вам нужно.
Добрый день, Игорь!
При парсинге технических спецификаций на выходе в тексте появляется большое количество юникод символов типа Ø, ² и пр.
С помощью таблиц замен я перевожу их в html символы. Но главная проблема для меня в большом объеме выходных данных найти все эти символы, чтобы включить в таблицу замен. Может добавить функцию "маркировки" таких символов или замены их на коды символов Unicode? Или уже есть готовое решение может быть?
Алексей, да, можно. Можно под любую задачу настроить.
Можно ли использовать программу для сохранения в Excel всех комментариев к определенному видео из Youtube?
Евгений, напишите мне в скайп
Если готовы приобрести программу, - попробую помочь
Игорь. Добрый день!
В настройках парсера есть функция "Ожидание данных в Internet Explorer."
там можно задать маску нужного HTML кода. Подскажите как на главной yandex дождаться загрузки информации о погоде.
Да, возможно, - если вы опишите, как бы вы это делали вручную.
Высылайте заказ на почту
Здравствуйте! Подскажите, возможно ли настроить вашу программу на парсинг сайта https://egrul.nalog.ru/ ?
Интересует итоговая выборка по региону и дате регистрации, такое возможно?
Здравствуйте, Артём.
Что-то подобное нужно?
Если да, - там есть контакты, по которым свяжетесь, - вам озвучат стоимость.
Если что-то другое, — высылайте заказ на парсер
Отправить комментарий