Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Надстройка Parser для MS Excel: общие сведения

Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.

Основные возможности:

  • парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
  • извлечение данных из файлов формата Word / Excel / txt / PDF
  • скачивание файлов (изображений, документов, и т.п.)
  • обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)

Особенности программы

Простота использования и настройки

  • Запуск парсера нажатием одной кнопки на ленте Excel
  • Для настройки парсеров не нужно знание программирования!
    Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач.
  • Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
  • Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
    Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами)
  • Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.

Гибкая постобработка данных

  • Множество текстовых функций для обработки полученной информации
  • Разнообразные фильтры и функции перекодировки
  • Работа с переменными и массивами данных
  • Разбиение значений на отдельные элементы с индивидуальной обработкой
  • Автоматический вывод характеристик товаров в отдельные столбцы
  • Интеллектуальный поиск цен на страницах
  • Поддержка форматов JSON и XML

Продвинутые сетевые возможности

  • Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
  • Авторизация — поддержка входа в аккаунты на различных сайтах
  • Региональные настройки — выбор географического региона для парсинга
  • HTTP-запросы — поддержка GET и POST методов, конструктор запросов
  • Cookies и Headers — полная работа с HTTP-заголовками и куки
  • Многопоточность — до 200 одновременных потоков для ускорения работы
  • Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
  • Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
  • Кеширование — сохранение данных для повторного использования

Неограниченные возможности поиска и навигации по сайту

  • Рекурсивный поиск страниц на сайтах
  • Поиск данных по HTML-тегам и их атрибутам
  • Автоматическое обнаружение ссылок пагинации (пейджера)
  • Специализированные функции для работы с HTML-таблицами
  • Преобразование HTML в текст и пары "название-значение"
  • Очистка HTML от лишних данных

Интеграция с Excel

  • Чтение данных из файлов Excel для использования в парсинге
  • Создание отдельных листов и файлов
  • Динамическое формирование столбцов для вывода результатов
  • Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
  • Удобная панель инструментов для запуска парсинга

Работа с файлами

  • Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
  • Обработка файлов из заданных пользователем папок
  • Сохранение изображений и документов под заданными именами в настраиваемые папки

С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.

Более подробно всё это описано в разделе Справка по программе

Видеоинструкция
YouTube
VK Video
RuTube

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.

Как скачать и протестировать программу

Комментарии

Тимур, проблема не понятна. Подсказать не смогу.
Могу настроить под заказ.

Здравствуйте. Скажите пожалуйста при скачивании пробной версии на 10 дней начинаем прогружать страницу категорий и на второй странице подуровня не как у Вас на видео показано только одна ссылка на категорию а у нас все ссылки и все действия которые добавляли на первом уровне они перенеслись на второй подуровень и все ссылки с первого подуровня! Как исправить данную проблему уже целый день и ночь пытаемся понять в чем проблема но все ее не можем решить!? Помогите решить!

Почитайте про это действие
https://excelvba.ru/programmes/Parser/actions/FindTargetPages

а как быть когда в одной категории находятся товары, в другой подкатегории и товары, а в третей только подкатегории?
если есть пример на сайте подскажите

подскажите, почему по действию "загрузить исходный код..." загружается вся страница,
а этаже ссылка по "Открыть вэб-страницу в ИЕ" открывается не вся старица?

Только что проверил
Всё грузится. Сайт как сайт. IE тут не нужен.
Что-то неправильно настраиваете, значит.
Могу настроить под заказ.

Не грузится страницы категорий (по ссылкам) этого сайта http://goods-avto.ru.
страница открывается только по переходу из меню, побывал запускать ИЕ в парсере тоже не помогло

Используйте браузер IE для загрузки полного списка товаров:
https://excelvba.ru/programmes/Parser/actions/IE_Scroll

а как быть если нет ссылок пейджера, а есть кнопка "показать подробнее"? возможности получить все товары со страницы - нет, вот посмотрите на этом сайте dr-marcus.ru -продукты.

To Тимур

https://my-files.ru/o80bsq - быстренько (минут 15) накидал, то о чём Вы просили, изучайте.

Посмотрите пожалуйста http://prntscr.com/lkncr8

Да, верно. Нужно извлечь ссылки на товар! Пропишите пожалуйста подсказку точнее а то я не понял где Вы этот параметр нашли http://prntscr.com/lkn0tm Спасибо

to Тимур

Если я Вас верно понял, то вам нужно получить массив ссылок на товары, а т.к. в них нет определенного класса, тогда как их извлечь (нужные ссылки)? Зато есть классы у блоков, в которых эти ссылки хранятся. div class="sblock4 num-1", div class="sblock4 num-2" и т.д.. Сначала ищем блоки с данным классом, а потом из него извлекаем ссылки. Действие - HTML: Поиск тегов. Параметры - div, название проверяемого атрибута - class, значение проверяемого атрибута - sblock4 num-*

Доброго времени суток. Скажите пожалуйста делаю настройку по Вашем видео и у меня такая картина. Прогружаю в категории страницы а вот у товара нет атрибут класса на тег А то как быть? http://prntscr.com/lki4b5

to Гость, 19 Ноя 2018 - 21:48
под каждый сайт парсер настраивается отдельно - самостоятельно или за деньги

Добрый день,

Мне требуется парсер который сможет парсить с любого сайта в ексель. Но я слышал такое, что не со всех сайтов получится парсить. И есть какие-то ограничения.

Скажите пожалуйста. Если я приобрету вашу программу смогу ли я парсить информацию с любых сайтов или может быть такое, что владелец сайта поставил ограничения не позволяющие парсить с его сайта.

Заранее спасибо.

подскажите или может есть какой пример посмотреть?
-на странице находятся 66 товаров, все разбиты на 21 подгруппу(category-item-name), которые находятся в 4х группах(category-name).
Необходимо получить в каждой строке с товаром - группа/подгруппа/товар

to Гость, 18 Ноя 2018 - 18:30.

Внимательно читайте документацию, в ней содержится ответ на Ваш вопрос

https://excelvba.ru/programmes/Parser/actions/GetTags#SecondParam

4-ый пример

Евгений, нужно значит в 2 вариантах настраивать (хотя, возможно, вы просто не к тем тегам привязались при настройке)
Могу настроить под заказ.

посоветуйте что сделать: я по вашему примеру делал парсер сайта, в итоге у половины товаров - поле "описание" осталось пустым, изза того что на страницах товаров указаны разные теги и их значения для необходимых данных (например: для описания).

Нашел информацию в инструкции по моему вопросу. Поторопился спрашивать. Изучаю.

Игорь, спасибо за программу! Начал пользоваться и пребываю в восторге.

А вопрос такой. Сделал несколько разных настроек парсеров с одного сайта. Нужна переодическая загрузка. Как автоматизировать, чтобы эти загрузки последовательно отрабатывали, выгружая информацию на разные вкладки экселя или разные файлы? В идеале по расписанию?

Не понятно, откуда надо удалить (с листа, из массива в парсере, что за подписи к ссылкам)
Потому, не готов ответить

как удалить повторяющиеся ссылки?
если подписи к ссылкам разные, сами ссылки встречаются дубликаты

Здравствуйте. Подскажите, пожалуйста, на сайте все технические характеристики в таблице, то есть все с одинаковыми тегами tr и td. Как их задать в парсере, чтобы брались определенные характеристики?

Инструкция, почему может не запускаться программа:
(почему не появляется панель инструментов)
https://excelvba.ru/faq/addin_toolbar

Но я скачал Ваш файл, но у меня пунктов меню программы надстройки не отобразилось Ваших! Вот такое отображается http://prntscr.com/lg667d

Тимур, моей программе разницы нет, лишь бы Excel работал

Здравствуйте. Скажите пожалуйста, у меня пиратская версия установлена ексель возможно пользоваться Вашей программой?