Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Надстройка Parser для MS Excel: общие сведения

Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.

Основные возможности:

  • парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
  • извлечение данных из файлов формата Word / Excel / txt / PDF
  • скачивание файлов (изображений, документов, и т.п.)
  • обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)

Особенности программы

Простота использования и настройки

  • Запуск парсера нажатием одной кнопки на ленте Excel
  • Для настройки парсеров не нужно знание программирования!
    Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач.
  • Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
  • Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
    Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами)
  • Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.

Гибкая постобработка данных

  • Множество текстовых функций для обработки полученной информации
  • Разнообразные фильтры и функции перекодировки
  • Работа с переменными и массивами данных
  • Разбиение значений на отдельные элементы с индивидуальной обработкой
  • Автоматический вывод характеристик товаров в отдельные столбцы
  • Интеллектуальный поиск цен на страницах
  • Поддержка форматов JSON и XML

Продвинутые сетевые возможности

  • Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
  • Авторизация — поддержка входа в аккаунты на различных сайтах
  • Региональные настройки — выбор географического региона для парсинга
  • HTTP-запросы — поддержка GET и POST методов, конструктор запросов
  • Cookies и Headers — полная работа с HTTP-заголовками и куки
  • Многопоточность — до 200 одновременных потоков для ускорения работы
  • Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
  • Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
  • Кеширование — сохранение данных для повторного использования

Неограниченные возможности поиска и навигации по сайту

  • Рекурсивный поиск страниц на сайтах
  • Поиск данных по HTML-тегам и их атрибутам
  • Автоматическое обнаружение ссылок пагинации (пейджера)
  • Специализированные функции для работы с HTML-таблицами
  • Преобразование HTML в текст и пары "название-значение"
  • Очистка HTML от лишних данных

Интеграция с Excel

  • Чтение данных из файлов Excel для использования в парсинге
  • Создание отдельных листов и файлов
  • Динамическое формирование столбцов для вывода результатов
  • Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
  • Удобная панель инструментов для запуска парсинга

Работа с файлами

  • Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
  • Обработка файлов из заданных пользователем папок
  • Сохранение изображений и документов под заданными именами в настраиваемые папки

С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.

Более подробно всё это описано в разделе Справка по программе

Видеоинструкция
YouTube
VK Video
RuTube

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.

Как скачать и протестировать программу

Комментарии

Редактирование списка действий никак не связано с выбранным режимом исходных данных.
Ничего виснуть не должно, - программа проверена на тысячах компов, ни у кого такая проблема не проявляется.
Напишите мне в скайп, разберёмся.

Привет давно не заходил в парсер
тут надо было кое что сделать. написал парсер но тут начались проблемы.
В исходных данных если стоит на выборе "фиксированное исходное значени"
В поле либо пусто либо ссылка
жмешь редактировать список действий и парсер виснет.

Если хочешь отредактировать парсер надо выбирать вкладку в источнике данных "брать данные с листа эксель"
тогда можно отредактировать, но Если запускать парсер чтоб он брал ссылки из ячеек он тоже виснет при запуске.
бывает что при редактировании он виснет только там где вывод на лист.

Кажется, это из-за конфликтов надстроек. Запустил в пустом окне без открытой книги, макросов и надстроек и пока всё нормально и предсказуемо. До этого, кстати, ещё и Excel не закрывался, а в цикл уходил…

Здравствуйте! Скачал пробную версию. Не понимаю, почему иногда при создании подуровня переносится только первая строка (как и надо), а иногда весь массив, найденный на предыдущем этапе. Абсолютно вся последовательность действий одинаковая - всё то же самое. То так, то так

да, можно
например, пишете параметр max=190

Ну а вручную задать колличество страниц в Дополнительных парметрах можно?

В этом случае тоже можно, но сложнее (надо предварительно вычислить количество страниц, основываясь на количестве результатов поиска, и количестве результатов на одной странице)
Если сами не разберетесь, - напишите в скайп, попробую помочь

А что делать если в пейджере видно только 10 страниц, а дальше кнопочка NEXT, и «последняя страница» не указанна (на самом деле всего страниц 187). Действием «Получить все ссылки пейджера» программка выдает только 10 урлов, а не 187. Как быть в таком случае?

Да, можем
заказы на парсер (ТЗ) принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Программа-парсер стоит 2500 руб, + настройка под сайт от 1500 руб

Здравствуйте. Вы можете пропарсить сайт по ТЗ? Сколько стоит?
Спасибо.

Станислав, на вкладке «вывод на лист» есть подвкладка «настройки листа для вывода»
Там надо задать столбец, по которому определяется последняя строка таблицы.
Вместо столбца 1 «A» поставьте столбец, который ВСЕГДА заполнен данными, - и проблема исчезнет

добрый день! Тестирую парсер у меня значения выводятся только в первой строке и каждый последующий результат подтирает предыдущий. что нужно сделать?

Возможность есть
Вопрос непонятен (неясно, где массив получается)
Напишите в скайп, попробую подсказать (если готовы приобрести программу)

Добрый вечер, подскажите пожалуйста, как во вкладке "вывод на лист" выводить массив значений в отдельные строки, а не весь массив в 1 строку, есть ли в парсере такая возможность?

Вера, напишите мне в скайп, объясню.
Принцип в обоих вариантах один и тот же, - запускается набор действий с данным именем

Скажите, где можно подробнее изучить функцию "Проверка на выполнение условия". Например, как работает действие при выполнении условия - "Выполнить набор действий" или "Применить к значению набор действий".

Длина id никакого значения не имеет. Что-то не так настраиваете.
Напишите мне в скайп, разберемся.

Игорь, спасибо за ответ.
В моем примере id  тоже очень длинный и результата тоже не выдает.

id="ui-accordion-accordion_menu-panel-0"

Ирина, у этого тега есть id - лучше по нему искать

Скажите, как быть в такой ситуации.
Нужно найти тек DIV, где CLASS с очень длинным названием. Я попыталась вписать только часть текста, но результата так же нет.

Вот как выглядит код:

< div class="ui-accordion-content ui-helper-reset ui-widget-content ui-corner-bottom" style="display: none; overflow: hidden;" id="ui-accordion-accordion_menu-panel-0" aria-labelledby="ui-accordion-accordion_menu-header-0" role="tabpanel" aria-expanded="false" aria-hidden="true">
< ul >
< li class="forty" >

Здравствуйте, Сергей
Да, может, но я конкретно под этот сайт (яндекс маркет) не настраивал, так как знаю все нюансы,
там работы очень много по настройке (авторизация, обработка капчи, прокси-серверы, разные варианты выдачи результата, прочие нюансы)
Настроить можем под заказ, но будет дорого
Заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Здравствуйте! Подскажите Ваш парсер может собирать данные с яндекс маркета ?

Владимир, специально для вашей задачи у меня есть другая программа (для обработки прайс-листов)
http://excelvba.ru/programmes/Unification
А фотки можно найти в Google другой надстройкой (для поиска и вставки картинок)
http://excelvba.ru/programmes/PastePictures

А парсер (в статье о котором вы разместили свой комментарий) - это больше для парсинга сайтов.

Здравствуйте!
Интересует парсер для обработки прайс-листов от разных поставщиков. Прайсы имеют разную структуру. Товары от поставщиков - шины. требуется обработка по категориям и поиск фото для товара.

По поводу макроса вроде получилось. Но получилось только в файле без поддержки макросов. В файле с поддержкой макросов почему-то не срабатывает.
Еще вопрос у меня при парсере получается много повторяющихся столбцов с одинаковыми названиями и разными данными. И иногда при редактировании настройки можно легко спутать столбец. Вот если бы было еще дополнительное поле для внутреннего комментария, было бы удобнее.
Спасибо

Здравствуйте, Василий
Мало добавить макрос, - его надо еще и запустить
Там 2 параметра у действия, - в первом указываете название набора макросов (из вкладки Дополнительно - Макросы), куда вы этот код написали,
а во втором параметре - название запускаемого макроса (Очистить_файл)
И тогда всё заработает

Подскажите пожалуйста. Мне нужно что б перед каждым запуском парсера очищалась определенная область. Пытался "добавить макрос VBA в текущий файл" в parser_start но он не срабатывает. Пример макроса.

Sub Очистить_файл()

Range("A10:F10").ClearContents

End Sub

"Очистить лист от данных" не подходит. Так как убирает все после указанной ячейки.

Точно...
Спасибо.

Здравствуйте, Евгений
Такой опции нет, но вы можете сначала считать текст из файла, добавить текст до или после считанного, и сохранить под исходным именем.
По сути, получится то, что вам нужно, - только в 3 действия вместо 1.

Добрый день!
В настройках есть опция сохранить текст в файл. Возможно, дописывать текст в уже существующий файл.