Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Надстройка Parser для MS Excel: общие сведения

Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.

Основные возможности:

  • парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
  • извлечение данных из файлов формата Word / Excel / txt / PDF
  • скачивание файлов (изображений, документов, и т.п.)
  • обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)

Особенности программы

Простота использования и настройки

  • Запуск парсера нажатием одной кнопки на ленте Excel
  • Для настройки парсеров не нужно знание программирования!
    Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач.
  • Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
  • Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
    Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами)
  • Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.

Гибкая постобработка данных

  • Множество текстовых функций для обработки полученной информации
  • Разнообразные фильтры и функции перекодировки
  • Работа с переменными и массивами данных
  • Разбиение значений на отдельные элементы с индивидуальной обработкой
  • Автоматический вывод характеристик товаров в отдельные столбцы
  • Интеллектуальный поиск цен на страницах
  • Поддержка форматов JSON и XML

Продвинутые сетевые возможности

  • Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
  • Авторизация — поддержка входа в аккаунты на различных сайтах
  • Региональные настройки — выбор географического региона для парсинга
  • HTTP-запросы — поддержка GET и POST методов, конструктор запросов
  • Cookies и Headers — полная работа с HTTP-заголовками и куки
  • Многопоточность — до 200 одновременных потоков для ускорения работы
  • Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
  • Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
  • Кеширование — сохранение данных для повторного использования

Неограниченные возможности поиска и навигации по сайту

  • Рекурсивный поиск страниц на сайтах
  • Поиск данных по HTML-тегам и их атрибутам
  • Автоматическое обнаружение ссылок пагинации (пейджера)
  • Специализированные функции для работы с HTML-таблицами
  • Преобразование HTML в текст и пары "название-значение"
  • Очистка HTML от лишних данных

Интеграция с Excel

  • Чтение данных из файлов Excel для использования в парсинге
  • Создание отдельных листов и файлов
  • Динамическое формирование столбцов для вывода результатов
  • Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
  • Удобная панель инструментов для запуска парсинга

Работа с файлами

  • Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
  • Обработка файлов из заданных пользователем папок
  • Сохранение изображений и документов под заданными именами в настраиваемые папки

С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.

Более подробно всё это описано в разделе Справка по программе

Видеоинструкция
YouTube
VK Video
RuTube

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.

Как скачать и протестировать программу

Комментарии

Леонид, это тоже можно настроить, - но заметно сложнее.
Позвоните мне в скайп, - постараюсь помочь.

Доброго времени суток.
Есть действие:
Проверка на выполнение условия
Режим проверки не содержит
Значение для сравнения (tr)%param%(/tr) (пришлось тут прописать скобками, не пропечатывалось)
Действие при выполнении условия Удалить
param является числом
При таком условии всё работает
Однако мне необходимо в проверке анализировать больше либо меньше передаваемого значения с исключением записей не соответствующих условию для дальнейшего разбора по другим тегам.
Как быть в данном случае?

Ренат, позвоните мне в скайп, решим проблему
Ник в скайпе: ExcelVBA.ru

Снял в настройках галочку "запускаться вместе с Excel" теперь надстройка не запускается несмотря на то, что она включена. Также конфликтует с другой надстройкой "Надстройка для выполнения замен в таблице Excel" http://excelvba.ru/programmes/Replacements#comment-6640. В последней не отображаются кнопки "выполнить замену" только настройка таблицы замен

нашел - *%team2%*

Здравствуйте,
Есть ли возможность в действии "Проверка на соответствие маске" в качестве параметра указать ранее сохраненную переменную?

Здравствуйте, Сергей
Обязательно проверю и попробую исправить в следующих версиях.

Хотел попросить сделать 2 доработки:
1) При использовании HTML: Многопоточная загрузка, если свернуть Excel, то начинает всплывать окно "HTML: Многопоточная загрузка" что честно говоря очень не удобно.
2) При смене папки где лежать файлы парсера, автоматом список парсеров не обновляется, что не очень логично.

Ёёёё моё, а слона я и не заметил. Спасибо огромное.

почему не организовать? я именно средствами парсера и имел в виду:
"Проверка на выполнение условия" и "Вернуться к заданному действию"

Средствами парсера это не организовать. верно?

Добрый день!

Проверять наличие данных и в случае, если ничего не найдено, возвращаться к действию загрузки той же самой страницы. Есть риск зацикливания, если какие-то страницы заведомо пустые будут.

Добрый день!
Страница с диапазоном дат например с 2015-07-01 по 2016-07-20 Максимально время загрузки веб-страницы увеличил до 3-х минут. Иногда сервер "не успевает" ответить. Есть вариант 100% получить ответ, кроме увеличения времени....

Добрый день, Сергей!

Если Вам нужно получить 10 строк, ссылки у всех разные, а остальные столбцы одинаковые, то Вы можете сохранять страницу целиком в переменную, получить массив ссылок, а во всех столбцах кроме первого считывать переменную страницы целиком.

если все равно непонятно, можете позвонить по скайпу antonmashkin, объясню.

Игорь здравствуйте, подскажите пожалуйста как можно настроить парсер.
Если я во вкладке "Исходные данные", загружаю исходный код страницы, ищу URL, получаю массив ссылок, скажем 10.
Для вывода масcива на лист в столбец "А" в каждую новую строчку достаточно просто во вкладек "Вывод на лист" добавить пустой столбец без действий.

Если же я во вкладке "Исходные данные", загружаю исходный код страницы, на на вкладке "вывод на лист" создаю действия для разных столбцов, то масcив данных выводиться в ячейку целиком. Т.е. 10 значений в одну ячейку. Как это поправить?

Сначала активируем парсер нужный, а потом запускаем

Application.Run "ActivateParser", "123"
Application.Run "RunActiveParser"

Добрый день!

Пытаюсь из vba запустить парсер с названием 123.
"Application.Run "RunActiveParser" запускает только активный парсер.
Или если есть возможность запускать из vba по названию из ячейки.

Здравствуйте, парсер выводит значение в А2(к примеру), но когда я выделяю эту ячейку - строка формул пуста. Подскажите как сделать что бы в ней было тоже значение.

Добрый день, Руслан!

Ответил Вам на почту. Если письмо не пришло, проверьте папку "Спам".

Добрый день!
Необходимо сделать парсер характеристик и фото с сайта http://vstroyka-solo.ru/. либо спарсить и предоставить информацию
Все данные должны быть в файле CSV каждая характеристика в отдельной колонке, ссылка на фото, либо скаченное фото
Сколько будет стоить, и какие сроки?

Для обработки ссылок из Excel многопоточность пока не применима (будет в следующих версиях, но когда именно - сказать не могу)

Новое действие отправки книги на email я поместил в группу «Разное»

Добрый день!
Подскажите есть ли возможность работать в многопоточном режиме по ссылкам из эксель ( по аналогии http://excelvba.ru/programmes/Parser/samples/ComparePrices) что бы сразу брал несколько значений.

по поводу обновления 2.2.2 не могу найти действие для отправки файла на email (как называется данное действие)

Пример использования новой возможности есть здесь:
http://excelvba.ru/programmes/Parser/samples/MultiThreading

А можно краткий пример, для понимания, как можно перенастроить. Что бы все так работало.

Да, именно так
Но для использования этой возможности надо несколько иначе настраивать парсер
(т.е. если раньше все было настроено без многопоточности, - сейчас в 10 раз быстрее работать не начнёт)
А если перенастроить немного, - то да, для некоторых сайтов можно ускорить процесс парсинга в 20-100 раз (от сайта зависит, - где-то и 100 потоков можно, а где-то и 20 потоков с ошибками работает, ибо сервер не справляется)

Объясните пожалуйста в чем заключается обновление программы:
+ реализована многопоточность при загрузке веб-страниц (добавлено действие HTML: Многопоточная загрузка).
Т.е. ранее к примеру парсер за 1 сек. смог загрузить 1 веб страницу, то с многопоточностью 10 страниц в секунду. Так?

Мой скайп: ExcelVBA.ru
Пишите в любое время

Укажите свой скайп и время для выхода на связь

Цены в 99.9% случаев отлично берутся без использования IE
(IE - на самый крайний случай, - когда сайт сложный, и всё на скриптах работает)
Позвоните мне в скайп, - я подключусь к вашему компу, и подскажу, что как настроить.

Доброго времени суток.
При написании парсера столкнулся с проблемой что сайт через IE не отображает цены.
Готов купить программу, но необходимо быть уверенным что она работает с подобными сайтами