Надстройка Parser для MS Excel: общие сведения
Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.
Основные возможности:
- парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
- извлечение данных из файлов формата Word / Excel / txt / PDF
- скачивание файлов (изображений, документов, и т.п.)
- обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)
Особенности программы
Простота использования и настройки
- Запуск парсера нажатием одной кнопки на ленте Excel
- Для настройки парсеров не нужно знание программирования!
Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач. - Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
- Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами) - Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.
Гибкая постобработка данных
- Множество текстовых функций для обработки полученной информации
- Разнообразные фильтры и функции перекодировки
- Работа с переменными и массивами данных
- Разбиение значений на отдельные элементы с индивидуальной обработкой
- Автоматический вывод характеристик товаров в отдельные столбцы
- Интеллектуальный поиск цен на страницах
- Поддержка форматов JSON и XML
Продвинутые сетевые возможности
- Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
- Авторизация — поддержка входа в аккаунты на различных сайтах
- Региональные настройки — выбор географического региона для парсинга
- HTTP-запросы — поддержка GET и POST методов, конструктор запросов
- Cookies и Headers — полная работа с HTTP-заголовками и куки
- Многопоточность — до 200 одновременных потоков для ускорения работы
- Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
- Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
- Кеширование — сохранение данных для повторного использования
Неограниченные возможности поиска и навигации по сайту
- Рекурсивный поиск страниц на сайтах
- Поиск данных по HTML-тегам и их атрибутам
- Автоматическое обнаружение ссылок пагинации (пейджера)
- Специализированные функции для работы с HTML-таблицами
- Преобразование HTML в текст и пары "название-значение"
- Очистка HTML от лишних данных
Интеграция с Excel
- Чтение данных из файлов Excel для использования в парсинге
- Создание отдельных листов и файлов
- Динамическое формирование столбцов для вывода результатов
- Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
- Удобная панель инструментов для запуска парсинга
Работа с файлами
- Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
- Обработка файлов из заданных пользователем папок
- Сохранение изображений и документов под заданными именами в настраиваемые папки
С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.
Более подробно всё это описано в разделе Справка по программе
Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.
Комментарии
Здравствуйте, как быть с такими пейджерами, где ссылка при переходе с страницы 1 на страницу 2 не меняется, и страница не обновляется, просто меняется товар, https://order.paul-lange-ukraine.com/category/p-d-ntegrovanu-v-s вот такой сайт
Проверил запросы, только Get. Ссылка в коде видимо для отвода глаз. Пересмотрел еще раз видео обучения, сделал через IE. Все работает. Спасибо.
Смотрим, какие запросы выполняет браузер, и делаем то же самое (пост запрос, или Загрузить исходный код страницы)
Про это говорится во второй видеоинструкции.
Действительно, Игорь, подскажите, как парсить сайты, в которых информация выводится в всплывающем окне, если я верно понял, при помощи JS. Попробовал HTTP запросы, через IE, ничего не вышло...
Извиняюсь, ерунду написал, не то это...
to Джон, 8 Янв 2019 - 12:27
По сути, всплывающая информация - это новая страница, просто ссылка в браузере не изменяется. Всё что Вам нужно, в Исходном значении, выявить данные ссылки.
Для наглядности - http://prntscr.com/m4crjp
Добрый день. Есть ли примеры того, как парсить сайты где информация в всплывающем окне. Например http://almaceramica.ru/collections/adelia. Информация о товаре появляется в всплывающем окне при клике на "i". Если есть примеры, пожалуйста поделитесь.
К предыдущему сообщению: картинку подгружает скрипт, как можно это обойти
Доброго времени суток. Почему то парсер не выдеат в результатах ссылку на изображение (http://catalog.raec.su/product/1455873), подскажите, это реально с этого каталога спарсить изображения? Защита какая то может быть?
Тут всё написано:
https://excelvba.ru/faq/system_requirements
Здравствуйте, с какой версией Excel работает парсер? (есть ли ограничения)
Ну так посмотрите, что выдаёт сервер после того, как данные перестают выводиться
(в режиме тестирования парсера)
Нет ответа там, или HTML с сообщением об ошибке, или еще что-то
По настройке прокси, пока инструкции нет, - но весь необходимый функционал в программе присутствует (в настройках парсера, вкладка Дополнительно - Прокси)
Николай, 20 Дек 2018 - 21:35.
Настраивал, не помогает. Сервер перестает отвечать почему то именно с 1005 страницы, до этого качает все нормально. Или это проблема самого сайта.
Гость, 20 Дек 2018 - 10:33.
Скорее всего Вас банят из-за того, что Вы отсылаете слишком часто запросы на сервер, своего рода защита. Возможное решение изменить интервал между запросами. Вкладка Дополнительно -----> Параметры -----> Интервал между запросами в секундах.
Игорь большое спасибо что вы есть. За то что создали такой софт. Вы с экономили мне просто кучу времени.
Добрый день. Пробовал Ваш парсер для сайта http://reestr.nostroy.ru/reestr?m.fulldescription=&m.shortdescription=&m.... Через определенное количество запросов перестает отвечать сервер. В чем может быть проблема? если сайт блочит мой IP то каким образом в вашей надстройке можно настроить прокси-сервера, спасибо.
Николай, в этом, как и в любом другом действии, для подстановки из переменной с названием VarName, в поле параметра действия пишем %VarName%.
В вашем случае надо написать %URLX%
Добрый день подскажите в каком формате задавать Параметр "Значение" в действии "Добавить передаваемое POST-значение". Если до этого действия переменную назвали "URLX"?
Можно, 2 способами:
1) использовать браузер IE для загрузки страницы
2) посмотреть, какие POST запросы выполняет браузер при загрузке страницы, и выполнить такие же запросы
обо всём этом говорится во второй видеоинструкции:
https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon
Добрый день Игорь, ни как не получается загрузить информацию о товаре с одного сайта.
Вот ссылка: http://msk.rossko.ru/product/?sid=ec9253fc5318403aa510a48c79ca3a0e&text=...
В браузере подгружается информация о товаре.
А через программу нет. Подгружает станицу "Ничего не нашлось"
Подскажите можно какой нибудь функцией из вашей программы получить полую информацию о странице.
Или такой сайт не получится спарсить. Спасибо за ответ.
подскажите готовый пример (если есть с видео) на Вашем сайте где ссылка на страницу из ячейки екзел берется
Подскажите пожалуйста, как добавить все ссылки пейджера для сайта http://zakupki.gov.ru, там номер страницы пейджера расположен в середине адресной строки, а не в конце как обычно.
С некоторыми сайтами получается ускорить, используя многопоточную загрузку. Но не со всеми сайтами это работает
Здравствуйте. Начал использовать Ваш парсер но на сайте поставщика очень много товаров и не могу настроить так чтобы парсер парсил быстро. Возможно ускорить процесс парсинга?
Всё возможно, если вы сможете подробно объяснить, что где и как должен искать парсер.
Добрый вечер! Нужно привести файл эксель для загрузки на сайт, чтобы выгружал фото (искал в интернете по данным лотов.Возможно сделать?
Здравствуйте.
Спасибо за отзыв.
по пунктам:
1) пока нет в планах, т.к. это можно сделать одним действием Регулярные выражения (с параметром replace)
2) xpath в моём парсере нужен крайне редко, и всегда без него можно обойтись (ибо есть действие Поиск тегов)
Xpath применяется только в одном действии - выборка из XML. А XML используется редко, т.к. на сайтах HTML, а не XML
3) не понял, про какие массивы идёт речь. для работы с массивами значений, есть очень много действий — мне хватает.
4) да, нужна такая возможность. Есть в планах
5) это есть. пару недель назад добавил действие (в разделе Функции массива) — Диалоговое окно выбора элементов.
оно как раз для этого (можно запускать выбор этот, только если нажата клавиша Ctrl или Shift при запуске парсера)
6) есть в планах. у меня по обращениям касательно вопросов настройки, более 50% обращений - касательно пейджера.
так что собираюсь написать боле подробную инструкцию
Не нашел где оставлять отзыв. Оставлю сюда. В общем, годный продукт. Из всех, испытанных мной, парсеров - этот самый гибкий и функциональный, может потому что excel ближе к душе. По истечению 2 месяцев пользования хотелось бы добавить в парсер еще несколько моментов:
1) К текстовой функции "взять между" добавить противоположную - "убрать между".
2) Тема xpath выражений не раскрыта, хотелось бы примеры на видео. И примеры использования регулярных выражений...
3) Создать дополнительные команды для массивов(и для других) для упрощения работы(готовые формулы), например удалить все массивы после "..." вставляем текст в троеточие. Или то же самое "до". Или сцепить 2 массива в один после разделителя, например "|". И тому подобное...
4) Нужна функция "поставить на паузу". Сейчас просто так нельзя остановить парсер. Только отменять его работу и потом в ручную искать номер массива на котором он остановился и править все в настройках.
5) Из 4го пункта вытекает добавить функцию начать с №массива. Где то не в настройках парсера, а по ближе чтобы не менять все. Захотел тут поработал, захотел там...
6) Хотелось бы примеры обхода определенных "ловушек" с пейджерами и тд.
В общем, не останавливайтесь на достигнутом! Всех благ!
Подскажите, считать значение переменой - не ссылку, а текст(например название категории, подкатегории) можно?
или каким способом это сделать если на странице товара не отображается путь по категориям?
Тимур, проблема не понятна. Подсказать не смогу.
Могу настроить под заказ.