Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.
Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).
В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.
Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.
За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)
В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.
Пример использования парсера для мониторинга цен конкурентов
Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.
Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.
Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.
Справка по программе «Парсер сайтов»
Можно попробовать разобраться с работой программы на примерах настроенных парсеров
Комментарии
Нет, под обработку таких больших файлов парсер не заточен.
(такие файлы в задачах парсинга встречаются крайне редко, потому, задачи такой у меня не стояло)
Для вашего случая, проще отдельный макрос заказать.
Здравствуйте! Подскажите, пожалуйста, справится ли Ваш парсер с большими ~1gb XML файлами? допустим из базы для партнеров ozon`a или litres`a в xml получится собрать данные?
Тут есть ответ на ваш вопрос
https://excelvba.ru/faq/system_requirements
Игорь, здравствуйте! Подскажите работает ли программа на ios? пробывал запускать parser.xla выдает ошибку про макросы. спасибо!
Николай, это не числа (числа не могут содержать двоеточие)
Потому, никак не сравнить
Напишите мне в скайп, попробую помочь.
Здравствуйте, подскажите, как можно сравнить числа между собой в массиве? 2:6~~1:13~~8:1
Можно сцепить массив чисел в строку через пробел, а потом применить действие Сумма чисел:
Сделал еще так
ОБЪЕДИНИТЬ (сцепить) элементы массива {LF}
Заменить часть текста {LF} на +
Добавить текст ДО или ПОСЛЕ =
Получается без доб столбца. на выходе в ячейке формула =9+4+12+4+27+23+18
Добрый день! Подскажите после работы парсера получаю массив значений: 9~~4~~12. Как можно сложить данные значения. Сейчас вывожу данные в отдельные ячейки и суммирую формулой.
Вячеслав, можем настроить под заказ
Я не консультирую по вопросам настройки парсеров
Парсер полностью подстроил под сайт и выгрузку тех данных, что нужно, но не знаю что делать с этими ссылками пейджера, если сделать вот так https://prnt.sc/m6klun , то сначала парсится первая страница, потом по идее должно переходить на вторую, но в итоге все равно парсит по 2 разу 1 страницу
Здравствуйте, как быть с такими пейджерами, где ссылка при переходе с страницы 1 на страницу 2 не меняется, и страница не обновляется, просто меняется товар, https://order.paul-lange-ukraine.com/category/p-d-ntegrovanu-v-s вот такой сайт
Проверил запросы, только Get. Ссылка в коде видимо для отвода глаз. Пересмотрел еще раз видео обучения, сделал через IE. Все работает. Спасибо.
Смотрим, какие запросы выполняет браузер, и делаем то же самое (пост запрос, или Загрузить исходный код страницы)
Про это говорится во второй видеоинструкции.
Действительно, Игорь, подскажите, как парсить сайты, в которых информация выводится в всплывающем окне, если я верно понял, при помощи JS. Попробовал HTTP запросы, через IE, ничего не вышло...
Извиняюсь, ерунду написал, не то это...
to Джон, 8 Янв 2019 - 12:27
По сути, всплывающая информация - это новая страница, просто ссылка в браузере не изменяется. Всё что Вам нужно, в Исходном значении, выявить данные ссылки.
Для наглядности - http://prntscr.com/m4crjp
Добрый день. Есть ли примеры того, как парсить сайты где информация в всплывающем окне. Например http://almaceramica.ru/collections/adelia. Информация о товаре появляется в всплывающем окне при клике на "i". Если есть примеры, пожалуйста поделитесь.
К предыдущему сообщению: картинку подгружает скрипт, как можно это обойти
Доброго времени суток. Почему то парсер не выдеат в результатах ссылку на изображение (http://catalog.raec.su/product/1455873), подскажите, это реально с этого каталога спарсить изображения? Защита какая то может быть?
Тут всё написано:
https://excelvba.ru/faq/system_requirements
Здравствуйте, с какой версией Excel работает парсер? (есть ли ограничения)
Ну так посмотрите, что выдаёт сервер после того, как данные перестают выводиться
(в режиме тестирования парсера)
Нет ответа там, или HTML с сообщением об ошибке, или еще что-то
По настройке прокси, пока инструкции нет, - но весь необходимый функционал в программе присутствует (в настройках парсера, вкладка Дополнительно - Прокси)
Николай, 20 Дек 2018 - 21:35.
Настраивал, не помогает. Сервер перестает отвечать почему то именно с 1005 страницы, до этого качает все нормально. Или это проблема самого сайта.
Гость, 20 Дек 2018 - 10:33.
Скорее всего Вас банят из-за того, что Вы отсылаете слишком часто запросы на сервер, своего рода защита. Возможное решение изменить интервал между запросами. Вкладка Дополнительно -----> Параметры -----> Интервал между запросами в секундах.
Игорь большое спасибо что вы есть. За то что создали такой софт. Вы с экономили мне просто кучу времени.
Добрый день. Пробовал Ваш парсер для сайта http://reestr.nostroy.ru/reestr?m.fulldescription=&m.shortdescription=&m.... Через определенное количество запросов перестает отвечать сервер. В чем может быть проблема? если сайт блочит мой IP то каким образом в вашей надстройке можно настроить прокси-сервера, спасибо.
Николай, в этом, как и в любом другом действии, для подстановки из переменной с названием VarName, в поле параметра действия пишем %VarName%.
В вашем случае надо написать %URLX%
Добрый день подскажите в каком формате задавать Параметр "Значение" в действии "Добавить передаваемое POST-значение". Если до этого действия переменную назвали "URLX"?
Можно, 2 способами:
1) использовать браузер IE для загрузки страницы
2) посмотреть, какие POST запросы выполняет браузер при загрузке страницы, и выполнить такие же запросы
обо всём этом говорится во второй видеоинструкции:
https://excelvba.ru/programmes/Parser/manuals/Loading_Pages_and_Logon
Отправить комментарий