Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.
Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).
В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.
Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.
За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)
В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.
Пример использования парсера для мониторинга цен конкурентов
Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2000 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (3300 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.
Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.
Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.
Справка по программе «Парсер сайтов»
Можно попробовать разобраться с работой программы на примерах настроенных парсеров
Комментарии
Добрый день. Скажите можно ли как-нибудь отпарсить сайт, если поисковая выдача формируется с помощью JS? Интересует именно поисковая выдача на сайте т.к. сами карточки товара отпарсить можно, но вот как на них попасть?
Конкретнее, при загрузки Исходного кода страницы программой грузит - })(window,document,'script','dataLayer','GTM-KCBW6D');(function(){"use strict";function e(){}function t(e,t){for(var n=e.length;n--;)if(e[n].listener===t)return n;return-1}function n(e){return function(){return this[e].apply(this,arguments)}}var r=e.prototype,i=this.
Теоретически, можете от любого сайта бан получить
Но, на практике, это крайне маловероятно, - для 99,9% сайтов сайтов бана не будет, т.к. администраторы сайтов не занимаются отслеживанием количества запросов, и на большинстве сайтов нет специальных решений, отслеживающих количество запросов с одного адреса и блокирующих IP осле какого-то количества запросов.
Проблема бана присутствует с очень популярными сайтами, где миллионы посетителей в сутки.
Если же парсить обычные сайты, - вряд ли вы столкнётесь с такой проблемой.
PS: в программе пока нет возможности работать через прокси или VPN
Здравствуйте. Могу ли я получить бан от сайта, пользуясь парсером. Есть ли какие - то средства обхода типа прокси или vpn?
В заголовке статьи есть ссылка на скачивание надстройки.
Ссылка ненадолго пропадала, - исправил ошибку на сайте.
Здравствуйте.
А где можно скачать тестовый парсер сайтов?
Здравствуйте, Ангелина.
Да, реально.
Если вы вручную ссылки проставите для всех товаров и всех сайтов, - то качество будет 100%, и по цене будет 2500 руб + 10 сайтов*400 руб = 6500 руб
http://excelvba.ru/programmes/Parser/manuals/ComparePrices
Если вы хотите, чтобы парсер сам искал товары на сайтах по артикулу, - качество результата будет заметно хуже (мало ли что там найдётся, или вообще не найдётся, - т.е. никаких гарантий), и по цене будет по 800 руб за сайт: 2500 руб + 10 сайтов*800 руб = 10500 руб
Если хотите, чтобы парсер сам искал по артикулу, - возьмите выборочно несколько артикулов из своей таблицы, и вбейте в поиск по всем этим 10 сайтам.
Если везде первый результат поиска будет тем самым нужным товаром, - то сделать можно.
Добрый день. А сколько будет стоить такая задача: нужно мониторить парсером цены на 10 сайтах (на каждом по 2500 артикулов)? И реально ли её сделать вашим парсером, если у меня есть только артикулы?
Если готовы оплатить программу-парсер (2500 руб) - звоните в скайп, придумаем как настроить
(либо отдельный макрос напишу, либо доработаю макрос переименования файлов)
Ник в скайпе: ExcelVBA.ru
Я попробовал макрос поиска файлов. Он не совсем подходит т.к. у меня есть не полные имена файлов, а частичные. А для для корректной работы данного макроса необходимо знать полные имена файлов. Макрос парсер данную задачу делает лучше, он находит файлы по части имени, но вот к сожалению не умеет их скачивать.
Задача следующая, найти файлы по списку и скопировать их в другое место. Ваш парсер успешно находит необходимые мне файлы. Какую ему прописать команду, чтобы он произвел закачку этих файлов (скопировал из одной папки в другую.)
Непонятно, что вам надо сделать с файлами
Перенести их в другую папку?
Попробуйте этот макрос: http://excelvba.ru/programmes/RenameFiles
Привет. у меня есть список имен файлов которые нужно выделить из большого количества файлов. Попробовал ваш парсер, он находит их расположение, массив из адресов необходимых файлов, но вот как его заставить скачать данные файлы с диска компьютера, какой командой
Здравствуйте, Владислав.
Да, реализуемо (делал подобное)
заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
После ознакомления с заказом, - озвучу стоимость
Интересует парсинг комментариев к фото вконтакте. Это реализуемо? Сколько будет стоить?
Здравствуйте, Вячеслав.
Нет, не будет. Ни эта версия, ни последующие версии.
На маке, - можно пользоваться под Parallels (в Windows)
Доброго времени суток,
Будет ли данная программа работать в MS Exel под Mac?
Заранее спасибо!
Добрый день, Андрей! Да, может и YML, и xml, и текстовые файлы, и даже файлы doc (Ворд). Если интересует, вот здесь указаны требования к оформлению заказа: http://excelvba.ru/programmes/Parser/order
Привет, а парсер может парсить YML?
Спасибо.
Активация прошла
Здравствуйте, Михаил.
Новая версия (2.x.x) - на новом движке, обновление не сработает.
Надо вручную скачать новую версию с сайта, и заменить старый файл надстройки новым.
Насчёт активации, - всё получится (сбросил ваши активации старой версии)
Здравствуйте, Игорь.
У меня парсер не видит обновления выше своей версии (1.2.6)
При скачивании и установки версии 2.0.х сообщает что вы израсходовали все лицензии.
Здравствуйте, Tidus
Можно и готовую выгрузку заказать, - но дешевле не будет, - т.к. парсер все равно надо настраивать, да еще потом и ждать пока все скачается (комп разработчика будет занят длительное время)
Добрый день
Хотелось бы уточнить, можно ли заказать саму информацию с сайта. Так как сам парсер мне не нужен, нужна только база объявлений с сайта kolesa.kz/ Krisha.kz для анализа изменения цен для дипломной работы. Если да, то сколько будет стоить 2 сайта вместе и каждый в отдельности.
Ваш е-мейл принудительно отписали от рассылки. Почему не работает ссылка отписки (и сработала ли "принудительная" отписка), будем разбираться.
Ваш комментарий я отредактировал и впредь попрошу не выражаться матом, особенно по отношению к другим людям.
по паре писем проходил и жал ссылку отписаться но спам продолжает идти
Можете объяснить почему моя почта засыпается тысячей уведомлений о том что какие то люди оставили на этом сайте коментарий? Я сделал всего один вопрос - вы ответили - я получил хорроший ответ. Но зачем мне приходят уведомления о том что какие то новые люди оставили свои коментарии тут я не могу понять Реально бесит. Вот примеры:
Здравствуйте, Гость.
Поступил ответ на ваш
комментарий на сайте href="http://ExcelVBA.ru">ExcelVBA.ru
в статье «Парсер сайтов и файлов
(сбор данных с сайта в Excel)»
Вы можете
просмотреть ответ на ваш
комментарий, проследовав по этой
ссылке:
http://ExcelVBA.ru/programmes/Parser#comment-6207
Текст нового комментария (ответа на ваш
комментарий) от EducatedFool:
Символы с тильдой - это разделитель
элементов массива
В настройках поля для вывода включите на
вкладке «Несколько столбцов» опцию
«Выводить массив значений в несколько
столбцов», - тогда в каждый столбец
попадет по одному значению вида
Столбец1|Столбец2|Столбец3
А если надо динамически формировать
названия столбцов, - то включите в
настройках поля на вкладке
«Дополнительно» опцию «Поиск столбца для
вывода»
Тогда будут созданы столбцы (с названием
из первого столбца вашей таблицы), а
значением столбцов будут значения
второго столбца вашей таблицы
Спасибо!
Символы с тильдой - это разделитель элементов массива
В настройках поля для вывода включите на вкладке «Несколько столбцов» опцию «Выводить массив значений в несколько столбцов», - тогда в каждый столбец попадет по одному значению вида Столбец1|Столбец2|Столбец3
А если надо динамически формировать названия столбцов, - то включите в настройках поля на вкладке «Дополнительно» опцию «Поиск столбца для вывода»
Тогда будут созданы столбцы (с названием из первого столбца вашей таблицы), а значением столбцов будут значения второго столбца вашей таблицы
Добрый день.
При использовании команды "Преобразовать таблицу в список с разделителями". Между значениями есть какие-то символы тильда еще что-то тильда. Как убрать эти разделительные символы?Как полученные значения раскидать по отдельным ячейкам?
Не, вы меня не поняли.. Парсер в одну ячейку пихает все данные.
Например:
"Футбол
Хоккей
Теннис
Баскетбол"
А нужно, что бы каждая запись была в отдельной (следующей снизу) ячейки. На одном примере я это как-то поборол, на втором никак не получается =(
Отправить комментарий