Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Здравствуйте, Михаил.
Новая версия (2.x.x) - на новом движке, обновление не сработает.
Надо вручную скачать новую версию с сайта, и заменить старый файл надстройки новым.
Насчёт активации, - всё получится (сбросил ваши активации старой версии)

Здравствуйте, Игорь.
У меня парсер не видит обновления выше своей версии (1.2.6)
При скачивании и установки версии 2.0.х сообщает что вы израсходовали все лицензии.

Здравствуйте, Tidus
Можно и готовую выгрузку заказать, - но дешевле не будет, - т.к. парсер все равно надо настраивать, да еще потом и ждать пока все скачается (комп разработчика будет занят длительное время)

Добрый день

Хотелось бы уточнить, можно ли заказать саму информацию с сайта. Так как сам парсер мне не нужен, нужна только база объявлений с сайта kolesa.kz/ Krisha.kz для анализа изменения цен для дипломной работы. Если да, то сколько будет стоить 2 сайта вместе и каждый в отдельности.

Ваш е-мейл принудительно отписали от рассылки. Почему не работает ссылка отписки (и сработала ли "принудительная" отписка), будем разбираться.

Ваш комментарий я отредактировал и впредь попрошу не выражаться матом, особенно по отношению к другим людям.

по паре писем проходил и жал ссылку отписаться но спам продолжает идти

Можете объяснить почему моя почта засыпается тысячей уведомлений о том что какие то люди оставили на этом сайте коментарий? Я сделал всего один вопрос - вы ответили - я получил хорроший ответ. Но зачем мне приходят уведомления о том что какие то новые люди оставили свои коментарии тут я не могу понять Реально бесит. Вот примеры:

Здравствуйте, Гость.

Поступил ответ на ваш
комментарий на сайте href="http://ExcelVBA.ru">ExcelVBA.ru
в статье «Парсер сайтов и файлов
(сбор данных с сайта в Excel)»

Вы можете
просмотреть ответ на ваш
комментарий, проследовав по этой
ссылке:
http://ExcelVBA.ru/programmes/Parser#comment-6207

Текст нового комментария (ответа на ваш
комментарий) от EducatedFool:
Символы с тильдой - это разделитель
элементов массива
В настройках поля для вывода включите на
вкладке «Несколько столбцов» опцию
«Выводить массив значений в несколько
столбцов», - тогда в каждый столбец
попадет по одному значению вида
Столбец1|Столбец2|Столбец3
А если надо динамически формировать
названия столбцов, - то включите в
настройках поля на вкладке
«Дополнительно» опцию «Поиск столбца для
вывода»
Тогда будут созданы столбцы (с названием
из первого столбца вашей таблицы), а
значением столбцов будут значения
второго столбца вашей таблицы

Спасибо!

Символы с тильдой - это разделитель элементов массива
В настройках поля для вывода включите на вкладке «Несколько столбцов» опцию «Выводить массив значений в несколько столбцов», - тогда в каждый столбец попадет по одному значению вида Столбец1|Столбец2|Столбец3

А если надо динамически формировать названия столбцов, - то включите в настройках поля на вкладке «Дополнительно» опцию «Поиск столбца для вывода»
Тогда будут созданы столбцы (с названием из первого столбца вашей таблицы), а значением столбцов будут значения второго столбца вашей таблицы

Добрый день.
При использовании команды "Преобразовать таблицу в список с разделителями". Между значениями есть какие-то символы тильда еще что-то тильда. Как убрать эти разделительные символы?Как полученные значения раскидать по отдельным ячейкам?

Не, вы меня не поняли.. Парсер в одну ячейку пихает все данные.
Например:
"Футбол
Хоккей
Теннис
Баскетбол"
А нужно, что бы каждая запись была в отдельной (следующей снизу) ячейки. На одном примере я это как-то поборол, на втором никак не получается =(

Настройки парсера - вкладка ВЫВОД НА ЛИСТ - подвкладка НАСТРОЙКИ ЛИСТА ДЛЯ ВЫВОДА
Там есть опция, по какому столбцу определять последнюю заполненную строку таблицы
Укажите там номер столбца, который заполняется парсером (вместо столбца 1 поставьте столбец номер 2, например, - если во второй столбец парсер выводит данные)

Добрый день! Пытаюсь подружиться с парсером - второй раз натыкаюсь на проблему того, что данные выводятся все в одну ячейку, безе перехода на следующую. Чувствую, что это ерундовый вопрос, но никак не получается найти причину... Помогите плз

Андрей, заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Высылайте заказ, - попробуем настроить
С прокруткой обычно проблем нет, - тут есть 2 варианта настройки (использовать браузер IE для прокрутки, или же геренировать запросы, которые скрипты выполняют при прокрутке)
Вопрос только в стоимости настройки, - сделать в любом случае можно.

Страница динамическая и в коде нет самих вопросов, они подгружаются по мере прокрутки, пока никто ни смог забрать вопросы и ответы, может вы сначала попробуете, если получится я оплачу макрос.

Добрый день!
Если нужно получить ссылки на все страницы, то используется действие - "Получить все ссылки пейджера". В большинстве случаев этого достаточно. Иногда нужно определять номер последней страницы и строить массив чисел от 1 до этого числа.

Добрый день.
Изучаю сценарий парсинга http://spravkaru.info. Там идет построение массива из двух страниц. "Добавить новый элемент к массиву Значение %LinkCity%/p/2 Куда поместить в конец."
А если этих страниц много, то прописывать нужно каждую также %LinkCity%/p/3,%LinkCity%/p/4 и т.д. или есть другой автоматизированный способ, независимо от их количества?

Здравствуйте, Андрей.
Да, возможен
Все данные, какие вы можете увидеть на сайте, и вручную скопировать в Excel, - можно и спарсить моей надстройкой.

заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order

Добрый день, возможен ли парсинг вопросов со своего канала на сайте аск фм. мне нужно перенести пjрядка 2500 вопросов на новый сайт, вручную это очень не быстро.

Понял, спасибо

Оптом дешевле ) Стандартный заказ начинается от 1500 рублей. Но у Вас задача, судя по описанию, попроще, поэтому можно сделать скидку. Цена сильно зависит от сложности структуры и "величины" самих сайтов - Вы оформляйте заказ, уже будет понятно, что за сайты и можно будет предметно цену обсуждать.

Олег, в статье (чуть выше) есть ответ на ваш вопрос

Средняя стоимость настройки под конкретный сайт, - 1500 рублей.

может дешевле, может дороже, - если нет задания, точную стоимость назвать не получится

Да их несколько этих сайтов поэтому и не указал. Вопрос такой, если я приобретаю ваш парсер, то сколько будет стоить настройка под определенный сайт?

Добрый день, Олег!

Вы не указали ссылку на сам сайт, но с очень высокой степенью вероятности это возможно сделать.

Если желаете оформить заказ - здесь инструкция к оформлению http://excelvba.ru/programmes/Parser/order

Здравствуйте
Подскажите пожалуйста, можно ли будет настроить парсер таким образом, чтобы он скачал все фото товаров с указанного адреса сайта?
без заранее указанных ссылок на эти фото.

Михаил, это происходит потому, что в файле присутствуют символы, недопустимые в кодировке Windows-1251
Например, китайский иероглиф невозможно сохранить в кодировке Windows-1251
Потому и ошибка возникает (а в UTF-8 такой ошибки нет, - так как там можно сохранить очень много разных символов)

Насчет ошибки - я в курсе, в будущих версиях доработаю, чтобы программа удаляла такие символы (которые не поддерживаются выбранной кодировкой)
Часть данных может потеряться при этом, - но иначе никак.

Здравствуйте, Игорь!
Исправьте, пожалуйста, ошибку:
при сохранении в CSV файл в кодировке 1251 выдает ошибку, (При создании CSV файла в кодировке «windows-1251» произошла ошибка #5 (Invalid procedure call or argument))
в UTF-8 сохраняет нормально

Очень сожалею, что мы неправильно друг друга поняли. Ценю высоко ваш профессиональный уровень, отзывчивость и помощь в настройке парсера.

Елена, извиняться и объяснять что-либо я не намерен, т.к. вы пишете какую-то чушь.

Вы успешно активировали программу на 4 компах (никто вам не мешал это сделать),
никто с вас не требовал денег за консультацию (у меня всегда консультации бесплатные).
Но если вам нужна настройка парсера под очередной сайт, - это уже оплачивается (я не готов вам в рамках консультаций настраивать постоянно разные парсеры)

Я отказываю в консультациях в 1 случае из 1000 (за последние 3 года - только одному покупателю отказал). И вот после этого вашего коммента, - больше помогать вам не буду
(я вам бесплатно по скайпу настроил парсер под новый сайт, пару дней назад, и всё объяснил, - а последовала вот такая неожиданная реакция.
Отныне, не буду вам помогать ни платно, ни бесплатно, - не люблю необоснованные обвинения в свой адрес)

26 марта 2016 г во время консультации по настройке парсера автор закрыл лицензию на программу, не объяснив причин, и потребовал в дальнейшем консультации оплачивать. На каком основании? Хотелось бы узнать от автора причины данного поступка и извинений, хотя бы.