Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Структура программы «Парсер сайтов»

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

 

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

Пример использования парсера для мониторинга цен конкурентов

 

Видеоинструкция

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

 

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

 

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)

Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер

 

Настройка программы, - дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)

Инструкция (с видео) по заказу настройки парсера
По всем вопросам, готов проконсультировать вас в Скайпе.

 

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, - и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может  быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

 

Справка по программе «Парсер сайтов»

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Комментарии

Здравствуйте. Подскажите как запустить 2-3 парсера одновременно и чтоб 2-3 й парсер начинал вставлять данные со строки которую я укажу.

Татьяна, в этом случае картинки чуть иначе ищутся, - ссылки на них есть в коде страницы, но в другом месте
(что вы видите в браузере, это уже после работы скриптов, который проставляет ссылки на картинки в нужные места HTML кода)

Если готовы приобрести программу, - звоните в скайп, помогу с настройкой извлечения картинок.

Здравствуйте! Подскажите, пожалуйста, в чем причина: пытаюсь выловить ссылку на изображение, но когда делаю поиск по тегам она скрывается, остается лишь srs ""

Исходный код:

Нет. Работает только в Excel под Windows

На OpenOffice 4 будет работать?

Спасибо

Алексей, по вопросам техподдержки обращайтесь напрямую в скайп
По вашему вопросу, - когда парсер запустится, все будет нормально
Базовый URL не прописался, так как вы в текущем сеансе настройки парсера не прогрузили ни одну страницу, - парсер не знает, какой URL у сайта
Если вы хоть раз выполните действие типа «Загрузить исходный код веб-страницы», то парсер запомнит URL сайта, и подставит префикс к ссылке.

Настраивал парсер и не смог вытянуть правильно url картинки:

- сделал поиск тегов http://screencast.com/t/48wQTwPw
- если выбрать значение "href_with_prefix" - не добавляет название сайта в ссылку http://screencast.com/t/tvRJQQvMuP

Как быть в этом случае, как получить полноценную ссылку?

Евгений, сейчас нет возможности для отката.
А зачем это вообще? Если что-то перестало работать, — напишите мне в скайп или на почту, исправлю.

Добрый день!
До версии 2.0.0 можно было откатить программу на более позднюю версию. Сейчас есть такая возможность?

Здравствуйте, Рустем.
Если на остальных компьютерах всё нормально работает, - значит, проблема не в моей программе.
Я с таким раньше не сталкивался, но, судя по всему, что-то в системе криво установлено (раз запуск IE приводит к перезагрузке компа)
Убедитесь, что используется последняя версия программы-парсера.
Отключите все надстройки / плагины / расширения для Internet Explorer.
Если проблема не решится, — переустановка Windows поможет точно.

На одном из компьютеров после запуска парсера, который работает с Internet Explorer, происходит перезагрузка компьютера. Подскажите в чем может быть дело?

Настроить - вкладка Вывод на лист - подвкладка Настройки листа для вывода - опция «Столбец, по которому определяется последняя строка таблицы»
Поменяйте столбец на тот, в который точно данные выводятся (видимо, у вас первый столбец пустым остается, потому, каждая новая строка затирает предыдущую)

Доброго вечера! Не думал что настолько тупой))) Помогите если не сложно . Настроил все точно по Вашей инструкции , но при запуске парсинга в лист EXEL добавляется только одна строка , как это исправить, все настройки перековырял , но ничего не нашел. Подскажите люди добрые где я ступил. Спасибо огромное за внимание.

Ответ есть в FAQ
Работает только под Windows (на маке - под Parallels)

Будет работать на маке в офис 365?

Да. Работает в любой версии Excel (начиная с 2003) под Windows XP - 10

Будет ли работать работает под MS Office 2016 / Windows 10?

Здравствуйте, Денис
Может, что-нибудь не так у вас настроено, либо сайт тормозит
Обновления программы не влияют на скорость загрузки (в обновлениях, в основном, новый функционал, и исправление ошибок)
Если сами не найдете причину проблемы, — позвоните в скайп, помогу

Есть ощущение, что после обновления программа стала катастрофически медленнее работать. например adidas.ru - 500 страниц с товарами занимает больше часа.
Интернет не изменился, задержек по обращению к страницам нет.
Странно это как-то.
Я один такой?

Здравствуйте, Алексей
Расписывать тут сложно (планирую сделать видеоинструкцию), — сайты разные все
Для большинства сайтов (80%), авторизация выполняется одним действием «Авторизация (POST запрос)» в наборе действий Parser_Start
Указываем 2-3 параметра - и все работает.
Если готовы приобрести программу, - звоните в скайп, покажу, как настраивается, на примере нужного вам сайта

Можно по подробнее расписать информацию по настройке парсера с авторизацией на сайте.

Александр, эта проблема проявляется только в Office 365
В заголовке статьи красными буквами написано ВАЖНАЯ ИНФОРМАЦИЯ, — нажмите, и прочитайте последний абзац
(там сказано, как решить проблему, откатив Office 365 к сентябрьской версии)

Здравствуйте использую макросы на офисе 2016 проблема с парсером там где значения увиличиваеться переключателями. Их попросту нету и невозможно увеличить значения, так же проблема с активными зонами чтобы в них попасть нужно тыкать выше чем они. Помогите решить проблему.

Михаил, в последней версии парсера исправлена ошибка с созданием файла CSV в кодировке Windows-1251 при наличии в файле недопустимых символов (ранее создавался пустой файл)
Обновите программу, всё заработает.

В общем случае, это никак не реализовать. Если в одном случае надо разбить 66001001 на 6600 10 01, а в другом - на 6600 1001 (а при других разбиениях - найдено ничего не будет),
то программа никак не догадается, как разбивать артикул в каждом конкретном случае
Если какое-то одно правило разбивки, - то можно сделать (если вы это правило сформулируете, - почему именно в этой позиции пробел нужно поставить, т.е. опишите, как найти позицию для пробела, - например, всегда отделяем первые 4 символа пробелом)
Если же четких правил нет, - то и сделать не получится (кроме как перебирать все возможные варианты разбивки, что сложно в настройке, и очень сильно скажется на времени парсинга)

1. Подскажите как реализовать!!! При парсинге товаров по поиску артикула, у некоторых сайтов система поиска работает по разному, одни с удалением пробелов у других нет. Допусти на одном сайте артикул 66001001 это тоже самое что и 6600 10 01 и 6600 1001. А у других это разные артикулы. То есть товар реально на сайте представлен а парсер найти его не может.
2. Как разбить эту текстовую строку З1-01.3 на З1-0 1.3

Если не удается сохранить файл в кодировке Windows-1251, значит, в файле присутствуют символы Unicode, не допустимые в этой кодировке.
Используйте кодировку utf-8, и проблем не будет.

Спасибо!!! Все получилось!!! Успехов Вам. Программа просто шикарная.

Настроить - вкладка ДОПОЛНИТЕЛЬНО - Наборы действий - добавляем набор с названием Parser_Finish
И в этот набор добавляем действие «Запустить другой парсер» (указав в параметре название второго парсера)