Надстройка Parser для MS Excel: общие сведения
Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.
Основные возможности:
- парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
- извлечение данных из файлов формата Word / Excel / txt / PDF
- скачивание файлов (изображений, документов, и т.п.)
- обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)
Особенности программы
Простота использования и настройки
- Запуск парсера нажатием одной кнопки на ленте Excel
- Для настройки парсеров не нужно знание программирования!
Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач. - Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
- Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами) - Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.
Гибкая постобработка данных
- Множество текстовых функций для обработки полученной информации
- Разнообразные фильтры и функции перекодировки
- Работа с переменными и массивами данных
- Разбиение значений на отдельные элементы с индивидуальной обработкой
- Автоматический вывод характеристик товаров в отдельные столбцы
- Интеллектуальный поиск цен на страницах
- Поддержка форматов JSON и XML
Продвинутые сетевые возможности
- Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
- Авторизация — поддержка входа в аккаунты на различных сайтах
- Региональные настройки — выбор географического региона для парсинга
- HTTP-запросы — поддержка GET и POST методов, конструктор запросов
- Cookies и Headers — полная работа с HTTP-заголовками и куки
- Многопоточность — до 200 одновременных потоков для ускорения работы
- Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
- Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
- Кеширование — сохранение данных для повторного использования
Неограниченные возможности поиска и навигации по сайту
- Рекурсивный поиск страниц на сайтах
- Поиск данных по HTML-тегам и их атрибутам
- Автоматическое обнаружение ссылок пагинации (пейджера)
- Специализированные функции для работы с HTML-таблицами
- Преобразование HTML в текст и пары "название-значение"
- Очистка HTML от лишних данных
Интеграция с Excel
- Чтение данных из файлов Excel для использования в парсинге
- Создание отдельных листов и файлов
- Динамическое формирование столбцов для вывода результатов
- Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
- Удобная панель инструментов для запуска парсинга
Работа с файлами
- Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
- Обработка файлов из заданных пользователем папок
- Сохранение изображений и документов под заданными именами в настраиваемые папки
С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.
Более подробно всё это описано в разделе Справка по программе
Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.
Комментарии
Спасибо! Действительно ссылки дублируются, одна находится в названии товара, вторая в его каталожном номере... Проблема в том, что эти ссылки находятся в одном блоке, с одинаковыми тэгами, отличаются только анкорами. Как можно реализвать удаление (не обработку) дублей? Или, чтоб как то парсер брал ссылки через 1 в пейджере?
Еще раз спасибо)
Илья, в списке товаров (в разделах сайта) ссылки на товары дублируются (одна и та же ссылка в 2 экземплярах, - на названии товара, и на фото товара).
Надо брать только одну ссылку из каждого результата поиска, а вы берёте все.
Перенастроить легко.
Здравстуйте! Подскажите пожалуйста, в чем может быть проблема, настроил парсер, всё хорошо, но все позиции почему-то выводятся с дублями, т.е. сразу по 2 товара... В какую сторону копать? Спасибо)
Александр, на разных компьютерах съемному диску могут назначаться разные буквы.
Если не получается, сохраняйте в другую папку (например, на рабочем столе, - там точно проблем с доступом не будет)
Здравствуйте!
На одном из компьютеров перестали загружаться картинки с сайта, хотя папки для них парсер создает нормально. Пишет, что "Ошибка скачивания файла (попыток: 2)Не удалось скачать файл по ссылке: https://www.PPP.com/PPP.jpg Путь к создаваемому файлу: V:\PPP\IMG\6705_4.jpg"
На другом компьютере этот же файл и диск (переносной HDD) отрабатывают загрузку как положено. Подскажите в каком направлении копать... Доступы к папкам я уже дал максимальные.
Здравсвуйте, нет кнопки создать подуровень
Дима, попробуйте указать префикс пейджера /#
Ну либо можно другими способами получить список ссылок на страницы результатов.
Один из вариантов:
https://excelvba.ru/programmes/Parser/manuals/setting/procedure/pager/en...
Другие варианты можете поискать в комментариях к справке по этому действию:
https://excelvba.ru/programmes/Parser/actions/GetPagerLinks
Привет! Подскажите пожалуйста, если при настройке парсера в момент настройки "Пейджера", на сайте с которого я буду парсить, нет определяющего "суффикса". На вашем видео есть пример /_ofset_60html, у моего же сайта "суфикса" нет, phones/apple/3, phones/apple/4, phones/apple/5. Надеюсь понятно написал. Что мне делать в таком случае, что бы продолжить настройку парсера успешно?
Игорь, от того и не напоминал, что думал у вас и так голова забита, что в первую очередь сделать, что в третью, и элементарно не хотел быть назойливым, да и ваш ответ на мой взгляд звучал весьма не двусмысленно именно исходя из того, что последующие вопросы по функционалу имели весьма четкий ответ, что о подобном никто не просил, раз не просил и сам автор не видит нужды, то очевидно: нужно-реализую. Платите. А раз относительно указанной функции было вполне ясное "но могу добавить в следующих версиях программы"... а теперь оказывается, что и не "обещал", да и не нужна и снова платите... в таком случае спасибо, поищу этот макрос на три строки. Я не против платить, но простите не на каждый "чих". Не скажу что в безумные деньги выливается лично мое пользование программой, но потихоньку политика именно платы за каждый чих уже немного отталкивает. Нет, я все понимаю, время деньги, труд деньги, и все из этой области. Я даже как то смирился, без смены ПК а лишь переустановка Винды и снова деньги... но спасибо нет, значит обойдусь. И впредь воздержусь от вопросов и просьб.
Александр, вы не напоминали с тех пор мне больше, да и я не обещал что сделаю (просто сказал, что это можно реализовать)
Потому, я благополучно забыл об этой доработке (к тому же, за 5 лет ежедневной настройки парсеров, мне этот функционал ни разу не был нужен)
Если готовы оплатить доработку - сделаю. Потому что следующие обновления программы планируются нескоро, пока и так функционала более чем достаточно.
Запустить программу из парсера и сейчас можно, просто для этого нужно макрос написать из 3 строк. Т.е. необходимости в отдельной команде для этого действия пока не вижу.
Игорь, а не появилась еще возможность запускать *.exe или *.bat из парсера? (https://excelvba.ru/programmes/Parser#comment-10628) Каждое утро заглядываю сюда и читаю "историю изменений", обновления появляются, а заветной функции в описании пока нет... вот и подумал, вдруг о ней просто не упомянули :) Когда теоретически можно её ожидать? Спасибо.
Александр, формат ячеек в таблице замен не учитывается
Вводите в ячейки таблицы замен не 0004, а '0004
Тогда Excel поймет, что это значение такое нужно сохранить в ячейке
Большое спасибо за разъяснение относительно регистра. Но возникла досадная проблема в другом месте. Загружаю данные из текстового списка (*.txt со списком url), с применением шаблона, шаблон настроен "формат ячеек" - текстовый. Появилась необходимость воспользоваться "таблицей замен". Разобрался. Но неприятный нюанс. Нужно менять "слова" на "цифры", например: "Слово"--> "0004" а итог получается "4" без нолей, хотя "формат ячейки после загрузки информации по прежнему "текстовый". А в настройках "таблицы замен" невозможно выбрать "формат ячейки". Как можно решить данную проблему?
Александр, да, есть такое:
https://excelvba.ru/programmes/Parser/actions/StrConv
Скажите пожалуйста, а есть какой то инструмент, в обширных функциях парсера, который может сделать из "СЛОВО" или "слово" --> "Слово", то есть из полученного результата преобразовать в "Первая заглавная буква, остальные строчные"?
Здравствуйте, Иван
Если сами не справитесь с настройкой, можем настроить под заказ:
https://excelvba.ru/programmes/Parser/order
Добрый день. Я купил вашу настройку парсер, но не могу ей пользоваться. Она на ищет на указанном сайте текст. Ничего не найдено. Я на сайте odissei.uk как на видео, тоже ничего не найдено. Как мне быть, что я не так делаю?
Михаил, перенос активаций с одного компьютера на другой не предусмотрен, — это на сайте написано:
https://excelvba.ru/faq/InstallWindows
Это не халатное отношение, а условия использования моего продукта, описанные на сайте в FAQ, и в лицензионном соглашении (пункт 6.3): https://excelvba.ru/buy/EULA
И не советовал я вам купить новую лицензию, а предложил докупить активации для новых компьютеров (по 600 руб, что заметно дешевле покупки новой лицензии)
Купили мы как то у Игоря парсер. Сломался компьютер и лицензию перенести на новый не получается. Попросили Игоря, на что он ответил покупайте новую лицензию. Считаю это халатным отношением к своим клиентам. Будьте внимательны. Сломается пк не ждите что на новом пк все заработает без покупки еще раз.
Сергей, на некоторых сайтах надо иначе настраивать получение списка страниц результатов:
https://excelvba.ru/programmes/Parser/manuals/setting/procedure/pager/en...
Подскажите пжлст, почему не все ссылки пейджера прогружаются. Допустим у меня их 65. А прогружается только количество, которое указано на каждой из страниц, т.е 10
Инструкция, что делать, если не запускается:
https://excelvba.ru/faq/addin_toolbar
Надстройка acrobat тут ни при чем (она у вас установлена была до этого, к моей программе отношения не имеет)
добрый день, подскажите, не запускается настройка парсера, открываю файл parser.xla, а вместо обычной настройки открывается надстройка acrobat, в чем может быть причина
Зачем седьмой по счету?
К какому-нибудь тексту в этом пункте привяжитесь, и удалите действием Проверка на выполнение условия.
саламчик! как удалить(пропустить) ненужный элемент массива? например я получил 10 разделов меню, 7ой по счету элемент мне ненужен.
Откуда надо, оттуда и будет собирать.
Всё, что можно увидеть в Интернет Эксплорер, можно взять и вывести в Эксель.
Игорь, добрый день.
Спасибо за ответ. Да, работа ведётся через internet explorer. Парсер будет собирать информацию из личного кабинета?
Здравствуйте, Александр.
С открытой части - без проблем. С закрытой, где нужна ЭЦП, только если это работает через браузер Интернет Эксплорер
Игорь, добрый день.
можно ли использовать парсер для работы с единой информационной системой в сфере закупок (ЕИС)? Интересует возможность сбора информации с открытой части (веб), закрытой (вход по электронной подписи) и опубликованных документов
Когда парсер преобразовавает результат в текст, все эти символы становятся читаемыми.
Видимо, вы берете тип результата innerHtml, а нужно ConvertToText
Пересмотрите видеоинструкцию, там всё показано.
Либо это дополнительное действие используйте:
https://excelvba.ru/programmes/Parser/actions/ConvertHTMLtoText