Надстройка Parser для MS Excel: общие сведения
Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.
Основные возможности:
- парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
- извлечение данных из файлов формата Word / Excel / txt / PDF
- скачивание файлов (изображений, документов, и т.п.)
- обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)
Особенности программы
Простота использования и настройки
- Запуск парсера нажатием одной кнопки на ленте Excel
- Для настройки парсеров не нужно знание программирования!
Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач. - Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
- Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами) - Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.
Гибкая постобработка данных
- Множество текстовых функций для обработки полученной информации
- Разнообразные фильтры и функции перекодировки
- Работа с переменными и массивами данных
- Разбиение значений на отдельные элементы с индивидуальной обработкой
- Автоматический вывод характеристик товаров в отдельные столбцы
- Интеллектуальный поиск цен на страницах
- Поддержка форматов JSON и XML
Продвинутые сетевые возможности
- Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
- Авторизация — поддержка входа в аккаунты на различных сайтах
- Региональные настройки — выбор географического региона для парсинга
- HTTP-запросы — поддержка GET и POST методов, конструктор запросов
- Cookies и Headers — полная работа с HTTP-заголовками и куки
- Многопоточность — до 200 одновременных потоков для ускорения работы
- Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
- Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
- Кеширование — сохранение данных для повторного использования
Неограниченные возможности поиска и навигации по сайту
- Рекурсивный поиск страниц на сайтах
- Поиск данных по HTML-тегам и их атрибутам
- Автоматическое обнаружение ссылок пагинации (пейджера)
- Специализированные функции для работы с HTML-таблицами
- Преобразование HTML в текст и пары "название-значение"
- Очистка HTML от лишних данных
Интеграция с Excel
- Чтение данных из файлов Excel для использования в парсинге
- Создание отдельных листов и файлов
- Динамическое формирование столбцов для вывода результатов
- Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
- Удобная панель инструментов для запуска парсинга
Работа с файлами
- Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
- Обработка файлов из заданных пользователем папок
- Сохранение изображений и документов под заданными именами в настраиваемые папки
С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.
Более подробно всё это описано в разделе Справка по программе
Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.
Комментарии
Как запланировать автоматический запуск парсера по времени?
Помогла галочка ПРИ ЗАПУСКЕ, СОЗДАВАТЬ НОВЫЙ ФАЙЛ ЭКСЕЛЬ.
Спасибо за невероятно быстрый отклик.
#РЕШЕНИЕ ЕСЛИ НЕ СОЗДАЕТСЯ ТАБЛИЦА В ПРОЦЕССЕ ПАРСИНГА
Причина проста: что-то не так настроили
Посмотрите видеоинструкцию, и проверьте все настройки.
Например, вы могли не включить галочку ВЫВОД НА ЛИСТ. Или не включить галочку ПРИ ЗАПУСКЕ, СОЗДАВАТЬ НОВЫЙ ФАЙЛ ЭКСЕЛЬ.
Или не настроить вывод в столбцы. Или еще что-нибудь не так сделать.
PS: могу настроить под заказ.
По какой причине вообще не показываться таблица Excel с результатами?
Считывание каждого товара происходит и показывается в прогрессе, при нажатии ранее кнопки Протестировать - результаты выводились.
Иван, если готовы приобрести программу, - пишите мне в скайп, подскажу как сделать
Не получается указать маску html-кода ссылки "Показать еще" для действия "Прокрутить страницу вниз в Internet Explorer" для сайта https://www.goodyearshop.ru/catalog/tires/goodyear.
Перепробовал все варианты - со звездочками, без них, указывал только текстовые символы, полностью строку кода, но количество товаров на странице не увеличивается. Подскажите, как правильно задать маску для этого сайта. Спасибо
Тимур, напишите мне в скайп, — я подскажу, что как работает
Ник в скайпе: ExcelVBA.ru
Пять месяцев назад было обновление: "3.10 + реализована поддержка плагинов (файлов .xla с дополнительными действиями для обработки данных)". Хорошо, что программа развивается и обрастает новым функционалом. Плохо, что по многим функциям нет описания. По данному обновлению
вообще тишина, хотя уже несколько раз просили привести пример работы.
Да, работают регулярные выражения. В том числе и написанные вами.
Скорее всего, вы как-то неправильно их применяли.
Здравствуйте. В программе работают регулярные выражения? Перепробовал несколько вариантов для валидации номера телефона например /^(\s*)?(\+)?([- _():=+]?\d[- _():=+]?){10,14}(\s*)?$/ потом ^((8|\+7)[\- ]?)?(\(?\d{3}\)?[\- ]?)?[\d\- ]{7,10}$ в результате обработки пусто, регулярки правильные, номера в кодах страниц соответствуют выражениям
Да, можем проконсультировать (при условии приобретения программы)
Напишите мне в скайп. Ник в скайпе: ExcelVBA.ru
Уважаемая администрация, добрый день!
Не могу разобраться как взаимодействовать с выпадающим списком на web странице. Скажите, пожалуйста, вы оказываете персональные консультации (готов оплатить, если не сильно много :))?
по ссылкам, - напишите в скайп, попробую помочь
Сохранил ссылки в одном из столбцов. Когда начинаю загружать данные по ссылкам,
то все они выводятся в один столбец, друг под другом. А нужен вывод с каждой ссылки
в отдельной столбец . Не могу понять как это сделать.
А можно не настроить, а получить информацию как обходить подобную защиту.
Данные я уже вывел с сайта в полу ручном режиме. Заняло много времени.
Какая цена такой информации? (Можно просто готовый парсер) и на какой элемент обратить внимание.
А разницы нет, какое расширение у файла будет, — описанный вами способ сработает.
Да, для локальный файлов, надо применять действие «загрузить содержимое текстового файла»
(хотя, в следующих версиях, сделаю наверное, чтобы и через «Загрузить исходный код страницы» работало. сегодня вот сделал это для действия «открыть страницу в браузере IE» - он теперь и с локальными файлами так же работает, как и с сайтом)
Сохраняйте не в html, а в txt, далее действие "обработка файлов из папки" > "загрузить содержимое текстового файла".
Николай, эту защиту можно обойти
Могу настроить под заказ (платно)
Мешает то что у них там защита антибот. Не знаю как обойти. Вот изобретаю велосипед. Можете подскажите как вы обходите подобную защиту? можете пример скинуть на почту или объяснить.
Либо имя файла неверное, либо ссылки на загрузку неправильные, либо способ скачивания нужен другой.
Напишите в скайп, попробую помочь
Здравствуйте. Что то сломалось в программе, перестала сохранять фото на диск, выдает ошибку загрузки файлов. В чем может быть причина?
Николай, а что мешает с сайта данные брать?
Зачем сохранять страницы в файлы??
У меня есть готовые парсеры для этого сайта.
Добрый день
Сохранил страницу сайта http://www.vamsvet.ru/catalog/man/arte-lamp/section#p2 на ПК на рабочем столе file:///C:/Users/NICK/Desktop/page2.html.
Подскажите как начать работать с локальным файлом?
Загрузить ИСХОДНЫЙ КОД веб-страницы - file:///C:/Users/NICK/Desktop/page2.html -
ОШИБКА: Неверная ссылка для загрузки веб-страницы
Добрый день, есть необходимость спарсить товары по ссылкам с эекселя. Есть ли какая то возможность настроить парсер на такого рода деятельность? По сути у меня есть перечень ссылок в экселе, структура на всех страницах одинаковая.
Руслан, напишите мне в Скайп, попробую помочь
В том и проблема, что галочки везде убраны (и в настройках при массовом выделении и в самом сайте), кеш прочищен, все чисто. Если выделяю например 10 ссылок, то тянет старую цену, а вот если выделяю по одной ячейке (!) то тянет настоящую.
Руслан, в настройках парсера, на вкладке ДОПОЛНИТЕЛЬНО, снимите галочку ИСПОЛЬЗОВАТЬ КЕШИРОВАНИЕ
Столкнулся с проблемой. При парсинге массива по выделению парсер тянет с некоторых сайтов старые цены, которых уже нет. Как только повторно парсишь именно одну эту ячейку, то уже тянет настоящую цену.
Что не так ?
Максим, для этого можно использовать Интернет Эксплорер, там можно и скрипты выполнять, и щелкать на кнопку "следующая страница" и считать текущий код страницы (действие "Подключиться к ИЕ").
Некоторые сайты настолько сложны в настройке или авторизации при использовании запросов, что проще их настраивать именно через ИЕ.
По прокси серверам, - пока такой возможности нет (можно только один указать, и без пароля).
В новых версиях это всё планируется реализовать