Надстройка Parser для MS Excel: общие сведения
Предназначение программы: быстрый сбор любых данных с различных сайтов или файлов, с выводом результата в Excel.
Основные возможности:
- парсинг интернет-магазинов и любых других сайтов (соцсетей, каталогов, объявлений и т.д.)
- извлечение данных из файлов формата Word / Excel / txt / PDF
- скачивание файлов (изображений, документов, и т.п.)
- обновление цен по ссылкам (мониторинг цен конкурентов / РРЦ)
Особенности программы
Простота использования и настройки
- Запуск парсера нажатием одной кнопки на ленте Excel
- Для настройки парсеров не нужно знание программирования!
Достаточно минимально понимать HTML (что такое теги), и изучить 2 основные команды парсера (загрузка страницы, и поиск тегов). Этого достаточно для 90% задач. - Если сами не разберётесь с настройкой — всегда можно заказать нам настройку парсера под вашу задачу.
- Всё что нужно для работы парсера, это Windows 10 (или новее) и Microsoft Excel (версии 2010 или новее)
Иногда ещё нужен браузер Google Chrome (для работы с проблемными сайтами) - Можно настроить программу под несколько разных сайтов (задач), и легко переключаться между настройками через выпадающий список на панели инструментов программы.
Гибкая постобработка данных
- Множество текстовых функций для обработки полученной информации
- Разнообразные фильтры и функции перекодировки
- Работа с переменными и массивами данных
- Разбиение значений на отдельные элементы с индивидуальной обработкой
- Автоматический вывод характеристик товаров в отдельные столбцы
- Интеллектуальный поиск цен на страницах
- Поддержка форматов JSON и XML
Продвинутые сетевые возможности
- Несколько способов загрузки страниц — WinHTTP / WinAPI / WinINET / IE / Google Chrome
- Авторизация — поддержка входа в аккаунты на различных сайтах
- Региональные настройки — выбор географического региона для парсинга
- HTTP-запросы — поддержка GET и POST методов, конструктор запросов
- Cookies и Headers — полная работа с HTTP-заголовками и куки
- Многопоточность — до 200 одновременных потоков для ускорения работы
- Обход защиты — распознавание капчи через сервис RuCaptcha.com, паузы между запросами
- Браузерная интеграция — работа с защищёнными от роботов сайтами через Google Chrome
- Кеширование — сохранение данных для повторного использования
Неограниченные возможности поиска и навигации по сайту
- Рекурсивный поиск страниц на сайтах
- Поиск данных по HTML-тегам и их атрибутам
- Автоматическое обнаружение ссылок пагинации (пейджера)
- Специализированные функции для работы с HTML-таблицами
- Преобразование HTML в текст и пары "название-значение"
- Очистка HTML от лишних данных
Интеграция с Excel
- Чтение данных из файлов Excel для использования в парсинге
- Создание отдельных листов и файлов
- Динамическое формирование столбцов для вывода результатов
- Использование всех встроенных возможностей Excel (условное форматирование, формат ячеек)
- Удобная панель инструментов для запуска парсинга
Работа с файлами
- Сбор данных из файлов различных форматов (Word, XML, TXT, Excel, PDF)
- Обработка файлов из заданных пользователем папок
- Сохранение изображений и документов под заданными именами в настраиваемые папки
С момента выхода программы в 2014 году, её функционал постоянно развивался (вышли сотни обновлений), поэтому сейчас в парсере есть всё, что только может вам понадобиться для сбора данных из интернета.
Более подробно всё это описано в разделе Справка по программе
Дополнительные видео и подробное описание функционала можно найти в разделе Справка по программе
В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.
Примеры настроенных парсеров (можно скачать, запустить, посмотреть настройки)
Видеоинструкция (2 минуты), как запустить готовый (уже настроенный) парсер
Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт - от 2500 рублей.
Настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (4000 руб)
Инструкция (с видео) по заказу настройки парсера
По всем вопросам, связанным с заказом, готов проконсультировать вас в Телеграм.
Комментарии
А как можно получить ссылки на товары например с сайтов, где они формируются с помощью скрипта? и в коде страницы этих ссылок просто нет?
Михаил, да, сможем.
заказы на парсер принимаются в таком виде
http://excelvba.ru/programmes/Parser/order
Добрый день.
На сайте официального портала судов общей юрисдикции города Москвы
в разделе поиск, хочу выбрать всю информацию по категориям дел
сможете помочь
https://www.mos-gorsud.ru/search
→ "производство" → "категория дел"
Юрий, да, можно
Часто настраиваем под такие сайты:
https://excelvba.ru/programmes/Parser/samples/category/Sport
Ребята здравствуйте, спасибо за Ваши труды и умения, парсер очень мощный, скажите пожалуйста спарсерить такие данные сием чудом можно?
https://ibb.co/HtMDqr8
Да, возможно.
Здравствуйте!
Есть список товаров, есть сайт на котором все товары есть, нужно обойти этот сайт по готовым ссылкам товаров и взять только цены, это возможно?
Иван, по пункту 1, это основной функционал яндекса и гугла, - ИСКАТЬ что-либо по заданному тексту
Просто берем первый результат поиска по запросу «название организации» официальный сайт
По пункту 2, так не получится. Все сайты разные. Настолько разные, что таким способом и с 10% сайтов не собрать описание организации.
По пункту 3, - можно, только при наличии четкого задания, где что как искать.
Посидев над составлением этого задания месяц-другой (пытаясь написать подробный алгоритм, подходящий для произвольной организации), вы поймёте, о чём я говорю.
На ближайшие лет 10 об этом пункте 3 можете забыть, - потом, глядишь, и искусственный интеллект изобретут, тогда можно будет подумать о воплощении ваших задумок.
Игорь, спасибо за ответ.
"пункт 1 - тут поможет поиск в яндексе или гугле, качество результата будет около 90%" — Вы имеете в виду, что есть функционал яндекса или гугла, который может автоматически найти сайты для массива наименований компаний? Или каким-то образом использовать яндекс или гугл в рамках вашей программы Parser?
"пункт 2 - если только придумаете, с какого ОДНОГО сайта эти данные брать" — допустим, если пункт 1 выполнился и программа нашла сайт и вбила его в ячейку excel, то взять описание компании с него получится (прехедер в поисковике, например), я правильно понимаю?
"пункт 3 - не реализуем (ни моей программой, ни любой другой). Эти данные нигде не хранятся в упорядоченном виде." — по ключевым словам "форум, выставка и т.д." хотя бы выдать массив информации, так нельзя?
Здравствуйте, Иван
пункт 1 - тут поможет поиск в яндексе или гугле, качество результата будет около 90%
пункт 2 - если только придумаете, с какого ОДНОГО сайта эти данные брать
пункт 3 - не реализуем (ни моей программой, ни любой другой). Эти данные нигде не хранятся в упорядоченном виде.
Здравствуйте.
В файле excel столбец с 3000+ наименований компаний.
Задача:
1. Найти для каждой компании официальный сайт,
2. Найти краткое описание деятельности компании,
3. Найти названия выставок, в которых эти компании когда-либо участвовали или будут участвовать.
Поместить эти данные в три столбца напротив каждой компании, соответственно.
Можно ли сделать это с помощью вашей программы? Спасибо.
Программа куплена, мысль понятно, спасибо по Вашей рекомендации разобрался.
Михаил, это прямые ссылки на скачивание файлов
Всё должно работать
Сергей, не понял, какое отношение эта задача имеет к парсеру
Парсер умеет такое, - разбиваем исходную строку (из столбца А) на массив, почти аналогично делаем со строкой из столбца В, потом применяем действие Проверка на выполнение условия (условие - не содержится в массиве)
Напишите мне в скайп, попробую помочь (если уже покупали программу-парсер)
Поправлю: Как в ячейке C2 получить числа 2 3 5 6 (удалить вхождение одного массива в другой)
Как решить следующую задачу:
ячейка A2 содержит числа: 1 2 3 4 5 6
ячейка B2 содержит числа: 1 4
Как в ячейке C2 получить числа 2 5 6 (удалить вхождение одного массива в другой)
Строк несколько тысяч, значения разнообразные, но всегда уникальны. Пока на ум приходить удалить через таблицу замен, но это будет долго.
https://excelvba.ru/programmes/Parser#comment-10142
А то что это не прямая ссылка на файл картинки, а что-то другое. По данным ссылкам парсер скачать файлы не может.
Ярослав, список запланированных парсеров пока нет возможности посмотреть.
Я с такой необходимостью ни разу не сталкивался, потому и не стал делать.
Михаил, ваш вопрос не понятен.
Указанные вами ссылки ведут напрямую на картинки
В чем сложность, и что конкретно у вас не получается, мне не ясно.
Добрый день. Подскажите пожалуйста как парсеру скачать ссылку на картинку, если в теле вот такие ссылки
http://www.ru.roca.com/RocaResourceServlet/resources/getTransformation?i...
http://www.ru.roca.com/servlet/getTechnicalDrawingTransformation?product...
есть ли примеру решения подобных задач
Есть ли возможность посмотреть список всех запланированных парсеров ?
Было бы очень удобно.
Возможно офтоп. Есть ли возможность из файла xls по шаблону перегнать данные в xml ? спасибо
Благодарю!
Эдуард, это возможно.
Читайте справку по действию "Случайное число"
Здравствуйте, Игорь!
Хочу спросить, нельзя ли в парсере реализовать возможность установки задержки между очередным запросом по генератору случайных чисел. В Экселе есть подобные встроенные функции. Генерация значения в диапазоне от и до. Столкнулся с тем, что на буржуйских ресурсах ПО определяет , что запросы посылает не человек, что сделать не сложно, учитывая, что период постоянен. А так можно будет прикинуться юзером.
Игорь, вы уже отвечали Олегу на этот вопрос, но я не смог разобраться, как вывести каждый элемент массива в отдельную строку в один столбец, не могли бы объяснить более подробно. Спасибо.
Спасибо разобрался.
Добрый день. Парсер вводит все найдены товары в одну строку.
Как быть?
Игорь, подскажите, пожалуйста как работает щелчок по кнопке в парсере. Никак не получается разобраться.
Точнее нахождение элемента.
Делаю Открыть страницу в IE. Он вроде бы открывает, выводит мне исходный код.
Но с кнопкой дальше что-то никак.
Я в коде страницы кнопку нашёл. Там внутри button есть параметр class и id есть.
Я так и так по-разному пытался что-нибудь подставить в действие Найти элемент в IE.
Никак не получается.
Очень нужно разобраться с этой темой :(
Нашел практически нужную функцию "Вывод строки на заданный лист" НО там нельзя указать номер столбца куда выводить(((
Вот где нужен цикл.
1. получаю массив блоков в каждом блоке подряд несколько цен с одинаковым названием продукта и одинаковыми тегами (число варьируется!!!)
2. беру блок, определяю сколько названий продукта в блоке
3. запоминаю в переменную "количество"
4. получаю массив цен из блока, беру последнюю цену (далее идет вывода на лист)
5. уменьшаю переменную количества на 1 и беру предпоследнюю цену
и т.д.
и без цикла тут не обойтись, если есть вариант обойти "Вернуться к действию" буду благодарен за совет.
Здравствуйте, Роман.
Циклы не нужны
В вашем примере, достаточно 2 действия:
1) Разбить текстовую строку на массив (получим массив из 3 названий парсеров)
2) Запустить другой парсер (в это действие будут поданы элементы массива по очереди, и 3 этих парсера запустятся один за другим)
Чем не цикл? Зачем что-то изобретать?
Касательно счётчика, ссылку посмотреть не смог (она ведет на заблокированный ресурс)
Вы просто перемудрили с настройками, - этот же счётчик увеличивается где-то другими действиями