Поисковый робот и поисковый паук (веб-паук, краулер) — это одно и то же. www.unisender.com {7-host}
Так называют специальные программы, которые в автоматическом режиме сканируют веб-страницы и передают собранные данные поисковой системе или компании-владельцу. www.unisender.com
Некоторые особенности работы таких программ:
- Переход по доступным ссылкам. www.unisender.com Пауки собирают и анализируют содержимое страниц в интернете и отправляют полученные данные на сервер поисковой машины, чтобы пополнить и обновить выдачу. www.unisender.com
- Сканирование документов разных форматов. www.unisender.com Помимо HTML-страниц, краулеры сканируют документы и других форматов, например Adobe PDF, Microsoft Excel, Microsoft PowerPoint и Microsoft Word. www.unisender.com
- Отслеживание изменений. www.unisender.com Роботы не ограничиваются разовым посещением интернет-ресурса, они также отслеживают изменения и сообщают поисковой машине об удалении или перемещении уже проиндексированных страниц. www.unisender.com