Краулинг в SEO — это процесс считывания или сканирования страниц сайта роботами поисковых систем, для подальшей индексации и формирования поисковой выдачи.
Вебмастера используют также понятия, как краулинговый бюджет и краулинговый спрос.
Краулинговый спрос — это количество страниц сайта, внесенные в список планов поисковых роботов по сканированию с целью дальнейшей индексации.
Краулинговый бюджет — это максимальное количество страниц ресурса, которые могут просканировать поисковые роботы за определенный период времени.
Недостаток его в том, что как и любой другой бюджет, он имеет ограничения. Поэтому его нужно обязательно учитывать при продвижении веб-ресурсов (от 1000 страниц), так как не проиндексировав важные оптимизированные страницы, вы не получите ожидаемого результата. В таком случае продвижение будет неэффективным и нецелесообразным
Есть 2 важных момента по бюджету для страниц:
1. Гугл автоматически сам распределяет краулинговый бюджет. К примеру: вашему сайту он выделил бюджет на 100 страниц в сутки. Может показаться что этого даже много, но если ваш сайт является интернет-магазином, то 100 страниц могут запросто появиться за 1 день, а остальные страницы тоже нужно продвигать. Все за раз робот может не обойти.
2. Зачастую в индекс попадают страницы по низкочастотным запросам, а по высокочастотным пролетают.
Без оптимизации краулингового бюджета могут быть проблемы с индексацией страниц сайта.
Информацию на текущий краулинговый бюджет можно посмотреть в Google Search Console.
Шаг 1. Зайдите в Search Console и выберите в списке ресурс (ваш сайт).
Шаг 2. Найдите в левом меню внизу раздел «Настройки».
Шаг 3. В открывшимся окне вы увидите настройки ресурса и блок Сканирование (Статистика сканирования). Нажмите кнопку «Открыть отчет».
В новом окне вы сможете увидеть:
Статус хоста - есть ли проблемы и какие именно, можно посмотреть нажав на него.
Также в статистике сканирования можно посмотреть распределение запросов на сканирование:
Данные по каждому счетчику можно посмотреть, нажав на него. Также можно выгрузить нужный отчет кнопкой «Экспортировать».
Как оптимизировать или увеличить краулинговый бюджет, читайте в следующей инструкции.