Процесс индексации сайта не может происходить постоянно, так как робот поисковой системы заходит на тот ли иной ресурс с определенной периодичностью. В этот момент происходит сканирование сайта и занесение в базу данных поисковика всех замеченных обновлений или изменений в структуре. Что можно отнести к таким обновлениям? Во-первых, это новые статьи и публикации. Во-вторых, просто новые страницы сайта. В-третьих, это изменение структуры сайта (разделов, категории и т.п.). В-четвертых, это различные моменты, связанные с оптимизацией, к примеру, появление нового функционала, JavaScript, улучшение юзабилити, добавление нового типа контента и т.д.
Все вышеперечисленные изменения, как правило, фиксируются поисковым роботом. А затем могут определенным образом влиять на рейтинг сайта (понижать или повышать те или иные страницы в выдаче по определенным ключам).
Кроме того, существуют факторы, которые могут нарушать штатную процедуру индексации сайта. Все эти факторы делятся на 2 типа: зависящие от вебмастера и не зависящие от него.
В первом случае часто можно говорить о сбоях в самом поисковике. Современные поисковые системы располагаются на большом количестве серверов, любой из которых с той или иной долей вероятности может выйти из строя. Понятно, что функционирование всей системы в этом случае не будет нарушено, но часть данных для определенной группы сайтов может быть потеряна. К примеру, данные о последней индексации, которые повлияли на изменение рейтинга сайта. Таким образом, даже при внесении значительных положительных изменений на сайт, вы можете не увидеть результаты своих трудов в виде поднятия позиций в выдаче. Однако данное явление носит лишь временный характер.
Во втором случае регулярность индексации будет зависеть от вас и ваших действий с сайтом. Если чаще обновлять контент, то и поисковой робот будет заходить к вам чаще. Однако в этом случае он может зайти на сайт непосредственно в момент обновления, и ресурс окажется недоступным для него. Это может не очень хорошо сказаться на изменении рейтинга. Но данный фактор весьма незначителен по сравнению с тем преимуществом, которое вы получаете при такой вот быстрой индексации и регулярном обновлении контента. Поисковики любят подобные сайты и отдают им приоритет в выдаче при прочих равных условиях. Еще один пример того, когда процесс индексации зависит от действий вебмастера – это «упавший» по вашей вине (или по вине хостинга) сайт. Ресурс может быть недоступным по разным причинам – технические работы хостинга, проблемы с плагинами или кодом CMS, неоплаченный домен или услуги хостинга. Поэтому нужно выбирать надежный хостинг для своего сайта, проверенный годами.
Просто помните, что каждый раз, когда робот не может получить доступ к вашему сайту, он будет отражать это на рейтинге в выдаче. И данные изменения рейтинга вряд ли вам понравятся. Поэтому старайтесь добиться того, чтобы время онлайн-работы вашего сайта было как можно больше. В этом случае индексация будет проходить гораздо лучше.