Должен ли я запретить поисковым системам индексировать страницы тегов/категорий?


На моем сайте в настоящее время у меня нет специальных правил для поисковых систем. Это блог, статически созданный с помощью программы на Python. Когда я ищу некоторые из своих статей в Google, в результаты обычно включается страница с тегом или категорией. Иногда это даже опережает саму статью. Очевидно, что, поскольку на этих ссылках не всегда будет статья, это не те результаты, на которые я хочу, чтобы люди нажимали.

Итак, я подумываю о том, чтобы установить noindex на эти страницы. Есть ли какой-либо возможный недостаток в этом? Возможно ли это сделать с помощью robots.txt, или мне нужно добавить его во все соответствующие шаблоны? Все, что я могу найти для robots.txt есть способы остановить поисковую систему, сканирующую эти страницы, чего я не хочу - хотя я не хочу, чтобы они индексировались, это все еще единственный верный способ найти все мои записи в блоге.

Author: Macha, 2011-02-11

2 answers

Нет. Прочитайте это (все это; там много полезного), хотя здесь это имеет особое значение:

Google больше не рекомендует блокировать доступ обходчиков к дублирующемуся контенту на вашем веб-сайте, будь то с помощью robots.txt файл или другие методы.

[...]

Дублирование контента на сайте не является основанием для действий на этом сайте, если только похоже, что цель дублированного контента состоит в том, чтобы вводить в заблуждение и манипулировать поиском результаты работы двигателя.

Поисковые системы знают, что на сайтах (особенно в блогах) есть страницы, которые в основном представляют собой просто списки выдержек. Они ищут нечто большее, чем дублирование контента.

 4
Author: Su', 2011-02-11 20:28:20

Мой первый ответ: почему вы хотите, чтобы в Google было меньше информации?

Конечно, люди все равно доберутся до статьи, даже если им придется пройти через страницу со списком. И это хорошо.

Может быть, вместо того, чтобы запрещать Google индексировать определенные страницы, почему бы не поработать над статьями, чтобы повысить их. Посмотрите на текст на страницах, а также на ключевые слова, название и описание (все основные SEO-материалы, которые, я уверен, вы знаете).

 1
Author: Piers Karsenbarg, 2011-02-11 17:27:33