Иногда требуется закрыть от индексации список пользователей, или какой-то раздел новостей. До сего момента модуль Поиска не смотрел в robots.txt и запретить к индексации можно было только статические страницы. Особенно это неудобно было в том, что такие страницы попадали в карту сайта. [spoiler] Теперь эти проблемы решены с помощью нового модуля*. Честно сказать, и сейчас не смотрится в robots.txt и правила вам придется дублировать в настройки модуля Поиска. Но согласитесь, сейчас можно настраивать индексацию более гибко?
Это скриншот настроек модуля Поиска. Раньше такие правила не работали, так как контент динамический. После установки модуля все будет работать И карта сайта теперь у вас будет правильная и актуальная (для последнего я рекомендую свое другое решение). Для уже созданного контента требуется переиндексация.
Не могу не похвалиться - если мы переносим новость в запрещенный выше раздел, он пропадает тут же и из поиска и из карты сайта выносим из раздела - опять проиндексирован. Круто!
Я конечно немного слукавил, сказав что теперь применяются правила robots, так как allowed до сих пор в полной мере не поддерживается. Чтобы это заработало, просьба поддержать идею.
Вот и все. Модуль конечно же бесплатен.
* - пока модуль на модерации, установить вы его можете по ссылке: вашсайт.ру/bitrix/admin/update_system_partner.php?addmodule=asd.robots
Группы на сайте создаются не только сотрудниками «1С-Битрикс», но и партнерами компании. Поэтому мнения участников групп могут не совпадать с позицией компании «1С-Битрикс».