Иногда требуется закрыть от индексации список пользователей, или какой-то раздел новостей. До сего момента модуль Поиска не смотрел в robots.txt и запретить к индексации можно было только статические страницы. Особенно это неудобно было в том, что такие страницы попадали в карту сайта.
[spoiler]
Теперь эти проблемы решены с помощью *. Честно сказать, и сейчас не смотрится в robots.txt и правила вам придется дублировать в настройки модуля Поиска. Но согласитесь, сейчас можно настраивать индексацию более гибко?

Это скриншот настроек модуля Поиска. Раньше такие правила не работали, так как контент динамический. После установки модуля все будет работать
И карта сайта теперь у вас будет правильная и актуальная (для последнего я рекомендую свое ). Для уже созданного контента требуется переиндексация.
Не могу не похвалиться - если мы переносим новость в запрещенный выше раздел, он пропадает тут же и из поиска и из карты сайта
выносим из раздела - опять проиндексирован. Круто!
Я конечно немного слукавил, сказав что теперь применяются правила robots, так как allowed до сих пор в полной мере не поддерживается. Чтобы это заработало, .
Вот и все. Модуль конечно же бесплатен.
* - пока модуль на модерации, установить вы его можете по ссылке: вашсайт.ру/bitrix/admin/update_system_partner.php?addmodule=asd.robots
[spoiler]
Теперь эти проблемы решены с помощью *. Честно сказать, и сейчас не смотрится в robots.txt и правила вам придется дублировать в настройки модуля Поиска. Но согласитесь, сейчас можно настраивать индексацию более гибко?

Это скриншот настроек модуля Поиска. Раньше такие правила не работали, так как контент динамический. После установки модуля все будет работать
И карта сайта теперь у вас будет правильная и актуальная (для последнего я рекомендую свое ). Для уже созданного контента требуется переиндексация.Не могу не похвалиться - если мы переносим новость в запрещенный выше раздел, он пропадает тут же и из поиска и из карты сайта
выносим из раздела - опять проиндексирован. Круто!Я конечно немного слукавил, сказав что теперь применяются правила robots, так как allowed до сих пор в полной мере не поддерживается. Чтобы это заработало, .
Вот и все. Модуль конечно же бесплатен.
* - пока модуль на модерации, установить вы его можете по ссылке: вашсайт.ру/bitrix/admin/update_system_partner.php?addmodule=asd.robots