Доброго времени! С битриксом начал работать совсем не давно, плохо знаком со структурой данной cms. Да и с правилами robots тоже не очень) Читал множество статей и форумных тем, немного разобрался, но хотел бы узнать свои ошибки. Есть сайт, нужно сделать оптимальный robots.txt для него. Дефолтный роботс создается следующий:
Код |
---|
User-Agent: *host: https://www.iesoft.ru
Disallow: */index.php
Disallow: /bitrix/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*PAGEN
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /*?bxajaxid=
Disallow: /*&bxajaxid=
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
|
В итоге немного попытался подправить, получилось следующее:
Код |
---|
User-Agent: *
host: https://www.iesoft.ru
Disallow: /*index.php$
Disallow: /bitrix/
Disallow: /auth/
Disallow: /personal/
Disallow: /upload/
Disallow: /search/
Disallow: /*/search/
Disallow: /*PAGEN_*
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /*?bxajaxid=
Disallow: /*&bxajaxid=
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Allow: /bitrix/css/
Allow: /bitrix/images
Sitemap: https://www.iesoft.ru/sitemap_000.xml |
Где какие ошибки в моем варианте? И дополнительно хотелось бы задать еще несколько вопросов:
Есть смысл использовать второй вариант? Или хватит первого? Или нужны оба параметра?
Код |
---|
Disallow: /auth/
Disallow: /*auth= |
Такой же вопрос:
Код |
---|
Disallow: /*index.php$
Disallow: */index.php |
Почти уверен, что первый вариант подойдет больше, (часто видел, что пишут типа "Disallow: /*PAGEN_1= Disallow: /*PAGEN_2= Disallow: /*PAGEN_3=" и т.д. но все же спрошу у знатоков, второй вроде совсем бесполезный, на сколько я понял:
Код |
---|
Disallow: /*PAGEN_*
Disallow: /*PAGEN |
Может нужно что-то еще добавить, исключить какие-либо страницы или наоборот добавить allow на что-то?
Заранее спасибо за адекватные ответы)
Забыл еще вопрос: много где вместо
Код |
---|
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth= |
дописывают в конце yes,
Код |
---|
Disallow: /*register=yes
Disallow: /*forgot_password=yes
Disallow: /*change_password=yes
Disallow: /*login=yes
Disallow: /*logout=yes
Disallow: /*auth=yes |
нужно исправлять или будет работать то, что есть?