Здравствуйте, столкнулся с такой проблемой- решили продвигать старый интернет магазин который давно забросили, просканировали сайт в сервисе seoto.me
обнаружили кучу дублей контента и тегов. На сайте небыл настроен файл robots.txt , воспользовался "стартовым набором" + свои добавления чтоб скрыть дубли, получилось вот так:
User-Agent: *
Disallow: */index.php
Disallow: /bitrix/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*PAGEN
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /personal/
Disallow: /search/
Disallow: /*COUNT=
Disallow: /*SECTION_CODE=
Disallow: /auth/
Disallow: /*?PAGEN
Disallow: /*PAGEN_1=
Disallow: /*PAGEN_2=
Disallow: /*PAGEN_3=
Disallow: /*PAGEN_4=
Disallow: /*PAGEN_5=
Disallow: /*PAGEN_6=
Disallow: /*PAGEN_7=
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Host:
Sitrmap:
Очень хотелось бы узнать, есть какие нибудь замечания от знающих людей?... может что то надо убрать или наоборот добавить.
от себя к стартовому набору добавили это:
Disallow: /personal/
Disallow: /search/
Disallow: /*COUNT=
Disallow: /*SECTION_CODE=
Disallow: /auth/
Disallow: /*?PAGEN
Disallow: /*PAGEN_1=
Disallow: /*PAGEN_2=
Disallow: /*PAGEN_3=
Disallow: /*PAGEN_4=
Disallow: /*PAGEN_5=
Disallow: /*PAGEN_6=
Disallow: /*PAGEN_7=
еще старом файле были таки команды:
Disallow: /*by=
Disallow: /*order=
Disallow: /css/
Disallow: /include/ стоит ли их оставить?
ПОДСКАЖИТЕ ПОЖАЛУЙСТА КОМУ НЕ ТРУДНО,
обнаружили кучу дублей контента и тегов. На сайте небыл настроен файл robots.txt , воспользовался "стартовым набором" + свои добавления чтоб скрыть дубли, получилось вот так:
User-Agent: *
Disallow: */index.php
Disallow: /bitrix/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*PAGEN
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /personal/
Disallow: /search/
Disallow: /*COUNT=
Disallow: /*SECTION_CODE=
Disallow: /auth/
Disallow: /*?PAGEN
Disallow: /*PAGEN_1=
Disallow: /*PAGEN_2=
Disallow: /*PAGEN_3=
Disallow: /*PAGEN_4=
Disallow: /*PAGEN_5=
Disallow: /*PAGEN_6=
Disallow: /*PAGEN_7=
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Host:
Sitrmap:
Очень хотелось бы узнать, есть какие нибудь замечания от знающих людей?... может что то надо убрать или наоборот добавить.
от себя к стартовому набору добавили это:
Disallow: /personal/
Disallow: /search/
Disallow: /*COUNT=
Disallow: /*SECTION_CODE=
Disallow: /auth/
Disallow: /*?PAGEN
Disallow: /*PAGEN_1=
Disallow: /*PAGEN_2=
Disallow: /*PAGEN_3=
Disallow: /*PAGEN_4=
Disallow: /*PAGEN_5=
Disallow: /*PAGEN_6=
Disallow: /*PAGEN_7=
еще старом файле были таки команды:
Disallow: /*by=
Disallow: /*order=
Disallow: /css/
Disallow: /include/ стоит ли их оставить?
ПОДСКАЖИТЕ ПОЖАЛУЙСТА КОМУ НЕ ТРУДНО,