Log In Sign Up

remstroiblog.ru
robots.txt

Robots Exclusion Standard data for remstroiblog.ru

Resource Scan

Scan Details

Site Domain remstroiblog.ru
Base Domain remstroiblog.ru
Scan Status Ok
Last Scan2024-10-06T17:56:12+00:00
Next Scan 2024-10-13T17:56:12+00:00

Last Scan

Scanned2024-10-06T17:56:12+00:00
URL https://remstroiblog.ru/robots.txt
Domain IPs 77.87.195.163
Response IP 77.87.195.163
Found Yes
Hash dce1872d5e310fecebc5b809d8f24d9467f104d4dbdbc355e28e6e1242c6b235
SimHash e23098698f24

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всеÑ
Rule Path Comment
Disallow /cgi-bin Стандартная папка на Ñ
Disallow /wp-admin/ Закрываем админку.
Allow /wp-admin/admin-ajax.php Откроем аякс.
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ АрÑ
Disallow */embed$ Все встраивания.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat
Disallow /*/?s=* -
Disallow */?s=* -
Disallow *%26s%3D -
Disallow */?BPCTRY* -
Disallow */?post_type* -
Disallow */?ref=* -
Disallow */?* -
Disallow */embed -
Back to top

Other Records

Field Value
sitemap https://remstroiblog.ru/sitemap.xml
sitemap https://remstroiblog.ru/addl-sitemap.xml
sitemap https://remstroiblog.ru/page-sitemap.xml
sitemap https://remstroiblog.ru/category-sitemap.xml
sitemap https://remstroiblog.ru/post_tag-sitemap.xml
sitemap https://remstroiblog.ru/post-sitemap3.xml
sitemap https://remstroiblog.ru/post-sitemap.xml
sitemap https://remstroiblog.ru/post-sitemap2.xml
sitemap https://remstroiblog.ru/sitemap.xml.gz
Back to top

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.
  • Одина или несколько ссылок на карту сайта (файл Sitemap). Это независимая
  • директива и дублировать её для каждого User-agent не нужно. Так например
  • Google XML Sitemap создает 2 карты сайта:
Back to top

Warnings

  • 2 invalid lines.
  • `host` is not a known field.
Back to top