warspear-fan.ru
robots.txt

Robots Exclusion Standard data for warspear-fan.ru

Resource Scan

Scan Details

Site Domain warspear-fan.ru
Base Domain warspear-fan.ru
Scan Status Ok
Last Scan2024-05-17T15:54:48+00:00
Next Scan 2024-05-24T15:54:48+00:00

Last Scan

Scanned2024-05-17T15:54:48+00:00
URL https://warspear-fan.ru/robots.txt
Domain IPs 185.22.155.27, 2a00:b700::1c
Response IP 185.22.155.27
Found Yes
Hash cbfb8cf66e49802f34ee307d09a33e9ff986ebb9a803c8e2cdbed2b90754a840
SimHash 3608d0538d35

Groups

*

Product Comment
* общие правила для роботов, кроме Яндекса и Google,
Rule Path Comment
Disallow /cgi-bin папка на Ñ
Disallow /? все параметры запроса на главной
Disallow /wp- все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow /wp/ если есть подкаталог /wp/, где установлена CMS (если нет,
Disallow *?s= поиск
Disallow *%26s%3D поиск
Disallow /search/ поиск
Disallow /author/ арÑ
Disallow /users/ арÑ
Disallow */trackback трекбеки, уведомления в комментарияÑ
Disallow */feed все фиды
Disallow */rss rss фид
Disallow */embed все встраивания
Disallow */wlwmanifest.xml xml-файл манифеста Windows Live Writer (если не используете,
Disallow /tag -
Disallow /tag/* -
Disallow /2012 -
Disallow /2013 -
Disallow /2014 -
Disallow /2015 -
Disallow /2016 -
Disallow /2017 -
Disallow /2018 -
Disallow /2019 -
Disallow /2020 -
Disallow /xmlrpc.php файл WordPress API
Disallow *utm%3D ссылки с utm-метками
Disallow *openstat%3D ссылки с метками openstat
Allow */uploads открываем папку с файлами uploads

googlebot

Product Comment
googlebot правила для Google (комментарии не дублирую)
Rule Path Comment
Disallow /cgi-bin -
Disallow /? -
Disallow /wp- -
Disallow /wp/ -
Disallow *?s= -
Disallow *%26s%3D -
Disallow /search/ -
Disallow /author/ -
Disallow /users/ -
Disallow /tag -
Disallow /tag/* -
Disallow /2012 -
Disallow /2013 -
Disallow /2014 -
Disallow /2015 -
Disallow /2016 -
Disallow /2017 -
Disallow /2018 -
Disallow /2019 -
Disallow /2020 -
Disallow */trackback -
Disallow */feed -
Disallow */rss -
Disallow */embed -
Disallow */wlwmanifest.xml -
Disallow /xmlrpc.php -
Disallow *utm%3D -
Disallow *openstat%3D -
Allow */uploads -
Allow /*/*.js открываем js-скрипты внутри /wp- (/*/ - для приоритета)
Allow /*/*.css открываем css-файлы внутри /wp- (/*/ - для приоритета)
Allow /wp-*.png картинки в плагинаÑ
Allow /wp-*.jpg картинки в плагинаÑ
Allow /wp-*.jpeg картинки в плагинаÑ
Allow /wp-*.gif картинки в плагинаÑ
Allow /wp-admin/admin-ajax.php используется плагинами, чтобы не блокировать JS и CSS

yandex

Product Comment
yandex правила для Яндекса (комментарии не дублирую)
Rule Path
Disallow /cgi-bin
Disallow /?
Disallow /wp-
Disallow /wp/
Disallow *?s=
Disallow *%26s%3D
Disallow /search/
Disallow /author/
Disallow /users/
Disallow /tag
Disallow /tag/*
Disallow /2012
Disallow /2013
Disallow /2014
Disallow /2015
Disallow /2016
Disallow /2017
Disallow /2018
Disallow /2019
Disallow /2020
Disallow */trackback
Disallow */feed
Disallow */rss
Disallow */embed
Disallow */wlwmanifest.xml
Disallow /xmlrpc.php
Allow */uploads
Allow /*/*.js
Allow /*/*.css
Allow /wp-*.png
Allow /wp-*.jpg
Allow /wp-*.jpeg
Allow /wp-*.gif
Allow /wp-admin/admin-ajax.php

Other Records

Field Value
sitemap https://warspear-fan.ru/sitemap.xml

Comments

  • т.к. для ниÑ
  • правило можно удалить)
  • ссылки на статью
  • правило можно удалить)
  • от индексирования, а удалять параметры меток,
  • Google такие правила не поддерживает
  • Укажите главное зеркало сайта, как в примере ниже (с WWW / без WWW, если HTTPS
  • то пишем протокол, если нужно указать порт, указываем). Команду Host понимает
  • Яндекс и Mail.RU, Google не учитывает.

Warnings

  • 9 invalid lines.
  • `clean-param` is not a known field.
  • `host` is not a known field.