bodybalet.ru
robots.txt

Robots Exclusion Standard data for bodybalet.ru

Resource Scan

Scan Details

Site Domain bodybalet.ru
Base Domain bodybalet.ru
Scan Status Ok
Last Scan2024-05-18T21:10:36+00:00
Next Scan 2024-05-25T21:10:36+00:00

Last Scan

Scanned2024-05-18T21:10:36+00:00
URL https://bodybalet.ru/robots.txt
Domain IPs 185.114.245.109, 2a03:6f00:6:1::b972:f56d
Response IP 185.114.245.109
Found Yes
Hash 8e0c2fe820f64aa0d19fd891e90129876426061327bc4f8faf8d36333840aac0
SimHash 003c9b02ce34

Groups

*

Product Comment
* общие правила для роботов, кроме Яндекса и Google,
Rule Path Comment
Disallow /cgi-bin папка на хостинге
Disallow /? все параметры запроса на главной
Disallow /wp- все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow *?s= поиск
Disallow *%26s%3D поиск
Disallow /search/ поиск
Disallow /tag/ теги
Disallow /rl_gallery/ категории
Disallow /author/ архив автора
Disallow /users/ архив авторов
Disallow */trackback трекбеки, уведомления в комментариях о появлении открытой
Disallow */feed все фиды
Disallow */rss rss фид
Disallow */embed все встраивания
Disallow */wlwmanifest.xml xml-файл манифеста Windows Live Writer (если не используете,
Disallow /xmlrpc.php файл WordPress API
Disallow *utm*%3D ссылки с utm-метками
Disallow *openstat%3D ссылки с метками openstat
Allow */uploads открываем папку с файлами uploads

googlebot

Product Comment
googlebot правила для Google (комментарии не дублирую)
Rule Path Comment
Disallow /cgi-bin -
Disallow /? -
Disallow /wp- -
Disallow *?s= -
Disallow *%26s%3D -
Disallow /search/ -
Disallow /tag/ теги
Disallow /rl_gallery/ категории
Disallow /author/ -
Disallow /users/ -
Disallow */trackback -
Disallow */feed -
Disallow */rss -
Disallow */embed -
Disallow */wlwmanifest.xml -
Disallow /xmlrpc.php -
Disallow *utm*%3D -
Disallow *openstat%3D -
Allow */uploads -
Allow /*/*.js открываем js-скрипты внутри /wp- (/*/ - для приоритета)
Allow /*/*.css открываем css-файлы внутри /wp- (/*/ - для приоритета)
Allow /wp-*.png картинки в плагинах, cache папке и т.д.
Allow /wp-*.jpg картинки в плагинах, cache папке и т.д.
Allow /wp-*.jpeg картинки в плагинах, cache папке и т.д.
Allow /wp-*.gif картинки в плагинах, cache папке и т.д.
Allow /wp-admin/admin-ajax.php используется плагинами, чтобы не блокировать JS и CSS

yandex

Product Comment
yandex правила для Яндекса (комментарии не дублирую)
Rule Path Comment
Disallow /cgi-bin -
Disallow /? -
Disallow /wp- -
Disallow *?s= -
Disallow *?qtranslate_lang=* -
Disallow */page/*/ -
Disallow *%26s%3D -
Disallow /search/ -
Disallow /tag/ теги
Disallow /rl_gallery/ категории
Disallow /author/ -
Disallow /users/ -
Disallow */trackback -
Disallow */feed -
Disallow */rss -
Disallow */embed -
Disallow */wlwmanifest.xml -
Disallow /xmlrpc.php -
Allow */uploads -
Allow /*/*.js -
Allow /*/*.css -
Allow /wp-*.png -
Allow /wp-*.jpg -
Allow /wp-*.jpeg -
Allow /wp-*.gif -
Allow /wp-admin/admin-ajax.php -

Other Records

Field Value
sitemap https://www.bodybalet.ru/sitemap_index.xml
sitemap https://www.bodybalet.ru/post-sitemap.xml
sitemap https://www.bodybalet.ru/page-sitemap.xml
sitemap https://www.bodybalet.ru/rl_gallery-sitemap.xml
sitemap https://www.bodybalet.ru/category-sitemap.xml
sitemap https://www.bodybalet.ru/post_tag-sitemap.xml

Comments

  • т.к. для них правила ниже
  • ссылки на статью
  • правило можно удалить)
  • от индексирования, а удалять параметры меток,
  • Google такие правила не поддерживает
  • Укажите один или несколько файлов Sitemap (дублировать для каждого User-agent
  • не нужно). Google XML Sitemap создает 2 карты сайта, как в примере ниже.
  • Укажите главное зеркало сайта, как в примере ниже (с WWW / без WWW, если HTTPS
  • то пишем протокол, если нужно указать порт, указываем). Команда стала необязательной. Ранее Host понимал
  • Яндекс и Mail.RU. Теперь все основные поисковые системы команду Host не учитывают.

Warnings

  • `clean-param` is not a known field.
  • `host` is not a known field.