mi-check.ru
robots.txt

Robots Exclusion Standard data for mi-check.ru

Resource Scan

Scan Details

Site Domain mi-check.ru
Base Domain mi-check.ru
Scan Status Ok
Last Scan2024-11-13T11:29:43+00:00
Next Scan 2024-11-20T11:29:43+00:00

Last Scan

Scanned2024-11-13T11:29:43+00:00
URL https://mi-check.ru/robots.txt
Domain IPs 45.130.41.85
Response IP 45.130.41.85
Found Yes
Hash e88f6c98055b0c6fcd7f7ea78400d302ffde437b19200f7493976bffe565f558
SimHash 306853518135

Groups

googlebot

Product Comment
googlebot правила для Google (комментарии не дублирую)
Rule Path Comment
Disallow /cgi-bin -
Disallow /wp- -
Disallow /wp/ -
Disallow *?s= -
Disallow *%26s%3D -
Disallow /search/ -
Disallow /author/ -
Disallow /users/ -
Disallow */trackback -
Disallow */feed -
Disallow */rss -
Disallow /xmlrpc.php -
Disallow *utm%3D -
Disallow *openstat%3D -
Disallow *?criteria= -
Allow */uploads -
Allow /*/*.js открываем js-скрипты внутри /wp- (/*/ - для приоритета)
Allow /*/*.css открываем css-файлы внутри /wp- (/*/ - для приоритета)
Allow /wp-*.png картинки в плагинаÑ
Allow /wp-*.jpg картинки в плагинаÑ
Allow /wp-*.jpeg картинки в плагинаÑ
Allow /wp-*.gif картинки в плагинаÑ
Allow /wp-admin/admin-ajax.php используется плагинами, чтобы не блокировать JS и CSS

yandex

Product Comment
yandex правила для Яндекса (комментарии не дублирую)
Rule Path
Disallow /cgi-bin
Disallow /wp-
Disallow /wp/
Disallow *?s=
Disallow *?sa=
Disallow *%26s%3D
Disallow /search/
Disallow /author/
Disallow /users/
Disallow */trackback
Disallow */feed
Disallow */rss
Disallow /xmlrpc.php
Disallow *?criteria=
Allow /feed/zen
Allow */uploads
Allow /*/*.js
Allow /*/*.css
Allow /wp-*.png
Allow /wp-*.jpg
Allow /wp-*.jpeg
Allow /wp-*.gif
Allow /wp-admin/admin-ajax.php

*

No rules defined. All paths allowed.

Other Records

Field Value
crawl-delay 250

Other Records

Field Value
sitemap https://mi-check.ru/sitemap.xml

Comments

  • от индексирования, а удалять параметры меток,
  • Google такие правила не поддерживает
  • Укажите один или несколько файлов Sitemap (дублировать для каждого User-agent
  • не нужно). Google XML Sitemap создает 2 карты сайта, как в примере ниже.
  • Укажите главное зеркало сайта, как в примере ниже (с WWW / без WWW, если HTTPS
  • то пишем протокол, если нужно указать порт, указываем). Команду Host понимает
  • Яндекс и Mail.RU, Google не учитывает.

Warnings

  • 4 invalid lines.
  • `clean-param` is not a known field.
  • `host` is not a known field.