gbustkr.ru
robots.txt

Robots Exclusion Standard data for gbustkr.ru

Resource Scan

Scan Details

Site Domain gbustkr.ru
Base Domain gbustkr.ru
Scan Status Failed
Failure StageFetching resource.
Failure ReasonServer returned a client error.
Last Scan2024-08-22T20:03:04+00:00
Next Scan 2024-11-20T20:03:04+00:00

Last Successful Scan

Scanned2024-04-25T20:01:20+00:00
URL https://gbustkr.ru/robots.txt
Domain IPs 2a00:f940:2:2:1:1:0:166, 31.31.196.204
Response IP 31.31.196.204
Found Yes
Hash 69eb0f3d45912cda0dcdde1b868b957bd952a08687388a4639bd125c1116c06f
SimHash 603880d18d35

Groups

*

Rule Path Comment
Disallow /info/cgi-bin классика...
Disallow /info/? все параметры запроса на главной
Disallow /info/wp- все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow *?s= поиск
Disallow *%26s%3D поиск
Disallow /info/search поиск
Disallow /info/author/ арÑ
Disallow */embed все встраивания
Disallow */page/ все виды пагинации
Allow */uploads открываем uploads
Allow /info/*/*.js внутри /wp- (/*/ - для приоритета)
Allow /info/*/*.css внутри /wp- (/*/ - для приоритета)
Allow /info/wp-*.png картинки в плагинаÑ
Allow /info/wp-*.jpg картинки в плагинаÑ
Allow /info/wp-*.jpeg картинки в плагинаÑ
Allow /info/wp-*.gif картинки в плагинаÑ
Allow /info/wp-*.svg картинки в плагинаÑ
Allow /info/wp-*.pdf файлы в плагинаÑ
Allow /info/wp-admin/admin-ajax.php -

*

No rules defined. All paths allowed.

Other Records

Field Value Comment
crawl-delay 40 задает таймаут в 40 секунд для всеÑ

Other Records

Field Value
sitemap https://gbustkr.ru/info/sitemap.xml

Comments

  • Disallow: /wp/ # когда WP установлен в подкаталог wp

Warnings

  • 9 invalid lines.