shutniks.com
robots.txt

Robots Exclusion Standard data for shutniks.com

Resource Scan

Scan Details

Site Domain shutniks.com
Base Domain shutniks.com
Scan Status Failed
Failure StageFetching resource.
Failure ReasonServer returned a client error.
Last Scan2024-04-13T05:34:09+00:00
Next Scan 2024-06-12T05:34:09+00:00

Last Successful Scan

Scanned2024-02-14T05:07:40+00:00
URL https://shutniks.com/robots.txt
Domain IPs 104.21.35.115, 172.67.219.58, 2606:4700:3031::ac43:db3a, 2606:4700:3037::6815:2373
Response IP 172.67.219.58
Found Yes
Hash ebb3c227f6b2c7ac929fca38ccb8efe8d177ad777f3b9f29cef1155d9a571e05
SimHash 45311153c511

Groups

*

Rule Path
Disallow /cgi-bin
Disallow /?
Disallow /wp-
Disallow /wp/
Disallow /tag/
Disallow *?s=
Disallow *%26s%3D
Disallow /search/
Disallow /author/
Disallow /users/
Disallow */trackback
Disallow */feed
Disallow */rss
Disallow */embed
Disallow */wlwmanifest.xml
Disallow /xmlrpc.php
Disallow *utm*%3D
Disallow *openstat%3D
Allow */uploads

Other Records

Field Value
sitemap https://shutnikov.club//sitemap.xml

Comments

  • Укажите главное зеркало сайта, как в примере ниже (с WWW / без WWW, если HTTPS
  • то пишем протокол, если нужно указать порт, указываем). Команда стала необязательной. Ранее Host понимал
  • Яндекс и Mail.RU. Теперь все основные поисковые системы команду Host не учитывают.

Warnings

  • `host` is not a known field.