prouser.me
robots.txt

Robots Exclusion Standard data for prouser.me

Resource Scan

Scan Details

Site Domain prouser.me
Base Domain prouser.me
Scan Status Ok
Last Scan2025-09-30T20:39:39+00:00
Next Scan 2025-10-30T20:39:39+00:00

Last Scan

Scanned2025-09-30T20:39:39+00:00
URL https://prouser.me/robots.txt
Domain IPs 104.21.57.122, 172.67.190.94, 2606:4700:3032::6815:397a, 2606:4700:3036::ac43:be5e
Response IP 104.21.57.122
Found Yes
Hash c51be3b8d436ff6da85418c279c9bd3db8d43af235e02da92691f7d97680978a
SimHash 6430906c8bae

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всеÑ
Rule Path Comment
Disallow /cgi-bin Стандартная папка на Ñ
Disallow /wp-admin/ Закрываем админку.
Allow /wp-admin/admin-ajax.php Откроем аякс.
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ АрÑ
Disallow */embed$ Все встраивания.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat

Other Records

Field Value
crawl-delay 240

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.

Warnings

  • 2 invalid lines.