настройка-микротик.укр
robots.txt

Resource Scan

Scan Details

Site Domain настройка-микротик.укр
Base Domain настройка-микротик.укр
Scan Status Ok
Last Scan2025-11-27T19:31:01+00:00
Next Scan 2025-12-04T19:31:01+00:00

Last Scan

Scanned2025-11-27T19:31:01+00:00
URL https://настройка-микротик.укр/robots.txt
Redirect https://xn----7sba7aachdbqfnhtigrl.xn--j1amh/robots.txt
Domain IPs 104.21.47.112, 172.67.147.55, 2606:4700:3030::6815:2f70, 2606:4700:3037::ac43:9337
Response IP 104.21.47.112
Found Yes
Hash 87d87768fa49c749fe7c254624d5083f09ba26b697bb30401abc6328f129bcd4
SimHash da4993c01c6b

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всех
Rule Path Comment
Disallow /cgi-bin Стандартная папка на хостинге.
Disallow /wp-admin/ Закрываем админку.
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ Архив автора.
Disallow */embed Все встраивания.
Disallow */page/ Все виды пагинации.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat
Allow /ads/preferences/ -
Allow /gpt/ -
Allow /pagead/show_ads.js -
Allow /pagead/js/adsbygoogle.js -
Allow /pagead/js/*/show_ads_impl.js -
Allow /static/glade.js -
Allow /static/glade/ -
Allow /tag/js/ -

Other Records

Field Value
sitemap https://xn----7sba7aachdbqfnhtigrl.xn--j1amh/sitemap_index.xml

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.
  • Рекомендация от Google Search Console
  • Одина или несколько ссылок на карту сайта (файл Sitemap). Это независимая
  • директива и дублировать её для каждого User-agent не нужно. Так например
  • Google XML Sitemap создает 2 карты сайта: