bestcompostguide.com
robots.txt

Robots Exclusion Standard data for bestcompostguide.com

Resource Scan

Scan Details

Site Domain bestcompostguide.com
Base Domain bestcompostguide.com
Scan Status Ok
Last Scan2024-09-30T20:11:58+00:00
Next Scan 2024-10-07T20:11:58+00:00

Last Scan

Scanned2024-09-30T20:11:58+00:00
URL https://bestcompostguide.com/robots.txt
Domain IPs 2406:da18:9d0:143f:2124:4e9c:36a9:d9de, 52.221.42.138
Response IP 52.221.42.138
Found Yes
Hash f319916a0dae725993647f8a6035f1ea26a9051ac50a31b6d9082a460baba2df
SimHash d9699be68c61

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всех
Rule Path Comment
Disallow /cgi-bin Стандартная папка на хостинге.
Disallow /wp-admin/ Закрываем админку.
Disallow /wp/ Каталог куда установлено ядро WP. Обычно ядро
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ Архив автора.
Disallow */embed Все встраивания.
Disallow */page/ Все виды пагинации.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat
Disallow /wp- Все связанное с WP - это: /wp-content /wp-admin
Allow */wp-*/*ajax*.php AJAX запросы: */admin-ajax.php */front-ajaxs.php
Allow */wp-sitemap карта сайта (главная и вложенные)
Allow */uploads открываем uploads
Allow */wp-*/*.js внутри /wp- (/*/ - для приоритета)
Allow */wp-*/*.css внутри /wp- (/*/ - для приоритета)
Allow */wp-*/*.png картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.jpg картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.jpeg картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.gif картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.svg картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.webp файлы в плагинах, cache папке и т.д.
Allow */wp-*/*.pdf файлы в плагинах, cache папке и т.д.

Other Records

Field Value
sitemap https://domain.com/wp-sitemap.xml
sitemap https://domain.com/wp-sitemap.xml.gz

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.
  • лежит рядом с wp-content и правило можно удалить.
  • /wp-includes /wp-json wp-login.php wp-register.php.
  • Секция правил закончена
  • Одина или несколько ссылок на карту сайта (файл Sitemap). Это независимая
  • директива и дублировать её для каждого User-agent не нужно. Так например
  • Google XML Sitemap создает 2 карты сайта:
  • Версия кода: 2.0
  • Не забудьте поменять `example.com` на ваш сайт.