romanoffdom.ru
robots.txt

Robots Exclusion Standard data for romanoffdom.ru

Resource Scan

Scan Details

Site Domain romanoffdom.ru
Base Domain romanoffdom.ru
Scan Status Ok
Last Scan2024-09-17T20:08:15+00:00
Next Scan 2024-10-17T20:08:15+00:00

Last Scan

Scanned2024-09-17T20:08:15+00:00
URL https://romanoffdom.ru/robots.txt
Domain IPs 2a03:6f00:6:1::517:3284, 5.23.50.132
Response IP 5.23.50.132
Found Yes
Hash 6a06cd4abc9e90f873678f2c3ab457c1b95c5310d1d5d2f3fc05da10639b15e8
SimHash 047c10229c00

Groups

*

Product Comment
* общие правила для роботов, кроме Яндекса и Google
Rule Path Comment
Disallow /cgi-bin папка на хостинге
Disallow /? все параметры запроса на главной
Disallow /wp- все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow /wp/ если есть подкаталог /wp/, где установлена CMS (если нет, правило можно удалить)
Disallow *?s= поиск
Disallow *%26s%3D поиск
Disallow /search/* поиск
Disallow /author/ архив автора
Disallow /users/ архив авторов
Disallow */trackback трекбеки, уведомления в комментариях о появлении открытой ссылки на статью
Disallow */feed все фиды
Disallow */rss rss фид
Disallow */embed все встраивания
Disallow */wlwmanifest.xml xml-файл манифеста Windows Live Writer (если не используете, правило можно удалить)
Disallow /xmlrpc.php файл WordPress API
Disallow *utm*%3D ссылки с utm-метками
Disallow *openstat%3D ссылки с метками openstat
Allow */uploads открываем папку с файлами uploads
Allow /*/*.js открываем js-скрипты внутри /wp- (/*/ - для приоритета)
Allow /*/*.css открываем css-файлы внутри /wp- (/*/ - для приоритета)
Allow /wp-*.png картинки в плагинах, cache папке и т.д.
Allow /wp-*.jpg картинки в плагинах, cache папке и т.д.
Allow /wp-*.jpeg картинки в плагинах, cache папке и т.д.
Allow /wp-*.gif картинки в плагинах, cache папке и т.д.
Allow /wp-admin/admin-ajax.php используется плагинами, чтобы не блокировать JS и CSS
Allow /turbo/rss-yandex-turbo/ источник RSS канала

nuclei
wikido
riddler
petalbot
zoominfobot
go-http-client
node/simplecrawler
cazoodlebot
dotbot/1.0
gigabot
barkrowler
blexbot
magpie-crawler

Rule Path
Disallow /
Allow /https%3A//romanoffdom.ru/
Allow /https%3A//romanoffdom.ru/gallery
Allow /https%3A//romanoffdom.ru/rooms/chetyryoh-mestnyj-mansarda-s-saunoj
Allow /https%3A//romanoffdom.ru/rooms/polu-lyuks
Allow /https%3A//romanoffdom.ru/rooms/standartnyj-dvuhmestnyj
Allow /https%3A//romanoffdom.ru/rooms/apartamenty-studio
Allow /https%3A//romanoffdom.ru/rooms/nebolshoj-dvuhmestnyj
Allow /https%3A//romanoffdom.ru/rooms/opredelyaemyj-pri-zaezde
Allow /https%3A//romanoffdom.ru/rooms/malenkij-ekonom-bez-okna
Allow /https%3A//romanoffdom.ru/rooms
Allow /https%3A//romanoffdom.ru/kontakty
Allow /https%3A//romanoffdom.ru/services
Allow /https%3A//romanoffdom.ru/3d-tour
Allow /https%3A//romanoffdom.ru/booking
Allow /https%3A//romanoffdom.ru/about
Allow /https%3A//romanoffdom.ru/politika-konfidencialnosti
Disallow /?elementor

Other Records

Field Value
sitemap https://romanoffdom.ru/sitemap_index.xml

Comments

  • Запрет ботов, которые не приносят нам пользы.
  • --------------------------------
  • Custom
  • --------------------------------
  • Sitemap
  • --------------------------------

Warnings

  • `clean-param` is not a known field.