itehnology.ru
robots.txt

Robots Exclusion Standard data for itehnology.ru

Resource Scan

Scan Details

Site Domain itehnology.ru
Base Domain itehnology.ru
Scan Status Failed
Failure StageFetching resource.
Failure ReasonServer returned a server error.
Last Scan2024-09-27T03:40:33+00:00
Next Scan 2024-12-26T03:40:33+00:00

Last Successful Scan

Scanned2024-05-31T02:34:33+00:00
URL https://itehnology.ru/robots.txt
Domain IPs 37.1.206.164
Response IP 37.1.206.164
Found Yes
Hash 29e14583082306864816a036c09c8117da01efc262664969f0833250ad774075
SimHash 9c1983798dbf

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всеÑ
Rule Path Comment
Disallow /cgi-bin Стандартная папка на Ñ
Disallow /wp- Все связанное с WP - это: /wp-content /wp-admin
Disallow /wp/ Каталог куда установлено ядро WP (если ядро установлено
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ АрÑ
Disallow */embed$ Все встраивания.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat
Allow */wp-*/*ajax*.php AJAX запросы: */admin-ajax.php */front-ajaxs.php
Allow */wp-sitemap карта сайта (главная и вложенные)
Allow */uploads открываем uploads
Allow */wp-*/*.js внутри /wp- (/*/ - для приоритета)
Allow */wp-*/*.css внутри /wp- (/*/ - для приоритета)
Allow */wp-*/*.png картинки в плагинаÑ
Allow */wp-*/*.jpg картинки в плагинаÑ
Allow */wp-*/*.jpeg картинки в плагинаÑ
Allow */wp-*/*.gif картинки в плагинаÑ
Allow */wp-*/*.svg картинки в плагинаÑ
Allow */wp-*/*.webp файлы в плагинаÑ
Allow */wp-*/*.swf файлы в плагинаÑ
Allow */wp-*/*.pdf файлы в плагинаÑ

Other Records

Field Value
sitemap https://itehnology.ru/sitemap.xml

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.
  • /wp-includes /wp-json wp-login.php wp-register.php.
  • в подкаталог). Если WP установлен стандартно, то
  • правило можно удалить.
  • Секция правил законч

Warnings

  • 10 invalid lines.