kniti.ru
robots.txt

Robots Exclusion Standard data for kniti.ru

Resource Scan

Scan Details

Site Domain kniti.ru
Base Domain kniti.ru
Scan Status Ok
Last Scan2024-11-12T16:40:23+00:00
Next Scan 2024-11-19T16:40:23+00:00

Last Scan

Scanned2024-11-12T16:40:23+00:00
URL https://kniti.ru/robots.txt
Domain IPs 185.250.47.111
Response IP 185.250.47.111
Found Yes
Hash 3f944d80cbaa8057ac3576acbd1275c0383165710f2e128374d85c822b4add4b
SimHash d4385722c640

Groups

*

Product Comment
* общие правила для роботов, кроме Яндекса и Google,
Rule Path Comment
Disallow /cgi-bin папка на хостинге
Disallow /? все параметры запроса на главной
Disallow /wp- все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow /wp/ если есть подкаталог /wp/, где установлена CMS (если нет,
Disallow *?s= поиск
Disallow *%26s%3D поиск
Disallow /search/ поиск
Disallow /author/ архив автора
Disallow /users/ архив авторов
Disallow */trackback трекбеки, уведомления в комментариях о появлении открытой
Disallow */embed все встраивания
Disallow */wlwmanifest.xml xml-файл манифеста Windows Live Writer (если не используете,
Disallow /xmlrpc.php файл WordPress API
Disallow *utm*%3D ссылки с utm-метками
Disallow *openstat%3D ссылки с метками openstat
Allow */uploads открываем папку с файлами uploads

Other Records

Field Value
crawl-delay 3

exabot

Rule Path
Disallow /

idbot

Rule Path
Disallow /

bingbot

Rule Path
Disallow /

wotbox

Rule Path
Disallow /

baiduspider

Rule Path
Disallow /

baiduspider-image

Rule Path
Disallow /

baiduspider-video

Rule Path
Disallow /

baiduspider-news

Rule Path
Disallow /

baiduspider-favo

Rule Path
Disallow /

baiduspider-cpro

Rule Path
Disallow /

baiduspider-ads

Rule Path
Disallow /

baidu

Rule Path
Disallow /

mj12bot

Rule Path
Disallow /

ahrefsbot

Rule Path
Disallow /

dotbot

Rule Path
Disallow /

riddler

Rule Path
Disallow /

semrushbot

Rule Path
Disallow /

linkpadbot

Rule Path
Disallow /

blexbot

Rule Path
Disallow /

flipboardproxy

Rule Path
Disallow /

aihitbot

Rule Path
Disallow /

trovitbot

Rule Path
Disallow /

*

Rule Path
Disallow /wp-content/uploads/wp-import-export-lite/

Other Records

Field Value
sitemap https://kniti.ru/sitemap.xml
sitemap https://kniti.ru/sitemap.xml.gz

Comments

  • т.к. для них правила ниже
  • правило можно удалить)
  • ссылки на статью
  • правило можно удалить)
  • Укажите один или несколько файлов Sitemap (дублировать для каждого User-agent
  • не нужно). Google XML Sitemap создает 2 карты сайта, как в примере ниже.
  • WP Import Export Rule

Warnings

  • `host` is not a known field.