mempro.ru
robots.txt

Robots Exclusion Standard data for mempro.ru

Resource Scan

Scan Details

Site Domain mempro.ru
Base Domain mempro.ru
Scan Status Failed
Failure StageFetching resource.
Failure ReasonServer returned a client error.
Last Scan2025-12-10T13:24:41+00:00
Next Scan 2026-03-10T13:24:41+00:00

Last Successful Scan

Scanned2024-02-19T10:49:45+00:00
URL https://mempro.ru/robots.txt
Domain IPs 104.21.71.222, 172.67.149.181, 2606:4700:3033::ac43:95b5, 2606:4700:3036::6815:47de
Response IP 172.67.149.181
Found Yes
Hash b7aa4d2057897306e082f7553e9d38a3a8e3e5006221e8e5e80f62aba5ff1fe6
SimHash dd30b3c29533

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всех
Rule Path Comment
Disallow /cgi-bin Стандартная папка на хостинге.
Disallow /wp- Все связанное с WP - это: /wp-content /wp-admin
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ Архив автора.
Disallow */embed$ Все встраивания.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat
Disallow /i-memes/* -
Disallow /pgc_simply_gallery/ -
Disallow /photo-podborki/ -
Disallow /tag/ -
Disallow /mememe/ -
Disallow /memy-i-trendy-runeta/ -
Disallow /memy-polzovatelej/ -
Disallow /shablony-memov/ -
Disallow /ya-sdelal-mem-tag/* -
Disallow /sdelat-svoj-krasivyj-mem/* -
Allow */wp-*/*ajax*.php AJAX запросы: */admin-ajax.php */front-ajaxs.php
Allow */wp-sitemap карта сайта (главная и вложенные)
Allow */uploads открываем uploads
Allow */wp-*/*.js внутри /wp- (/*/ - для приоритета)
Allow */wp-*/*.css внутри /wp- (/*/ - для приоритета)
Allow */wp-*/*.png картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.jpg картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.jpeg картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.gif картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.svg картинки в плагинах, cache папке и т.д.
Allow */wp-*/*.webp файлы в плагинах, cache папке и т.д.
Allow */wp-*/*.swf файлы в плагинах, cache папке и т.д.
Allow */wp-*/*.pdf файлы в плагинах, cache папке и т.д.
Disallow /old/users/ -
Disallow /old/groups/ -
Disallow /old/tags/ -
Disallow /old/admin/ -
Disallow *?* -
Disallow *%26* -
Disallow /old/comments/ -
Disallow /old/redirect/ -
Disallow /old/upload/ -
Disallow /old/rss/ -

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.
  • /wp-includes /wp-json wp-login.php wp-register.php.
  • Секция правил закончена