somex.ru
robots.txt
Robots Exclusion Standard data for somex.ru
Resource Scan
Scan Details
| Site Domain | somex.ru |
| Base Domain | somex.ru |
| Scan Status | Ok |
| Last Scan | 2024-10-28T04:36:24+00:00 |
| Next Scan | 2024-11-27T04:36:24+00:00 |
Last Scan
| Scanned | 2024-10-28T04:36:24+00:00 |
| URL | https://somex.ru/robots.txt |
| Domain IPs | 2a00:15f8:a000:5:1:11:0:e6f1, 2a00:15f8:a000:5:1:12:0:e6f1, 2a00:15f8:a000:5:1:13:0:e6f1, 2a00:15f8:a000:5:1:14:0:e6f1, 90.156.201.101, 90.156.201.103, 90.156.201.47, 90.156.201.59 |
| Response IP | 90.156.201.103 |
| Found | Yes |
| Hash | 5f58f1de6f5300e400adf495ed73ee5cb6b220df85b3ce8dd4cd7919a073d743 |
| SimHash | 37e24ad13076 |
Groups
*
| Product | Comment |
|---|---|
| * | общие правила для роботов, кроме Яндекса и Google, |
| Rule | Path | Comment |
|---|---|---|
| Disallow | /cgi-bin | папка на хостинге |
| Disallow | /? | все параметры запроса на главной |
| Disallow | /wp- | все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins |
| Disallow | /wp/ | если есть подкаталог /wp/, где установлена CMS (если нет, |
| Disallow | *?s= | РїРѕРёСЃРє |
| Disallow | *%26s%3D | РїРѕРёСЃРє |
| Disallow | /search/ | РїРѕРёСЃРє |
| Disallow | /author/ | архив автора |
| Disallow | /users/ | архив авторов |
| Disallow | */trackback | трекбеки, уведомления в комментариях о появлении открытой |
| Disallow | */feed | все фиды |
| Disallow | */rss | rss фид |
| Disallow | */embed | все встраивания |
| Disallow | */wlwmanifest.xml | xml-файл манифеста Windows Live Writer (если не используете, |
| Disallow | /xmlrpc.php | файл WordPress API |
| Disallow | *utm*%3D | ссылки с utm-метками |
| Disallow | *openstat%3D | ссылки с метками openstat |
| Allow | */uploads | открываем папку с файлами uploads |
googlebot
| Product | Comment |
|---|---|
| googlebot | правила для Google (комментарии не дублирую) |
| Rule | Path | Comment |
|---|---|---|
| Disallow | /cgi-bin | - |
| Disallow | /? | - |
| Disallow | /wp- | - |
| Disallow | /wp/ | - |
| Disallow | *?s= | - |
| Disallow | *%26s%3D | - |
| Disallow | /search/ | - |
| Disallow | /author/ | - |
| Disallow | /users/ | - |
| Disallow | */trackback | - |
| Disallow | */feed | - |
| Disallow | */rss | - |
| Disallow | */embed | - |
| Disallow | */wlwmanifest.xml | - |
| Disallow | /xmlrpc.php | - |
| Disallow | *utm*%3D | - |
| Disallow | *openstat%3D | - |
| Allow | */uploads | - |
| Allow | /*/*.js | открываем js-скрипты внутри /wp- (/*/ - для приоритета) |
| Allow | /*/*.css | открываем css-файлы внутри /wp- (/*/ - для приоритета) |
| Allow | /wp-*.png | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.jpg | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.jpeg | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.gif | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-admin/admin-ajax.php | используется плагинами, чтобы не блокировать JS и CSS |
yandex
| Product | Comment |
|---|---|
| yandex | правила для Яндекса (комментарии не дублирую) |
| Rule | Path |
|---|---|
| Disallow | /cgi-bin |
| Disallow | /? |
| Disallow | /wp- |
| Disallow | /wp/ |
| Disallow | *?s= |
| Disallow | *%26s%3D |
| Disallow | /search/ |
| Disallow | /author/ |
| Disallow | /users/ |
| Disallow | */trackback |
| Disallow | */feed |
| Disallow | */rss |
| Disallow | */embed |
| Disallow | */wlwmanifest.xml |
| Disallow | /xmlrpc.php |
| Allow | */uploads |
| Allow | /*/*.js |
| Allow | /*/*.css |
| Allow | /wp-*.png |
| Allow | /wp-*.jpg |
| Allow | /wp-*.jpeg |
| Allow | /wp-*.gif |
| Allow | /wp-admin/admin-ajax.php |
Other Records
| Field | Value |
|---|---|
| sitemap | https://somex.ru/sitemap_index.xml |
Warnings
- `clean-param` is not a known field.
- `host` is not a known field.
Comments