southfront.org
robots.txt
Robots Exclusion Standard data for southfront.org
Resource Scan
Scan Details
| Site Domain | southfront.org |
| Base Domain | southfront.org |
| Scan Status | Failed |
| Failure Stage | Fetching resource. |
| Failure Reason | Couldn't connect to server. |
| Last Scan | 2024-09-05T08:41:59+00:00 |
| Next Scan | 2024-12-04T08:41:59+00:00 |
Last Successful Scan
| Scanned | 2023-08-13T08:34:18+00:00 |
| URL | https://southfront.org/robots.txt |
| Domain IPs | 194.58.88.47 |
| Response IP | 194.58.88.47 |
| Found | Yes |
| Hash | a19d46876360b77db9c24ce01da647faf177d00a76a57f354e3665005435c513 |
| SimHash | 106cd7008450 |
Groups
*
| Product | Comment |
|---|---|
| * | общие правила для роботов, кроме Яндекса и Google, |
| Rule | Path | Comment |
|---|---|---|
| Disallow | /cgi-bin | папка на хостинге |
| Disallow | /? | все параметры запроса на главной |
| Disallow | /wp- | все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins |
| Disallow | /wp/ | если есть подкаталог /wp/, где установлена CMS (если нет, |
| Disallow | *?s= | поиск |
| Disallow | *%26s%3D | поиск |
| Disallow | /search/ | поиск |
| Disallow | /author/ | архив автора |
| Disallow | /users/ | архив авторов |
| Disallow | */trackback | трекбеки, уведомления в комментариях о появлении открытой |
| Disallow | */feed | все фиды |
| Disallow | */rss | rss фид |
| Disallow | */embed | все встраивания |
| Disallow | */wlwmanifest.xml | xml-файл манифеста Windows Live Writer (если не используете, |
| Disallow | /xmlrpc.php | файл WordPress API |
| Disallow | *utm%3D | ссылки с utm-метками |
| Disallow | *openstat%3D | ссылки с метками openstat |
| Disallow | /pdf.php?* | - |
| Allow | */uploads | открываем папку с файлами uploads |
googlebot
| Product | Comment |
|---|---|
| googlebot | правила для Google (комментарии не дублирую) |
| Rule | Path | Comment |
|---|---|---|
| Disallow | /cgi-bin | - |
| Disallow | /? | - |
| Disallow | /wp- | - |
| Disallow | /wp/ | - |
| Disallow | *?s= | - |
| Disallow | *%26s%3D | - |
| Disallow | /search/ | - |
| Disallow | /author/ | - |
| Disallow | /users/ | - |
| Disallow | */trackback | - |
| Disallow | */feed | - |
| Disallow | */rss | - |
| Disallow | */embed | - |
| Disallow | */wlwmanifest.xml | - |
| Disallow | /xmlrpc.php | - |
| Disallow | *utm%3D | - |
| Disallow | *openstat%3D | - |
| Allow | */uploads | - |
| Allow | /*/*.js | открываем js-скрипты внутри /wp- (/*/ - для приоритета) |
| Allow | /*/*.css | открываем css-файлы внутри /wp- (/*/ - для приоритета) |
| Allow | /wp-*.png | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.jpg | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.jpeg | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.gif | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-admin/admin-ajax.php | используется плагинами, чтобы не блокировать JS и CSS |
yandex
| Product | Comment |
|---|---|
| yandex | правила для Яндекса (комментарии не дублирую) |
| Rule | Path |
|---|---|
| Disallow | /cgi-bin |
| Disallow | /? |
| Disallow | /wp- |
| Disallow | /wp/ |
| Disallow | *?s= |
| Disallow | *%26s%3D |
| Disallow | /search/ |
| Disallow | /author/ |
| Disallow | /users/ |
| Disallow | */trackback |
| Disallow | */feed |
| Disallow | */rss |
| Disallow | */embed |
| Disallow | */wlwmanifest.xml |
| Disallow | /xmlrpc.php |
| Allow | */uploads |
| Allow | /*/*.js |
| Allow | /*/*.css |
| Allow | /wp-*.png |
| Allow | /wp-*.jpg |
| Allow | /wp-*.jpeg |
| Allow | /wp-*.gif |
| Allow | /wp-admin/admin-ajax.php |
Other Records
| Field | Value |
|---|---|
| sitemap | https://southfront.org/sitemap_index.xml |
Warnings
- `host` is not a known field.
Comments