tourfaq.net
robots.txt
Robots Exclusion Standard data for tourfaq.net
Resource Scan
Scan Details
| Site Domain | tourfaq.net |
| Base Domain | tourfaq.net |
| Scan Status | Failed |
| Failure Stage | Fetching resource. |
| Failure Reason | Server returned a server error. |
| Last Scan | 2025-09-06T11:47:58+00:00 |
| Next Scan | 2025-09-07T11:47:58+00:00 |
Last Successful Scan
| Scanned | 2025-08-30T11:29:36+00:00 |
| URL | http://tourfaq.net/robots.txt |
| Domain IPs | 2a00:15f8:a000:5:1:11:2:84ad, 2a00:15f8:a000:5:1:12:2:84ad, 2a00:15f8:a000:5:1:13:2:84ad, 2a00:15f8:a000:5:1:14:2:84ad, 90.156.201.107, 90.156.201.12, 90.156.201.30, 90.156.201.44 |
| Response IP | 90.156.201.107 |
| Found | Yes |
| Hash | a6cbc8cb2b12343fde6397eb7d8c62034f32a4c3652bb2a0c1246328c1c1170a |
| SimHash | 1438bf028474 |
Groups
*
| Product | Comment |
|---|---|
| * | общие правила для роботов, кроме Яндекса и Google, |
| Rule | Path | Comment |
|---|---|---|
| Disallow | /cgi-bin | папка на хостинге |
| Disallow | /? | все параметры запроса на главной |
| Disallow | /wp- | все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins |
| Disallow | /wp/ | если есть подкаталог /wp/, где установлена CMS (если нет, |
| Disallow | *?s= | поиск |
| Disallow | *%26s%3D | поиск |
| Disallow | /search/ | поиск |
| Disallow | /author/ | архив автора |
| Disallow | /users/ | архив авторов |
| Disallow | */trackback | трекбеки, уведомления в комментариях о появлении открытой |
| Disallow | */feed | все фиды |
| Disallow | */rss | rss фид |
| Disallow | */embed | все встраивания |
| Disallow | */wlwmanifest.xml | xml-файл манифеста Windows Live Writer (если не используете, |
| Disallow | /xmlrpc.php | файл WordPress API |
| Disallow | *utm*%3D | ссылки с utm-метками |
| Disallow | *openstat%3D | ссылки с метками openstat |
| Allow | */uploads | открываем папку с файлами uploads |
googlebot
| Product | Comment |
|---|---|
| googlebot | правила для Google (комментарии не дублирую) |
| Rule | Path | Comment |
|---|---|---|
| Disallow | /cgi-bin | - |
| Disallow | /? | - |
| Disallow | /wp- | - |
| Disallow | /wp/ | - |
| Disallow | *?s= | - |
| Disallow | *%26s%3D | - |
| Disallow | /search/ | - |
| Disallow | /author/ | - |
| Disallow | /users/ | - |
| Disallow | */trackback | - |
| Disallow | */feed | - |
| Disallow | */rss | - |
| Disallow | */embed | - |
| Disallow | */wlwmanifest.xml | - |
| Disallow | /xmlrpc.php | - |
| Disallow | *utm*%3D | - |
| Disallow | *openstat%3D | - |
| Allow | */uploads | - |
| Allow | /*/*.js | открываем js-скрипты внутри /wp- (/*/ - для приоритета) |
| Allow | /*/*.css | открываем css-файлы внутри /wp- (/*/ - для приоритета) |
| Allow | /wp-*.png | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.jpg | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.jpeg | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-*.gif | картинки в плагинах, cache папке и т.д. |
| Allow | /wp-admin/admin-ajax.php | используется плагинами, чтобы не блокировать JS и CSS |
yandex
| Product | Comment |
|---|---|
| yandex | правила для Яндекса (комментарии не дублирую) |
| Rule | Path |
|---|---|
| Disallow | /cgi-bin |
| Disallow | /? |
| Disallow | /wp- |
| Disallow | /wp/ |
| Disallow | *?s= |
| Disallow | *%26s%3D |
| Disallow | /search/ |
| Disallow | /author/ |
| Disallow | /users/ |
| Disallow | */trackback |
| Disallow | */feed |
| Disallow | */rss |
| Disallow | */embed |
| Disallow | */wlwmanifest.xml |
| Disallow | /xmlrpc.php |
| Allow | */uploads |
| Allow | /*/*.js |
| Allow | /*/*.css |
| Allow | /wp-*.png |
| Allow | /wp-*.jpg |
| Allow | /wp-*.jpeg |
| Allow | /wp-*.gif |
| Allow | /wp-admin/admin-ajax.php |
Other Records
| Field | Value |
|---|---|
| sitemap | http://tourfaq.net/sitemap.xml |
| sitemap | http://tourfaq.net/sitemap.xml.gz |
Warnings
- `clean-param` is not a known field.
- `host` is not a known field.
Comments