www.parus.peterlife.ru
robots.txt
Robots Exclusion Standard data for www.parus.peterlife.ru
Resource Scan
Scan Details
Site Domain | www.parus.peterlife.ru |
Base Domain | peterlife.ru |
Scan Status | Ok |
Last Scan | 2025-09-17T15:46:15+00:00 |
Next Scan | 2025-10-17T15:46:15+00:00 |
Last Scan
Scanned | 2025-09-17T15:46:15+00:00 |
URL | http://www.parus.peterlife.ru/robots.txt |
Domain IPs | 217.112.43.74 |
Response IP | 217.112.43.74 |
Found | Yes |
Hash | 83ca4e3a28df4853dab5faea4d2b567b3f60bc7c869a3b4c13914b0d5c389a18 |
SimHash | 4d284a168591 |
Groups
*
Rule | Path |
---|---|
Disallow | / |
Disallow | /wp-includes/ |
Disallow | /wp-content/ |
Allow | /*.html |
Allow | /*/*.html |
Allow | /*/*/*.html |
Other Records
Field | Value |
---|---|
crawl-delay | 30.0 |
Other Records
Field | Value |
---|---|
sitemap | http://www.parus.peterlife.ru/sitemap.txt |
sitemap | http://www.parus.peterlife.ru/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/amazon/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/auction/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/karelia/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/novostiturizma/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/pohodekoturizm/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/searchaviahotels/sitemap.xml |
sitemap | http://www.parus.peterlife.ru/travelrussia/sitemap.xml |
Warnings
- `host` is not a known field.