svobodnoe.fm
robots.txt

Robots Exclusion Standard data for svobodnoe.fm

Resource Scan

Scan Details

Site Domain svobodnoe.fm
Base Domain svobodnoe.fm
Scan Status Failed
Failure StageFetching resource.
Failure ReasonCouldn't connect to server.
Last Scan4/21/2025, 10:19:47 PM
Next Scan 5/21/2025, 10:19:47 PM

Last Successful Scan

Scanned2/28/2025, 10:18:27 PM
URL https://svobodnoe.fm/robots.txt
Redirect https://svobodnoe.media/robots.txt
Redirect Domain svobodnoe.media
Redirect Base svobodnoe.media
Domain IPs 104.21.45.137, 172.67.215.44, 2606:4700:3031::ac43:d72c, 2606:4700:3035::6815:2d89
Redirect IPs 104.21.4.138, 172.67.132.34, 2606:4700:3032::ac43:8422, 2606:4700:3036::6815:48a
Response IP 104.21.4.138
Found Yes
Hash f5fb3f6b6b1cd7988b3660933b9eed671bef5048b0d9620d928ae0324fd4dc26
SimHash d84883c61461

Groups

*

Product Comment
* Создаем секцию правил для роботов. * значит для всех
Rule Path Comment
Disallow /cgi-bin Стандартная папка на хостинге.
Disallow /wp-admin/ Закрываем админку.
Disallow /? Все параметры запроса на главной.
Disallow *?s= Поиск.
Disallow *%26s%3D Поиск.
Disallow /search Поиск.
Disallow /author/ Архив автора.
Disallow */embed Все встраивания.
Disallow */page/ Все виды пагинации.
Disallow */xmlrpc.php Файл WordPress API
Disallow *utm*%3D Ссылки с utm-метками
Disallow *openstat%3D Ссылки с метками openstat
Allow /feed/turbo/ Ссылка на rss для Яндекс.Турбо

Other Records

Field Value
sitemap https://svobodnoe.fm/sitemap_index.xml

Comments

  • роботов. Чтобы указать секцию правил для отдельного
  • робота, вместо * укажите его имя: GoogleBot, Yandex.
  • Одина или несколько ссылок на карту сайта (файл Sitemap). Это независимая
  • директива и дублировать её для каждого User-agent не нужно. Так например
  • Google XML Sitemap создает 2 карты сайта: