humo.be
robots.txt

Robots Exclusion Standard data for humo.be

Resource Scan

Scan Details

Site Domain humo.be
Base Domain humo.be
Scan Status Ok
Last Scan2024-09-20T12:33:14+00:00
Next Scan 2024-09-27T12:33:14+00:00

Last Scan

Scanned2024-09-20T12:33:14+00:00
URL https://humo.be/robots.txt
Redirect https://www.humo.be/robots.txt
Redirect Domain www.humo.be
Redirect Base humo.be
Domain IPs 2600:1413:b000:6::17d5:2bd0, 2600:1413:b000:6::17d5:2bdd, 96.17.96.22, 96.17.96.5
Redirect IPs 2600:1413:b000:6::17d5:2bd0, 2600:1413:b000:6::17d5:2bdd, 96.17.96.22, 96.17.96.5
Response IP 23.44.4.179
Found Yes
Hash fc5e64a42f9a35112a9a35448e731fb5639fe17d60dbe53ae3e7d66724404464
SimHash 49501b594d75

Groups

twitterbot

Rule Path
Allow /

*

Rule Path
Allow /
Disallow /*?otag*
Disallow /*?abo_type*
Disallow /*?URL_referrer*
Disallow /*?mid*
Disallow /auth/
Disallow /temptation/
Disallow /*utm_campaign%3Dshared_earned*
Disallow /*redirectUri%3D*
Disallow /api/_next-api*
Disallow /_next/data/*
Disallow /zoeken?query=*
Disallow /zoeken/?query=*
Disallow /zoeken/resultaten?query=*
Disallow /search?query=*
Disallow /search/?query=*
Disallow /search/resultaten?query=*
Disallow /tag/*?page=
Disallow /*?parentSlug=*

gptbot

Rule Path
Disallow /

chatgpt-user

Rule Path
Disallow /

ccbot

Rule Path
Disallow /

anthropic-ai

Rule Path
Disallow /

perplexitybot

Rule Path
Disallow /

Other Records

Field Value
sitemap https://www.humo.be/sitemap.xml

Comments

  • Alle auteurs-, naburige en databankrechten die op de inhoud en opmaak van de DPG Media websites
  • en DPG Media apps rusten, worden door DPG Media BV uitdrukkelijk voorbehouden. De inhoud van de
  • DPG Media websites en apps is uitsluitend voor persoonlijk, niet-commercieel gebruik en het is
  • niet toegestaan om gegevens van de website of uit de apps door middel van screen scraping
  • (of een andere geautomatiseerde werkwijze) te vergaren.
  • Zie ook de Gebruikersvoorwaarden van DPG Media B.V. op www.dpgmedia.nl/gebruiksvoorwaarden
  • All copyrights, neighbouring rights and database rights in the content and layout of the
  • DPG Media websites and DPG Media apps are explicitly reserved by DPG Media BV. The content of the DPG Media
  • websites and DPG Media apps is for personal, non-commercial use only and it is not allowed to
  • collect data from the website or from the apps by means of screen scraping (or any other
  • automated method).
  • See also the terms of use of DPG Media B.V. at www.dpgmedia.nl/gebruiksvoorwaarden