Log In Sign Up

cvschangelogb.sourceforge.net
robots.txt

Robots Exclusion Standard data for cvschangelogb.sourceforge.net

Resource Scan

Scan Details

Site Domain cvschangelogb.sourceforge.net
Base Domain sourceforge.net
Scan Status Ok
Last Scan2024-05-26T10:49:55+00:00
Next Scan 2024-06-25T10:49:55+00:00

Last Scan

Scanned2024-05-26T10:49:55+00:00
URL https://cvschangelogb.sourceforge.net/robots.txt
Domain IPs 104.18.12.149, 104.18.13.149, 2606:4700::6812:c95, 2606:4700::6812:d95
Response IP 104.18.12.149
Found Yes
Hash 4df96b2867768ac091f4e68c93dd17df376bda3955d94fd256acc386e2f19450
SimHash a534dbdc058f

Groups

*

Rule Path
Disallow /files
Back to top

Comments

  • Fichier autorisant ou non la visite des robots de recherche Web
  • Pour connaitre les visites d'un robot, le serveur
  • doit supporter les User-agent
  • Rem: Pour limiter les robots au niveau des pages HTML, utiliser :
  • <META NAME="ROBOTS" CONTENT="INDEX|NOINDEX,FOLLOW|NOFOLLOW">
  • Nom des robots (* pour tous) et restrictions
  • robots.txt
  • Disallow: /php/
  • Disallow: /data/
Back to top