Log In Sign Up

shop.auditorium-netzwerk.de
robots.txt

Robots Exclusion Standard data for shop.auditorium-netzwerk.de

Resource Scan

Scan Details

Site Domain shop.auditorium-netzwerk.de
Base Domain auditorium-netzwerk.de
Scan Status Ok
Last Scan2024-09-13T00:26:47+00:00
Next Scan 2024-10-13T00:26:47+00:00

Last Scan

Scanned2024-09-13T00:26:47+00:00
URL https://shop.auditorium-netzwerk.de/robots.txt
Domain IPs 217.24.210.229
Response IP 217.24.210.229
Found Yes
Hash 57608b3e8029e855716b29eee5fc399d8b5530c55a0de428019fe4c37ec42430
SimHash 431e7292c9a7

Groups

*

Rule Path
Disallow /compare
Disallow /checkout
Disallow /register
Disallow /account
Disallow /note
Disallow /widgets
Disallow /listing
Disallow /Testordner

Other Records

Field Value
crawl-delay 10

blexbot/1.0
aqua_products
ahrefs.com
backdoorbot/1.0
baiduspider
blowfish/1.0
bookmark search tool
botalot
builtbottough
bullseye/1.0
bunnyslippers
cheesebot
cherrypicker
cherrypickerelite/1.0
cherrypickerse/1.0
cligoorobot
copyrightcheck
crescent
crescent internet toolpak http ole control v.1.0
dittospyder
emailcollector
emailsiphon
emailwolf
erocrawler
extractorpro
fairad client
flaming attackbot
foobot
gaisbot
getright/4.2
harvest/1.5
infonavirobot
iron33/1.0.2
jennybot
kenjin spider
keyword density/0.9
lnspiderguy
lexibot
linkscan/8.1a unix
linkwalker
linkextractorpro
ltx71
miixpc
miixpc/4.2
mj12bot
mlbot
msiecrawler
mata hari
microsoft url control
microsoft url control - 5.01.4511
microsoft url control - 6.00.8169
mister pix
mozilla/4.0 (compatible; bullseye; windows 95)
nicerspro
netants
netmechanic
offline explorer
openbot
openfind
openfind data gathere
oracle ultra search
perman
pixray
pixray-seeker
pixray-seeker/1.1
pixray-seeker/1.1 (pixray-seeker; crawler@pixray.com)
propowerbot/2.14
prowebwalker
python-urllib
queryn metasearch
rma
radiation retriever 1.1
repomonkey
repomonkey bait & tackle/v1.01
seokicks-robot
scoutjet
sistrix
sitesnagger
spankbot
speedy
surveybot
szukacz/1.4
tagoobot
teleport
teleportpro
telesoft
the intraformant
thenomad
true_robot
true_robot/1.0
url control
url_spider_pro
urly warning
vci
vci webviewer vci webviewer win32
www-collector-e
web image collector
webauto
webbandit
webbandit/3.50
webcopier
webenhancer
websauger
webstripper
webzip
webzip/4.0
webmasterworldforumbot
website quester
webster pro
wget
wget/1.5.3
wget/1.6
xenu's
xenu's link sleuth 1.1c
yandex
youdaobot
zeus
zeus 32297 webster pro v2.9 win32
zeus link scout
asterias
b2w/0.1
cosmos
dotbot
grub
grub-client
hloader
httplib
humanlinks
ia_archiver
ia_archiver/1.6
kalooga
larbin
libweb/clshttp
looksmart
lwp-trivial
lwp-trivial/1.34
moget
moget/2.1
netestate ne crawler
pixray
pixray-seeker
plukkie
psbot
searchpreview
sogou
spanner
suzuran
tocrawl/urldispatcher
turingos
twiceler
spbot

Rule Path
Disallow /
Back to top

Other Records

Field Value
sitemap https://shop.auditorium-netzwerk.de/sitemap.xml
Back to top

Comments

  • 20170519: Anpassung fuer weitere Nutzung der robots.txt ausserhalb der Steuerung durch Shopware (k1on.de)
  • ==============================
  • Bot-Controller: Spider-Verbote
  • ==============================
  • Gesperrte Verzeichnisse fuer ALLE Spider/Bots
  • ===========================
  • Bot-Detektiv: Spambot-Falle
  • ===========================
  • Allen Robots ist das Spidern des folgenden Ordners verboten:
  • Disallow: /Testordner
  • Hinweise
  • a) Der fiktive Ordner "/Testordner" dient als Falle fuer Spambots - diese ignorieren
  • die Anweisung "Disallow: /Testordner" und hinterlassen einen leicht zu findenden
  • entsprechenden Eintrag in den Logfiles (> ggf Ausschluss per .htaccess)
  • Nur alle 10 Sekunden darf eine neue Seite zum Auslesen aufgerufen werden. Gilt fuer ALLE
  • Folgenden Bots ist das Spidern der gesamten Webseite verboten:
Back to top

Warnings

  • 3 invalid lines.
Back to top