# Webcrawler können auch durch Meta-Tags im HTML-Quelltext einer Webseite am Indexieren
# gehindert werden. Auch Meta-Tags sind rein hinweisend, benötigen die Mitarbeit
# „freundlicher“ Webcrawler und garantieren keine Geheimhaltung. Soll der Suchroboter
# die Webseite weder in den Index der Suchmaschine aufnehmen, noch den Hyperlinks der
# Seite folgen, lautet der Meta-Tag
#
#
#
#
#
#
#
# Datei robots.txt muss ins Stammverzeichnis
# Ganze Site für alle Robots sperren
User-agent: *
Disallow: /