# /robots.txt file for http://www.pausch.at/ (www.robotstxt.org) # Massendownloader von der gesamten Homepage fernhalten User-agent: wget User-agent: webzip User-agent: webmirror User-agent: webcopy Disallow: / User-agent: ia_archiver # Verbiete dem Webarchiv die Aufnahme (archive.org/about/exclude.php) Disallow: /htm/bon/humor/ # Gilt fur alle weiteren Crawler User-agent: * Disallow: /_private/ # nicht fur die Öffentlichkeit bestimmt Disallow: /temp/ # sehr kurzlebige Dateien Disallow: # ganzen Rest freigeben