# $Id: robots.txt,v 1.11 2010/08/18 11:03:50 robertb Exp $ # # robots.txt fuer www.robertbienert.de # Sperre bestimmte Useragents: User-Agent: licats-bot Disallow: / User-Agent: eagle Disallow: / User-Agent: psycheclone Disallow: / User-agent: Blogcensus Disallow: / # Sperre nicht-existente Bereiche, die Suche (sollten Suchmaschinen # nicht unbedingt indizieren), das Mailformular, Beispieldateien von # Bibliotheken, bilder # + Datenschutz User-Agent: * Disallow: /admin/ Disallow: /bilder/ Disallow: /filme/ Disallow: /suche/ Disallow: /SlurpConfirm404/ Disallow: /mailto.php Disallow: /dokumente/web/sitemap/beispiel.html Disallow: /impressum Disallow: /forum/verfassen Disallow: /forum/eintragen