# robots.txt fuer http://www.aquarium-freak.de ##################################################### # folgende Verzeichnisse und Dateien nicht indexieren ##################################################### User-agent: * Disallow: /cgi-data/ Disallow: /javaskripte/ Disallow: /bildtools/ Disallow: /bannerlogos/ Disallow: /testseiten/ Disallow: /impress.html Disallow: /formmailer.html Disallow: /gaestebuch.html Disallow: /bann_seite.html Disallow: /error404.html ############################################## # nicht gewuenschte Spider komplett aussperren ############################################## User-agent: grub-client Disallow: / User-agent: grub Disallow: / User-agent: WebBandit Disallow: / User-agent: EmailWolf Disallow: / User-agent: ExtractorPro Disallow: / User-agent: WWW-Collector-E Disallow: / User-agent: Web Image Collector Disallow: / User-agent: GetRight/4.2 Disallow: / User-agent: WWW-Collector-E Disallow: / User-agent: WebZip Disallow: / User-agent: URL_Spider_Pro Disallow: / User-agent: EmailCollector Disallow: / User-agent: EmailSiphon Disallow: / User-agent: Web Image Collector Disallow: / User-agent: Download Ninja Disallow: / User-agent: Fetch Disallow: / User-agent: TeleportPro Disallow: / User-agent: SiteSnagger Disallow: / User-agent: Teleport Disallow: / User-agent: TeleportPro Disallow: / User-agent: linko Disallow: / User-agent: ZyBORG Disallow: / User-agent: WebStripper Disallow: / User-agent: HTTrack Disallow: / User-agent: WebCopier Disallow: / User-agent: Xenu Disallow: /