##############
# Robots.txt #
##############

###############################
# Disallow directory /images/ #
###############################
User-agent: * 
Disallow: /images/ 

###############################
# Disallow directory /forum/  #
###############################
User-agent: * 
Disallow: /forum/ 

###################################
# Disallow directory /javascript/ #
###################################
User-agent: * 
Disallow: /javascript/ 

################################
# Disallow directory /cgi-bin/ #
################################
User-agent: *
Disallow: /cgi-bin/

#################################
# Disallow directory /graphics/ #
#################################
User-agent: * 
Disallow: /graphics/ 

#################################################
# Disallow indexing of specific file extensions #
#################################################
User-agent: * 
Disallow: /*.gif$ 

User-agent: * 
Disallow: /*.jpg$ 

User-agent: * 
Disallow: /*.zip$ 

User-agent: * 
Disallow: /*.doc$ 

User-agent: * 
Disallow: /*.exe$ 

User-agent: *
Disallow: /*.pdf$

User-agent: * 
Disallow: /*.js$ 

User-agent: * 
Disallow: /*.swf$

User-agent: * 
Disallow: /*.css$

########################################
# Disallow samples directory /newsite/ #
########################################
User-agent: * 
Disallow: /newsite/ 

################################
# Disallow Collectors and Spam #
################################
User-agent: atSpider 
Disallow: / 

User-agent: cherrypicker 
Disallow: / 

User-agent: DSurf 
Disallow: / 

User-agent: EliteSys Entry 
Disallow: / 

User-agent: EmailCollector 
Disallow: / 

User-agent: EmailSiphon 
Disallow: / 

User-agent: EmailWolf 
Disallow: / 

User-agent: Mail Sweeper 
Disallow: / 

User-agent: munky 
Disallow: / 

User-agent: Roverbot 
Disallow: / 

User-agent: WebEmailExtrac 
Disallow: / 

#############################
# Disallow Offline Browsers #
#############################
User-agent: xGet 
Disallow: / 

User-agent: wGet 
Disallow: / 

User-agent: WebWalk 
Disallow: / 

User-agent: webvac 
Disallow: / 

User-agent: WebReaper 
Disallow: / 

User-agent: WebMirror 
Disallow: / 

User-agent: WebFetcher 
Disallow: / 

User-agent: WebCopy 
Disallow: / 

User-agent: webcopier 
Disallow: / 

User-agent: WebCatcher 
Disallow: / 

User-agent: WebBandit 
Disallow: / 

User-agent: w3mir 
Disallow: / 

User-agent: vobsub 
Disallow: / 

User-agent: Templeton 
Disallow: / 

User-agent: ssearcher100 
Disallow: / 

User-agent: SpiderBot 
Disallow: / 

User-agent: Shai'Hulud 
Disallow: / 

User-agent: PBWF 
Disallow: / 

User-agent: LightningDownload 
Disallow: / 

User-agent: KDD Exploror 
Disallow: / 

User-agent: Jeeves 
Disallow: / 

User-agent: Internet Explore 
Disallow: / 

User-agent: InfoSpiders 
Disallow: / 

User-agent: httrack 
Disallow: / 

User-agent: HavIndex 
Disallow: / 

User-agent: GetUrl 
Disallow: / 

User-agent: GetBot 
Disallow: / 

User-agent: ESIRover 
Disallow: / 

User-agent: Download Wonder 
Disallow: / 

User-agent: Collage 
Disallow: / 

User-agent: Mozilla/2.0 (compatible; MS FrontPage 4.0) 
Disallow: /