# Esclude tutti i crowler per le dir ad uso interno User-agent: * Disallow: /esempio/ # dir insesitente con sintassi a titolo di esempio - l'accesso alla cartella e a tutte le sottocartelle è impedito a tutti i crowler # # Esclude dall'intero sito il robot di Google che cerca e indicizza le immagini. Questa esclusione è opportuna sia per risparmiare traffico (il passaggio quotidiano del bot può generare un notevole traffico se il sito contiene immagini) e per evitare che le immagini siano prese e riadattate da altri. User-Agent: Googlebot-Image Disallow: / # # Esclude dall'intero sito il robot di NetMechanic, sito che offre servizi di controllo di siti Web cui non si è interessati. User-agent: NetMechanic Disallow: / # # Esclude dall'intero sito EmailCollector, un software che ricerca sulla rete indirizzi di e-mail per poi utilizzarli per spam. User-agent: EmailCollector Disallow: / # # Esclude dall'intero sito Teleport, l'offline browser noto per le sue capacità di sovraccaricare il server, generare traffico e far scaricare l'intero sito web da altri. User-agent: Teleport Disallow: /