Es gibt für Suchmaschinen den Codex sich an den Meta-Tag robots bzw. an die Datei robots.txt beim Indizieren einer Seite zu halten. Über diese beiden Möglichkeiten kann man gezielt steuern welche Seiten von Suchmaschinen erfasst werden und welche nicht. Es ist auch die Kombination von robots.txt und Meta-Tags möglich, hier muss allerdings auf Abhängigkeiten geachtet werden.
robots.txt
Die Datei robots.txt muss im Root-Verzeichnis des Webservers liegen und damit unter http://www.domain.com/robots.txt erreichbar sein.